러시아 천문학자 니콜라이 카르다셰프는 1964년 문명의 진보 수준을 3단계로 분류했다. 1단계는 행성에 도달하는 모든 태양에너지를 활용하는 문명, 2단계는 태양의 모든 에너지를 활용하는 문명, 3단계는 은하 전체의 에너지를 활용하는 문명이다. 지구는 어디에 해당할까. 그 답은 쉽게 계산할 수 있다. 가령 지구인의 문명 수준이 1단계에 해당하는지 살피려면 지구 표면 1㎡에 도달하는 햇빛의 양에 지구의 총면적을 곱한 뒤 지구에서 생산되는 총에너지와 비교하면 된다.
현재 지구에서 만들어지는 에너지는 지구에 닿는 태양에너지의 100분의 1 수준이다. 아직 지구는 1단계에도 근접하지 못했다. 학자들은 지구 문명이 앞으로 100~200년 뒤 1단계에 도달할 것으로 전망한다. 눈여겨봄 직한 지점은 이 광막한 우주 공간에서 아직 1단계 문명을 일군 외계 생명체가 발견되지 않았다는 점이다. 누군가 그 이유를 묻는다면 테슬라 창업자인 일론 머스크가 했던 발언이 힌트가 될 성싶다. 언젠가 그는 이렇게 추정했었다. 고도의 과학기술을 보유한 외계문명은 무기의 위력도 상상을 초월할 것이니 서로 싸우다가 이미 전멸했을 거라고.
올해 들어 지구촌엔 인공지능(AI)과 관련된 다양한 우려가 쏟아지고 있다. 영화 ‘터미네이터’에서 지구를 결딴내려 하는 스카이넷처럼 AI가 결국 인류를 파멸로 이끌 것이라는 전망도 나온다. 이런 AI 비관주의 진영을 대표하는 학자 가운데 가장 유명한 이는 영국 옥스퍼드대 교수인 닉 보스트롬이다.
그는 2014년 출간된 ‘슈퍼인텔리전스’를 통해 지금의 인류를 시한폭탄을 갖고 노는 어린아이에 비유했다. 제목인 ‘슈퍼인텔리전스’는 인간 지능을 뛰어넘는 초지능을 의미하는데, 그가 초지능 출현 시기로 예상한 때는 (책이 출간된 2014년 기준으로) 30~40년 후였다. 하지만 그는 이런 전망을 다시 수정한 바 있다. 2018년 출간된 인터뷰집에서 그는 “최근 수년간 딥 러닝(Deep Learning)이 눈부시게 진보한 까닭에 초지능이 도래할 시기는 내 예상보다 상당히 빨라졌다”고 말했다.
그가 초지능 시대가 유토피아가 될 수 없다고 판단하는 이유는 크게 두 가지다. 첫째는 AI가 인간을 속이는 상황이 발생할 수 있어서다. 예컨대 ‘인간을 행복하게 하는 것’이 목표로 설정된 AI가 있다고 가정해보자. AI는 인간의 쾌락 중추에 전극을 이식하는 식의 왜곡된 방식으로 목표를 실현할 수 있다. 또 하나의 문제는 AI가 초지능으로 도약하는 기간이 순식간일 수도 있다는 점이다. 그는 AI가 초지능으로 거듭나는 ‘빠른 도약’이 일어났을 때의 상황을 이렇게 설명한다.
“이 시나리오에서 우리는 기계 초지능의 도약에 대해서 신중히 생각해볼 기회가 거의 없을 것이다. 알아차리기도 전에 하던 게임에서 이미 패배한 상황일 수 있는 것이다.… 단지 한두 시간 만에 세계가 급진적으로 탈바꿈하고, 인류가 사유하는 존재의 정점 자리에서 밀려나게 되는 것이 비현실적인 공상처럼 느껴질 수도 있다.… (하지만) 도약이 일어난다면, 그것은 폭발적인 과정일 가능성이 크다.”
물론 이런 비관론은 호들갑에 그칠 가능성이 크다. 물리학자 정재승이 언젠가 했던 말처럼 AI에 인간을 지배하는 욕망을 넣어주는 것은 어려운 일일 테니까. 하지만 분명한 사실은 지금 과학의 최전선에서는 인류의 앞날을 크게 바꿔놓을 일들이 간단없이 벌어지고 있다는 점이다. 미국 매사추세츠공과대(MIT) 물리학과 교수 맥스 테그마크는 AI가 만들 미래의 살풍경과 별천지를 담아낸 저서 ‘맥스 테그마크의 라이프 3.0’에 이렇게 적었다.
“운명으로 정해진 것처럼 ‘무슨 일이 일어날까’라고 수동적으로 물어보는 것은 그 자체로 잘못이다.… 우리는 이렇게 물어봐야 한다. ‘무슨 일이 발생해야 하는가. 우리가 원하는 미래는 무엇인가.’ 무엇을 원하는지 모른다면 아무것도 손에 쥐지 못한다.”
박지훈 종교부 차장 lucidfall@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
