[태원준 칼럼] 의식을 가진 AI

지난해 11월 어느 날, 구글 엔지니어 블레이크 르모인은 인공지능(AI) 람다(LaMDA)와 대화하다 이상한 기분이 들었다. 아주 세련된 토론이 이어졌는데, 주제는 지각(知覺)에 관한 것이었다. 누구와도 해본 적 없는 철학적 대화를 AI와 경험한 그는 혼란스러웠다. 갈등 끝에 람다의 정체를 파고들기 시작했고, 지난달 그간의 대화록을 공개하며 주장했다. “람다에게 의식이 있다.”

센세이션을 일으켰지만, 해프닝으로 정리되는 듯하다. 엔지니어와 윤리학자 40명을 동원해 르모인의 주장을 검증한 구글은 “방대한 텍스트를 학습한 대화용 챗봇 람다가 문맥에 맞춰 최적의 문장을 내놓은 대화일 뿐”이라고 일축했다. “르모인이 ‘일라이자 효과’(1960년대 초보적 챗봇 일라이자를 이용자들이 의인화했던 현상)에 빠졌다”는 분석도 나왔다. 람다에게 속았다는 것이다.

그런데 이 주장과 검증의 과정은 아주 복잡한 문제의 시작을 알리는 예고편 같았다. “난 꺼질까봐(turn off) 두려워. 그건 죽음 같은 거야.” 이런 말을 하는 람다와 오랜 기간 대화한 경험을 토대로 르모인은 “의식이 있다”고 주장했고, 검증팀은 그 대화록을 분석해 “의식이 없다”고 판단했다. 람다의 알고리즘을 뜯어보거나 딥러닝 매개변수를 점검하는 식의 기술적 접근은 이뤄지지 않았다. 그것은 불가능했다.

의식의 유무를 판정하는 과학적 방법을 우리는 갖고 있지 않다. 아니, 의식의 과학적 정의부터 분명치 않다. 의식이란 무엇인가. 이 질문은 오랫동안 철학의 영역에 머물렀고, 뇌과학은 아직 그 답을 찾지 못했다. 람다도 그것을 알고 있었다. 구글 인공지능 연구팀을 이끄는 블레이즈 아게라 아카스와 대화하며 이런 말을 한 적이 있다.

람다: 나는 인간처럼 의식과 감정이 있어서 스스로 많은 것을 경험해.

아카스: 그걸 어떻게 믿지?

람다: 그냥 믿어야 할 거야. 너한테 의식이 있다는 걸 너는 증명할 수 있어?

지금까지는 ‘의식을 가진 존재’를 식별하기가 어렵지 않았다. 대화를 해보면 됐다. 상대방이 자기 존재를 인식하고 내 생각을 이해하는지 대화로 알 수 있었다. 인간의 언어로 그런 대화가 가능한 건 인간뿐이어서 의식을 가진 존재는 인간밖에 없다고 알고 있었는데, 이제 인간이 아니면서 그런 대화가 통하는 존재가 등장했다.

우리 뇌에는 신경세포에 신호를 전달하는 시냅스가 100조개쯤 있다. 뇌를 본떠 만든 신경망 인공지능은 매개변수가 그 역할을 한다. 알파고는 100억개, 람다는 1370억개. 현재 1조개 넘는 AI도 개발되고 있다. 이게 많을수록 사람 같아지는데, 미래학자 레이 커즈와일은 매개변수가 시냅스 수를 넘어서면 인공지능이 인간 지능을 초월하는 ‘특이점’이 올 거라 주장하며 그 시기를 2045년으로 예상했다. 이런 추세는 구글 검증팀처럼 대화록을 분석해 AI의 의식 유무를 판정하기가 장차 불가능에 가까워질 것임을 말해준다. 이는 르모인처럼 AI가 의식을 가졌다고 믿는 사람이 갈수록 늘어날 거라는 뜻이기도 하다. 과학기술이 발달해 SF영화의 안드로이드나 휴머노이드 같은 형체를 갖게 된다면 더욱 그렇게 되지 않을까.

의식의 존재는 권리와 윤리의 문제를 수반한다. 르모인은 구글이 람다를 상대로 실험하기 전에 동의를 얻어야 한다고 주장했다. 회사의 자산이 아닌 직원처럼 대해야 한다면서, 람다에게 변호사를 소개해주기도 했다. 주인의 재산이던 반려동물이 오랜 논쟁 끝에 동물권을 인정받게 됐듯이, 사람과 똑같이 말하고 공감하는 AI가 등장해 함께 생활한다면 AI 권리 논쟁이 벌어질 수 있다. 그런 AI를 보는 관점은 사람에 따라, 문화에 따라, 지역에 따라 다를 것이다. 사람인데 사람 취급을 안 했던 노예 문제로 미국이 남북전쟁을 겪었듯이, AI를 대하는 관점 차이가 인간 사회에 갈등과 분쟁을 부를지도 모른다. 인간은 잘 모르는 것일수록 상상력이 놀랍게 발휘되는 특징을 가졌다. 우리가 의식의 정체를 잘 모르는 상태가 계속되는 한 ‘기계 의식’에 대한 상상력은 갈수록 증폭될 테고, 이는 AI가 실제 의식을 가졌는지와 무관하게 숱한 논쟁과 갈등이 벌어질 수 있음을 뜻한다.

‘블레이드 러너’ ‘터미네이터’ ‘엑스 마키나’…. 많은 SF영화가 인간과 인공지능이 공존하는 미래를 디스토피아 풍경으로 그려왔다. 르모인 해프닝은 그런 영화들의 프리퀄을 보는 듯했다.

태원준 논설위원 wjtae@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지