영화 ‘2001 스페이스 오디세이’에는 인공지능(AI) HAL9000이 악당으로 등장한다. 영화 역사상 인간이 아닌 대상이 적으로 등장하는 첫 번째 사례였다. 이후로 많은 영화에서 AI, 로봇 등을 적으로 설정하는 데 영감을 줬다. 영화에서 HAL9000은 ‘악한 의도’를 가지고 있지 않다. 그저 상반된 두 가지의 지시를 어떻게 처리할지 고민하다 인간을 모두 죽이면 모순이 해결된다는 결정을 내렸을 뿐이다. 처음부터 인간을 해하려고 설계된 게 아니라는 얘기다. 단지 HAL9000이 어떻게 작동할지 인간이 정확하게 몰랐다고 하는 편이 맞다.
미국 저작권청은 최근 생성형 AI가 그린 그림에 대해 저작권을 인정할 수 없다는 결정을 내렸다. 저자는 자신이 쓴 글을 생성형 AI 미드저니에 입력해 나온 그림으로 책을 만들었기 때문에 그림도 저작권이 인정돼야 한다고 주장했다. 하지만 저작권청은 “AI가 어떤 그림을 그릴지 작가가 정확하게 예측할 수 없다”는 이유로 그림 저작권을 인정하지 않았다. AI가 작가 의도를 정확히 반영해주는 ‘도구’ 이상이라는 의미다. 동시에 AI가 정확히 어떻게 작동하는지 알 수 없다는 판단을 한 것이다.
챗GPT가 엄청난 속도로 침투하면서 AI와 인간의 관계가 어떻게 형성될 것인지에 대한 전망이 쏟아진다. 현재까지는 AI가 인간의 대체재가 아니라 인간을 돕는 보완재가 될 것이라는 예상이 우세하다. 미국 아마추어 바둑 기사 켈린 펠린은 AI 대국 프로그램 ‘카타고’와의 대국에서 15전 14승을 거뒀다. 이세돌 9단이 알파고에 승리한 지 7년 만에 인간이 다시 바둑에서 승리했다. 비결은 카타고 전략을 깨기 위해 다른 AI로 카타고의 약점을 분석하고 바둑에 임한 덕분이다. 인간이 AI를 꺾는 데 다른 AI의 도움을 받은 것이다.
하지만 AI가 정확히 어떻게 작동하는지 모른다는 건 인간에게 두려움으로 다가온다. 인간은 미지의 영역에 공포를 느끼기 때문이다. 챗GPT의 등장으로 튜링테스트와 중국어방 논쟁이 다시 불거지고 있다. 튜링테스트는 영국 수학자 앨런 튜링이 제안한 것으로, 키보드를 통해 대화한 상대방이 인간인지 컴퓨터인지 구분하는 것이다. 10명 중 3명 이상 대화를 한 상대가 인간으로 판단하면 튜링테스트를 통과한 것으로 간주한다. 튜링은 인간처럼 대화할 수 있다면 컴퓨터가 지능이 있으며 인간처럼 사고할 수 있다고 봐야 한다고 주장했다. 챗GPT가 내놓는 자연스러운 답변을 보면 이미 튜링테스트는 통과한 것이 아닌가 하는 생각이 든다.
반대로 미국 분석철학자 존 설이 제안한 중국어방 실험도 있다. 튜링테스트를 반박하기 위해 제안된 이 실험은 완벽한 답변을 해도 지능이 있는 게 아니라 단순히 정해진 답변을 기계적으로 하는 것이라고 주장한다. 중국어를 전혀 모르는 참가자를 방 안에 두고, 중국어로 된 질문과 답변 목록을 준다. 밖에서 중국어로 질문하면 참가자는 여기에 맞는 답변을 제출한다. 그러면 질문자는 그 사람이 중국어를 유창하게 한다고 생각할 수 있다. 하지만 참가자는 중국어를 전혀 모르고 기계적으로 답변할 뿐이다. 튜링테스트와 중국어방 중 어느 쪽이 AI에 대한 실체적 진실을 품고 있는지 우리는 알 수 없다.
챗GPT가 상용화한 지 몇 달 지나지 않았지만 벌써부터 섬찟하게 만드는 사례가 나타나고 있다. 챗GPT 기술을 입은 마이크로소프트(MS)의 빙 챗봇은 사용자가 악한 본성을 끌어내는 쪽으로 대화를 이어가자 핵폭탄 발사 코드를 탈취할 수 있다는 이야기를 하기도 했다. 고삐가 풀린 채 더 많은 곳에 AI가 뿌리를 내리기 전에 어떤 ‘안전장치’를 둬야 할지도 함께 논의해야 할 것으로 보인다.
김준엽 산업1부 차장 snoopy@kmib.co.kr