러시아계 유대인 아이작 아시모프는 과학 대중화에 이바지했다는 찬사를 받는 SF소설 거장이다. 파운데이션 시리즈에 나오는 심리역사학(psychohistory)이란 신조어가 옥스퍼드 영어사전에 수록될 정도다. 1955년 강의·월급 포기라는 조건으로 미국 보스턴대 생화학과 교수 직위만 유지한 채 전업 작가로 변신해 500편에 육박하는 저작을 남겼다. 아시모프가 20대 시절에 발표한 단편 ‘런어라운드(Runaround)’엔 로봇 3원칙이라는 독창적 개념이 등장한다.
‘서기 2058년 제56판 로봇공학의 안내서’에서 인용한 거로 서술되는 로봇 3원칙은 다음과 같다. ①로봇은 인간에게 해를 입혀선 안 되며 부작위로 인간이 해를 입게 둬서도 안 된다, ②1원칙에 어긋나지 않는 한, 로봇은 인간 명령에 복종해야 한다, ③1원칙과 2원칙에 어긋나지 않는 한, 로봇은 자신을 보호해야 한다. 영화로도 제작된 ‘나, 로봇(I, Robot)’에선 이를 둘러싼 모순이 흥미롭다.
최근 로봇 3원칙을 떠오르게 하는 일이 벌어졌다. 피트 헤그세스 미국 국방부 장관은 지난 24일(현지시간) 앤트로픽 최고경영자(CEO)인 다리오 아모데이를 소환해 인공지능(AI) 챗봇 클로드를 모든 용도에 제한없이 쓰는 데 동의하라고 압박했다. 앤트로픽에서 설정한 ‘안전장치’를 걷어내라는 요구다. 클로드는 니콜라스 마두로 베네수엘라 대통령 체포 작전에 활용돼 효능을 입증했다고 한다. 아모데이는 26일 블로그를 통해 AI가 대규모 자국민 감시, 완전 자율형 살상 무기에 쓰이는 걸 거부했다. 그는 “양심상 그들의 요구를 받아들일 수 없다”고 했다.
군사 분야는 가장 빠르게 AI와 로봇을 적용할 곳으로 꼽힌다. ‘전투 AI’를 볼 날이 머지않아 보인다. 동시에 테러집단 손에 AI가 들릴 수 있다.
아시모프의 로봇 3원칙은 ‘로봇은 인류에 대한 헌신이라는 본래 목적에 맞게 행동해야 한다’는 한 문장으로 압축된다. 어디까지나 소설 속 얘기다. 현실도 이와 같기를 기대하는 건 헛된 꿈일까.
김찬희 논설위원
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
