인공지능 로봇이 인간의 명령을 거부한다면? 과학자들이 인공지능에 인위적으로 감정을 입력하면서 로봇은 스스로 '사고'할 수 있게 됐다. 감정을 지닌 일부 로봇은 사람의 명령을 거절하기도 한다. 인간에게 완전히 통제받지 않는 로봇 ‘쉐이퍼’는 명령을 거부하고 주저앉거나 엉엉 울기도 한다.
인공지능 로봇 ‘쉐이퍼’는 사람의 말을 거절할 수 있다. MBC 다큐멘터리 ‘미래인간 AI’ 영상 속 한 연구원은 ‘쉐이퍼’에게 빨간색 깡통으로 탑을 쌓으라고 명령했다. 탑을 모두 쌓은 쉐이퍼는 영어로 “와 해냈다”라고 말한다. 연구원은 이어 “잘했어. 이제 탑을 무너뜨려”라고 명령하고 쉐이퍼는 이에 반발한다. “하지만 방금 탑을 세웠는데요”라며 주인에게 되묻는다.
연구원이 다시 한 번 강한 목소리로 “빨간 탑을 무너뜨려줄래?”라고 말하자 로봇은 “제발요. 탑을 열심히 세웠어요”라며 명령을 완강하게 거부했다. 연구원이 재차 탑을 무너뜨려 달라고 요구하지만 쉐이퍼는 “제발. 안돼요”라고 거부 의지를 굽히지 않았한다. 연구원이 2~3번 더 묻자 쉐이퍼는 한참을 고민한다.
고민하던 로봇은 빨간 탑 앞으로 걸어가 공들여 쌓은 탑 앞에 서서 엉엉 울음소리를 냈다. 울음을 터뜨리며 마지막 항변을 하던 쉐이퍼는 결국 탑을 무너뜨린다.
인간의 명령을 단순하게 따르지 않는 쉐이퍼의 모습이 알려지자 “진짜 나중에 인공지능 로봇이 세상을 지배할지도 모른다”는 우려 섞인 반응이 나왔다. 공들여 세운 탑을 무너뜨리기 싫어하는 걸 보면서 “인공지능도 사람처럼 감정을 가지게 됐다. 신기하다”는 반응도 있었다.
하지만 쉐이퍼의 감정은 기술로 ‘입력된’ 것이었다. 쉐이퍼는 자신에게 손상이 일어날 수 있는 인간의 명령은 거절할 수 있도록 만들어진 로봇이다. 이 로봇은 현재 알고 있는 사실에 근거해 앞으로의 상황을 확률로 분석해 예측한다. 그 후 인간의 명령에 따를 것인지를 결정한다.
쉐이퍼를 개발한 미국 터프츠대학교 메타이스 슈츠 박사와 골든 브리그스 엔지니어는 인공지능 시스템에 자율판단 의지를 부여했다. 이때 이들은 인간의 긍정적인 가치들을 모아 인공지능에 입력했다. 인공지능이 단순히 인간의 명령을 받아들이는 게 아니라 인간에게 이로운 방식으로 행동할 수 있도록 하기 위해서다.
예를 들어 로봇이 책상 위에서 계속 앞으로 걸어가면 떨어지기 마련이다. 이때 인간이 “계속 걸어가라”고 명령한다면 로봇은 자신의 위험한 상황을 예측해서 “할 수 없다”고 답한다. 로봇의 상황을 인지하고 “떨어지면 잡아주겠다”고 제안하면 쉐이퍼는 안심하고 책상 끝까지 걸어간다.
박세원 기자 sewopark@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
