카이스트發 ‘AI 킬러로봇’ 논란… 세계 로봇학자들 ‘보이콧’ 왜?

“인공지능 무기 만들지 말라” 공개 경고
자율살상무기 연관 기술 개발 의심
“포기 확신 줄 때까지 어떠한 협력 거부”
구글내부도 전쟁사업 동참 반대 목소리
카이스트 “인간존엄 어긋나는 일 안해”

인공지능(AI)으로 작동되는 무기에 인류애를 기대할 수는 없을 것이다. 인간의 존엄성이나 생명, 윤리에 대한 가치 판단보다 오직 설정된 목표를 달성하기 위해 망설임 없이 임무만 수행할 것이다. 자율살상무기(autonomous weapons) 개발이라는 판도라의 상자는 한 번 열리면 다시 닫히기는 어렵다. 때문에 AI 기술이 대량살상무기 체계에 활용돼 인류에 재앙을 가져오는 사태를 막아야 한다는 목소리가 확산되고 있다. 유엔과 인권단체, 또 AI 기술 개발에 앞장서 온 학자들조차 한목소리로 ‘AI 킬러 로봇’에 노(No)를 외치고 있다.

영국 파이낸셜타임스(FT)는 4일(현지시간) 세계 로봇 학자들이 다음 주 스위스 제네바에서 열리는 유엔의 자율살상무기 관련 논의를 앞두고 한국과학기술원(KAIST, 카이스트)과 앞으로 어떤 협력도 하지 않겠다며 보이콧을 선언했다고 전했다. KAIST가 지난 2월 한화그룹 계열사인 한화시스템과 손잡고 문을 연 국방인공지능 융합연구센터가 ‘킬러 로봇’ 연관 기술을 개발할 수도 있다는 이유에서다.

토비 월시 호주 뉴사우스웨일스대 교수를 비롯한 50여명의 학자들은 공개서한에서 “유엔 차원에서 자율살상무기 개발을 제한하는 논의를 진행하고 있는 상황에서 KAIST가 AI 기술을 이용한 무기를 개발하려는 목적을 가지고 국방인공지능 융합연구센터를 열고 무기 개발 경쟁에 나섰다”고 주장했다. 이어 “인간의 통제력이 결여된 무기를 개발하지 않겠다는 확신을 줄 때까지 연구원 초청·방문을 비롯해 KAIST와 어떤 협력도 거부하겠다”고 밝혔다. 또 “자율살상무기는 전쟁에서 역사상 그 어느 때보다 큰 인명 피해를 불러올 수 있을 뿐 아니라 테러의 잠재적 도구로 활용될 위험이 있다”면서 “인간의 삶을 해치기 위해서가 아니라 개선하기 위해 AI 기술을 사용하라”고 촉구했다.

미국 실리콘밸리를 대표하는 기업 구글에서도 “AI 기술이 전쟁 기술이 돼선 안 된다”는 목소리가 나오고 있다. 뉴욕타임스는 이날 구글 직원들이 미 국방부 프로그램 ‘프로젝트 메이븐’에 참여하는 것을 반대한다는 내용의 편지를 순다르 피차이 구글 최고경영자(CEO)에게 보냈다고 전했다. 프로젝트 메이븐은 무인항공기 타격률을 높이기 위해 비디오 이미지를 분석하는 데 AI를 활용하는 프로젝트다. 구글 직원들은 “우리는 구글이 전쟁 사업에 동참해서는 안 된다고 믿는다”고 강조했다.

AI 기술이 살상을 목적으로 하는 무기 개발에 이용될 수 있다는 우려는 그간 계속 있어 왔다. 유엔 인권위원회는 이미 2013년에 킬러 로봇이 미국 이스라엘 영국 일본 등에서 개발 중이거나 전투에 투입되고 있다는 내용의 보고서를 발표했다. 유엔은 지난해 11월 제네바에서 특정재래식무기금지협약(CCW) 회의를 열고 킬러 로봇에 대한 논의를 시작했다. 최근 타계한 물리학자 스티븐 호킹 박사와 테슬라 창업자 일론 머스크 등은 “인류의 멸망을 초래할 수 있다”며 AI를 활용한 무기 개발에 반대 의사를 밝힌 바 있다. 휴먼라이츠워치, 국제앰네스티 등은 킬러 로봇 개발 반대 캠페인을 벌이고 있다.

이에 KAIST는 5일 해명자료를 내고 “국방인공지능 융합연구센터는 방위산업 관련 물류 시스템, 무인 항법, 지능형 항공훈련 시스템 등에 대한 알고리즘 개발을 목표로 설립된 것”이라며 “자율살상무기를 포함해 인간 존엄성에 어긋나는 연구 활동을 수행하지 않을 것”이라고 밝혔다. 신성철 총장은 전날 이런 내용의 서신을 보이콧 서명에 참여한 교수들에게 전달했고, 일부 교수들은 ‘해명해줘서 고맙다’는 내용의 답신을 보내왔다고 한다. 다만 서명을 주도한 월시 교수는 여전히 의혹이 완전히 해소되지 않았다고 주장한다. 보이콧 중단 여부도 아직 결정되지 않았다.

임세정 이재연 기자 fish813@kmib.co.kr