‘완전 자동화 무기’ 금지 요구하는 공개 서한 발표

1000명이 넘는 저명한 인공지능(AI) 전문가들이 설계자가 아니라 기계의 자체 판단에 따라 작동하는 ‘완전 자동화 무기’의 금지를 요구하는 공개서한을 발표했다.

28일(현지시간) 아르헨티나의 부에노스 아이레스에서 열린 ‘국제 AI 합동 학술회의’에 제출된 이 서한의 서명자에는 영국 우주물리학자 스티븐 호킹 박사와 테슬라·스페이스X 최고경영자(CEO) 일론 머스크, 애플 공동 창업자 스티브 워즈니악 등이 포함됐다.

이들은 “현재 AI 기술은 완전 자동무기 배치가 수십 년이 아니라 수년 내 가능한 지점에 도달했다”면서 “이에 따른 위험성이 높아졌다”고 지적했다.

이들은 인간을 대체하는 자동무기 사용으로 사상자 비율이 감소하는 긍정적인 효과가 있을 수 있지만 무기에 대한 AI 기술의 광범위한 적용이 무력 충돌의 비용을 낮추고 그 빈도를 높일 수 있다고 경고했다.

AI 무기가 핵무기와 달리 비싸지 않고 원재료를 구하기도 어렵지 않기 때문에 AK 소총처럼 대량생산돼 세계 곳곳에서 사용될 수 있다는 것이다. 이들은 “인간의 제어를 벗어난 이러한 무기를 금지하는 법을 제정해야 한다”고 주장했다. 일부 과학자와 사업가들은 이미 군대의 인공지능 사용에 제한을 걸고 있다.

영국의 AI 관련 기업 ‘딥마인드(DeepMind)’는 지난해 구글에 인수되면서 자사 기술을 군사적 목적으로 사용할 수 없다는 조건을 건 바 있다. 호킹과 머스크 등이 속한 연구자 모임인 ‘삶의 미래 연구소(Future of Life Institute)’는 올해 초 AI를 인류에 해악이 되지 않는 방향으로 연구하자고 스스로 다짐하는 편지를 발표한 바 있다.

배병우 선임기자 bwbae@kmib.co.kr