오픈AI, 구글 딥마인드, 앤트로픽 등 주요 AI(인공지능) 기업들의 전·현직 직원들이 AI의 위험을 경고하고 나섰다.
이들은 4일 발표한 공개 서한에서 AI 기술이 인류에 심각한 위험을 초래할 수 있다면서 AI 기업들이 투명성을 보장하고 공론화 문화를 조성하기 위해 전면적인 변화를 시행할 것으로 촉구했다.
이들은 AI가 불평등을 악화시키고 잘못된 정보를 늘리며 AI 시스템이 자율화돼 중대한 사망을 초래할 수 있다고 밝혔다. 이어 이러한 위험은 완화될 수 있지만 기업들은 “강력한 재정적 인센티브” 때문에 감독에 제한적이라고 비판했다.
이들은 “AI 회사는 시스템의 기능과 한계, 보호 조치의 적절성, 다양한 종류의 위해 위험 수준에 대한 상당한 비공개 정보를 보유하고 있다”면서 “그러나 현재 이러한 정보 중 일부를 정부와 공유할 의무가 약하고 시민사회와 공유할 의무는 없다. 우리는 기업들이 이 정보들을 자발적으로 공유할 것으로 생각하지 않는다”고 지적했다.
이들은 또 정부의 감독이 없다면 전·현직 직원들은 기업에 책임을 물을 수 있는 “몇 안 되는 사람들”이라고 강조했다. 하지만 직원들은 광범위한 비밀유지 협약'에 발목이 잡혀 있고, 일반적인 내부고발자 보호는 불법행위에 초점을 맞추고 있어 우려의 목소리를 내는 직원들은 보복을 두려워한다고 전했다.
이들은 공개 서한을 통해 AI 기업들이 투명성을 높이고 내부고발자를 보호할 수 있도록 4가지를 약속할 것을 촉구했다. 위험에 대한 비판을 금지하는 계약을 체결하거나 시행하지 않겠다는 약속, 전·현직 직원들이 우려를 제기할 수 있는 익명의 프로세스 구축, 비판 문화 지원, 그리고 기밀 정보를 공유해 문제를 제기하는 전현직 직원들에게 보복하지 않겠다는 약속이다.
이번 공개 서한에는 오픈AI 11명, 구글 딥마인드 2명 등 총 13명의 전·현직 직원이 참여했다. 오픈AI 공동 창업자인 일야 수츠케버, 오픈AI에서 AI 위험 문제를 연구하는 ‘얼라인먼트 팀’을 이끌었던 얀 레이크도 이번 서한에 서명했다. 둘은 회사에 AI의 위험에 대해 경고하다 지난 달 사직했다. 그들보다 한 달 먼저 오픈AI를 떠난 인공지능 거버넌스 연구원 다니엘 코코타일로도 이번 서한에 참여했다.
영국 가디언은 ‘AI에 대한 경고권’을 요구하는 이번 서한은 AI 산업 내부에서 나온 가장 공개적인 비판 중 하나라고 평가했다. 인공지능의 ‘대부’로 여겨지는 요수아 벤지오와 제프리 힌튼, 저명한 컴퓨터 과학자 스튜어트 러셀 등도 공개 서한을 지지했다.
공개 서한에 대해 오픈AI 측은 회사의 문제를 보고할 수 있는 익명의 핫라인 등이 있고, 적절한 안전장치가 있을 때까지 새로운 기술을 출시하지 않았다며 자사의 관행을 옹호했다. 구글은 논평을 내지 않았다.
김남중 선임기자 njkim@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
