조 바이든 대통령은 미국 기업이 인공지능(AI) 모델 안전 테스트 결과를 정부와 공유하도록 지시했다. 딥페이크 사기 등을 방지하기 위해 AI로 만든 콘텐츠에 워터마킹을 부착도록 하는 등의 콘텐츠 인증도 개발하도록 했다.
조 바이든 대통령은 30일(현지시간) 백악관에서 이 같은 내용의 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다.
행정 명령은 AI 시스템 개발자가 안전 테스트 결과 및 다른 중요 정부를 정부와 공유하도록 했다. 기업들은 국가 안보나 경제, 공중 보건 등에 심각한 위험을 초래하는 AI 모델을 테스트할 때 연방 정부에 알리고, 그 내용을 제출해야 한다. 백악관은 이번 조치를 강제하기 위해 국방물자생산법을 적용했다.
행정명령은 AI로 생성된 콘텐츠를 식별하고 공식 콘텐츠를 인증하는 표준을 수립하도록 했다. 상무부는 이번 명령에 따라 콘텐츠 인증 및 워터마크에 대한 지침을 개발한다.
행정명령에는 AI 발전으로 인한 노동력 대체 등 노동자 피해를 줄이고 혜택을 극대화하기 위한 원칙 개발 내용도 담겼다. AI를 이용해 위험한 생물학적 물질을 생산하는 것을 차단하기 위해 생물학적 합성 스크리닝 표준도 개발한다.
바이든 대통령은 “책임감 있는 AI 사용은 세상을 더욱 번영하고 혁신적으로 만들 잠재력이 있지만, 무책임한 사용은 사기, 차별, 편견, 허위 정보와 같은 사회적 피해를 악화할 수 있다”고 말했다.
또 “사기 치기 위해 AI가 만든 오디오와 영상이 이미 쓰이고 있다. 딥페이크는 평판을 훼손하고 가짜뉴스를 퍼트린다”며 “나도 내 것(딥페이크)을 본 적이 있는데 ‘내가 언제 저렇게 말했지’라고 (스스로) 말하기도 했다”고 지적했다.
백악관은 11월 1~2일 영국에서 열리는 ‘AI 안전 정상회의’에 참석해 국제 파트너들과 AI 표준 개발도 가속하기로 했다. 이번 행사는 주요국 정부 고위 관계자와 테크 기업, AI 전문가가 공동 대책을 논의하는 자리다. 카멀라 해리스 미 부통령 등 주요 7개국(G7) 인사들과 네이버, 삼성전자 등 한국 기업 관계자도 참석한다.
워싱턴=전웅빈 특파원 imung@kmib.co.kr