AI 통제하자는데… 따로 노는 전세계

지난달 2일 한 유튜브 채널에 올라온 론 디샌티스 플로리다 주지사의 동영상이 파문을 일으켰다. 미국 공화당 대선 주자 중 한 명인 그가 ‘대선 경선을 포기하겠다’고 전격 선언하는 내용이었기 때문이다. 앞서 경쟁자인 도널드 트럼프 전 대통령이 “디샌티스가 대선 야망을 내려놓을 것”이라는 메시지를 SNS에 남긴 탓에 영상은 더 그럴듯하게 보였다. 그러나 확인 결과 영상은 인공지능(AI)을 이용해 만든 딥페이크로 밝혀졌다. 잠깐이었지만 AI가 만든 가짜뉴스가 현실정치에 큰 혼란을 주는 일이 벌어진 것이다.

AI 기술의 발전 속도가 빨라지면서 피해와 부작용을 우려하는 목소리가 커지고 있다. 주요 7개국(G7) 정상이 지난 5월 일본 히로시마에 모여 전 세계적으로 통용되는 AI 통제 규칙을 만들겠다고 선언했지만 진행 속도는 느리기만 하다. 국가별로 AI 규제에 관한 기본 입장이 달라 ‘공동 규제’에 회의감을 드러내는 목소리가 커지고 있다고 영국 일간 파이낸셜타임스(FT)가 최근 보도했다. 업계는 공통된 제도가 만들어지기까지 국가별 규정을 각각 파악해야 하는 상황이다.


가장 먼저 AI 법안을 만들 것으로 예상되는 곳은 유럽연합(EU)이다. EU는 올해 말까지 AI 규제안을 내놓을 계획이다. 2021년부터 관련 논의를 시작했지만 생성형 AI 등 기술 발전이 이뤄짐에 따라 수정을 거듭하고 있다. EU는 지난 8월 관련 공지를 통해 “EU의 법안은 세계 최초의 포괄적인 AI법이 될 것”이라며 “이를 통해 혁신적인 기술의 개발과 사용을 위한 더 나은 조건을 보장하고자 한다”고 설명했다.

EU를 탈퇴한 영국은 별개의 규제안을 구상 중이다. 지난 3월 ‘친혁신 프레임워크’를 발표하며 유연성과 신속성을 내세웠다. 정부가 기술 자체를 규제하는 것이 아닌 AI 시스템 사용방식을 규제하는 방향으로 규칙을 설계한다는 게 영국 정부의 설명이다. 다만 부처 간 협의 단계가 남아 있어 실제로 규제가 시행되기까지 수년이 걸릴 수 있다.


AI 개발기업의 최대 관심사는 강대국 미국과 중국의 규제 방침이다. 중국은 추천 알고리즘과 생성형 AI를 비롯한 다양한 신기술에 대한 규제를 도입했으며 향후 광범위한 국가 AI법 초안을 마련할 준비를 하고 있다. 핵심은 AI 규제를 통해 정보를 통제하는 것이다. 이 방침은 ‘사회주의의 핵심 가치’를 준수해야 한다는 최근의 생성형 AI 규제에 반영돼 있기도 하다.

미국은 중국보다 느슨한 규제 방향을 가지고 있다. 아직 ‘자율 규제’ 중심이다. 지난 7월 백악관에서 마이크로소프트와 오픈AI, 구글, 아마존, 메타플랫폼이 자발적 약속에 서명했는데, 이 약속에는 AI 시스템을 대중에게 공개하기 전 내외부 검토를 거쳐 이용자가 AI로 생성된 콘텐츠를 식별할 수 있게 하는 내용이 포함됐다. 시스템의 기능과 한계에 대한 투명성을 높이는 방안도 들어 있다.

미 국무부 사이버공간·디지털정책 담당 대사인 너새니얼 픽은 이와 관련해 “기업들이 자발적으로 참여한다는 사실 자체가 해당 기술 분야의 혁신 능력을 저해하지 않는다는 것을 의미한다”고 자평했다. 그는 “자발적이라는 것은 빠르다는 뜻”이라며 “기술 변화의 속도를 고려할 때 거버넌스 구조를 마련하기까지 많은 시간이 주어지는 것은 아니다. 따라서 이 약속은 첫 번째이고 마지막은 아닐 것”이라고 덧붙였다.

조 바이든 행정부는 “책임 있는 혁신을 촉진하기 위한 행정명령을 마련 중”이라고 밝혔지만 내용과 시기 등 자세한 사항은 알려지지 않았다.


문제는 각국이 준비하는 규제 법안의 내용이 천차만별이라는 점이다. EU는 ‘제작자의 책임’을 중시하는 조항을 최근 포함했다. 기술을 만든 제작자가 해당 기술이 어떻게 사용되는지 책임지도록 하는 내용이다. 다른 회사의 라이선스가 부여된 모델이라도 내장된 기술에 한해서는 원제작자가 법 위반에 책임을 져야 하는 구조다. 모델 제작자가 텍스트나 이미지와 같은 콘텐츠 생산자가 보상받도록 하는 시스템을 갖추는 방안도 포함됐다.

업계는 이러한 조항이 유럽의 경쟁력을 위태롭게 할 수 있다며 반발하고 있다. 자동차 제조업체 르노, 맥주 제조업체 하이네켄 등 150개 이상 기업은 지난 6월 EU 의회 등에 “이 법안으로 기술을 개발하고 구현하는 기업들에 불균형적인 규정 준수 비용이 발생할 수 있다”고 지적했다. 소프트웨어 기업인 세일즈포스의 전략기획 담당 수석부사장인 피터 슈워츠도 “이 접근 방식이 다른 미국 기업들의 유럽 지역 사업 방식에 영향을 끼칠 수 있다”고 내다봤다.

중국은 지난 8월 ‘생성형 AI 서비스 관리를 위한 임시조치’를 발표하면서 기업이 신기술을 출시할 때 중국 당국에 보안 검토를 받게 했다. 사회주의 핵심 가치에 부합하지 않는 모델에 대해서는 출시를 막겠다는 의도다. 이에 따라 포털사이트 바이두와 틱톡의 모회사인 바이트댄스 등 중국 기술 관련 기업은 당국의 승인을 받은 뒤 대중에게 생성형 AI 제품을 출시했다. 이 규제는 외국 기업에도 적용된다.

서방은 이러한 중국의 방식에 우려를 표하고 있다. 합법과 불법의 경계가 모호하다는 것이다. 베라 주로바 유럽위원회(EC) 부위원장은 지난달 18일 중국의 데이터법을 겨냥해 “EU 기업들이 우려하고 있다”며 “많은 외국 기업이 어디까지가 (합)법의 선인지 확신하지 못하고 있다”고 설명했다.

FT는 “공통된 규제 근거가 없어 기업들은 지역 간 규정을 파악하기 어려울 것”이라며 “특정 시장에서 어떻게 기술을 운영할지, 특정 지역에서 규정을 지키기 위해 다른 모델을 설계하거나 다른 서비스를 제공해야 하는지 신중하게 검토해야 할 것”이라고 조언했다.

장은현 기자 eh@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지