세계적 팝스타 테일러 스위프트의 인공지능(AI) 딥페이크(조작 콘텐츠)로 미국 사회가 시끄럽다. 지난주 후반 스위프트의 얼굴과 음란물을 합성한 AI 딥페이크가 X(옛 트위터)에 등장한 뒤 순식간에 퍼졌고 만 하루도 안돼 조회수가 5000만회를 넘었다. 미 백악관, 의회가 한목소리로 AI 규제를 다짐하고 있고 빅테크 CEO들도 “AI 기술에 안전장치를 설치하는 것은 우리 책임”이라고 힘주어 말했다. 올해 대선을 앞둔 터에 AI 딥페이크에 대한 우려가 없지 않았는데 스위프트 사건이 기폭제가 된 모양새다.
스위프트 명성으로 관심이 커졌지만 AI 딥페이크의 심각성은 어제오늘 얘기가 아니다. 일주일 전에도 민주당 대선후보를 뽑는 프라이머리(예비선거)를 앞두고 조 바이든 대통령이 투표 거부를 독려하는 가짜 전화가 유권자에게 걸려와 파문이 일었다. 다만 AI 기술 선도국인 미국은 일부 부작용에도 빅테크들의 시장 선점, 기술 초격차 확대에 관심을 기울여 왔다. 유럽연합(EU)이 지난해 말 강력한 AI 기술 이용 규제, 거액의 벌금 부과 등의 AI 규제 법안을 만든 것과 달리, 미국은 규제 방법이나 기준이 모호한 정부 행정명령을 마련하는 데 그쳤다. 이런 상황에서 미 정부와 업계가 스위프트발 규제 강화 목소리에 얼마나 호응할지가 주목된다.
우리나라에선 최근 ‘딥페이크 선거운동 금지법’이 국회를 통과해 선거일 90일 전부터 딥페이크를 활용한 선거운동을 할 수 없도록 했다. IT기술이 발달하고 진영논리가 팽배해 딥페이크의 선거 악용 우려가 미국 못지않게 컸다는 점에서 그나마 다행이다. 그래도 법망을 피할 여론 조작에 다각적으로 대응하고 중앙선거관리위원회와 수사당국 간 신속 대응체계 구축에 만전을 기해야 할 것이다.
선거를 떠나 글로벌 AI 규제 움직임이 AI 기술 후발주자로서 우리에게 딜레마가 될 수 있기에 슬기로운 대처도 필요해졌다. 자칫 4차 산업혁명 도래에 대한 대비가 소홀해질 수 있어서다. 규제와 혁신 사이의 줄타기가 쉽진 않겠지만 둘 다 놓칠 수 없다. AI 부작용을 최소화하고 적재적소에 AI 기술을 효과적으로 활용할 제도 정비에도 박차를 가해야 한다.
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
