6월 대선이 코앞으로 다가오면서 예비후보들과 관련한 딥페이크 콘텐츠가 SNS에서 무작위로 확산하고 있다. 딥페이크는 인공지능(AI) 기술로 가상의 음향·이미지·영상을 제작해 사실로 인식하도록 조작한 허위 정보다. AI 기술 고도화로 콘텐츠 진위를 판단하기 어려워진 데다 AI 워터마크 표시 의무도 없어 딥페이크로 인한 예비후보들의 피해가 가중될 전망이다. 정치권은 딥페이크 네거티브에 강력 대응해 선거를 차질 없이 준비하겠다는 계획이다.
14일 정보기술(IT) 업계에 따르면 최근 정치 관련 커뮤니티와 동영상 플랫폼 틱톡 등에 AI로 만든 주요 대선 주자들의 가짜 사진과 영상이 다수 게시되고 있다. 이재명 전 더불어민주당 대표가 가족에게 욕하는 음성이나 윤석열 전 대통령 부부가 수영복을 입고 거리를 활보하는 영상 등 유명 인사들의 이미지에 흠집을 내려는 의도의 창작물이 빠르게 퍼지고 있다. 윤 전 대통령이 한동훈 전 국민의힘 대표의 가발을 벗기는 딥페이크 영상은 지난 9일 틱톡에 올라온 뒤 일주일도 되지 않아 조회수 140만회를 기록하고 여러 계정에서 약 2000회 재게시되기도 했다.
앞서 정치권에서는 딥페이크 영상으로 인한 부작용을 심각하게 받아들이고 국회에서 ‘AI 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)을 통과시켰다. 내년 1월 시행을 앞둔 해당 법안은 AI 생성물에 대한 투명성 확보 의무를 부여하고 워터마크 표시 의무를 규정하고 있다. 다만 이번 대선은 AI 기본법이 시행되기 전인 법안 공백기에 해당하기 때문에 워터마크 표시 의무가 없고, 온라인에선 AI 제작물 표시 글자를 지우는 영상 툴까지 공유되고 있다.
지난해 4·15 총선 때도 예비후보들을 공격하는 딥페이크 영상은 심각한 문제로 부상했지만 2023년 개정된 공직선거법 개정안으로 피해를 예방했다. 해당 개정안은 AI로 만들어 실제와 구분하기 어려운 가상의 음향·이미지·영상 등을 딥페이크 영상으로 규정하고, 선거일 90일 전부터 선거운동을 위한 딥페이크 영상의 제작 및 유포 등을 금지하고 있다. 이번 대선이 AI 기본법 시행 전에 열리는 선거인 만큼 앞서 마련된 공직선거법 개정안을 적극 활용해야 한다는 의견이 나온다.
민주당은 얼굴을 합성한 영상물 등 악의적 목적으로 제작된 게시글이 유포될 경우 엄정 대응한다는 방침이다. 민주당은 지난 1월 허위조작 정보에 신속하게 대응하기 위해 당내 플랫폼인 ‘민주 파출소’를 출범한 상태다. 민주당 관계자는 “(허위 영상이) 문제 소지가 있다고 판단되면 당 법률지원단이 민형사상 조치를 검토할 것”이라며 “메타와 구글 등 각 플랫폼의 담당부서와도 유기적으로 협조하고 있다”고 덧붙였다. 중앙선거관리위원회도 최근 선거 특별대응팀 내 ‘허위사실비방 딥페이크 검토자문단’을 꾸리고 AI로 만든 허위 콘텐츠 단속에 나섰다.
나경연 송태화 기자 contest@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
1446
