전 세계 유명인 약 4000명이 실제 사람의 얼굴을 합성한 딥페이크 음란물 피해자라는 조사 결과가 나왔다.
영국 일간지 가디언은 방송사 채널4(Channel 4)가 방문자 숫자가 가장 많은 딥페이크 웹사이트 5곳을 분석한 결과, 영국인 255명을 포함해 4000명의 유명인들이 딥페이크 음란물의 표적이 된 것으로 나타났다고 21일(현지시간) 보도했다.
이 게시물들은 사이트 5곳에서 석 달 동안 조회수 1억뷰를 기록한 것으로 드러났다.
피해자 중 한 명인 채널4 뉴스 진행자 캐시 뉴먼은 “모르는 사람이 나의 가짜 버전을 볼 수 있다는 게 정말 소름끼친다”고 말했다.
영국은 지난 1월 31일 딥페이크 음란물 확산에 대응하기 위해 온라인 안전 법(Online Safety Act)에 따라 동의 없는 음란물 공유 행위를 불법으로 규정했다. 그러나 아직까지 음란물 제작 자체는 규제 대상이 아니다.
가디언에 따르면 2016년 조사 때 단 한 개의 딥페이크 음란물이 발견된 반면 2023년 1분기부터 3분기까지는 총 14만 개의 영상들이 40곳의 음란물 사이트에 게시된 것으로 파악됐다.
영국의 통신 미디어 규제 기관 오프콤(Ofcom)의 대변인은 “불법 음란물은 피해자들에게 큰 고통을 준다. 온라인 안전 법에 따라 기업들은 콘텐츠의 위험도를 평가하고 유통을 막기 위해 조치를 취해야 한다”고 말했다.
구글 대변인 역시 “이러한 콘텐츠들이 얼마나 괴로울지 알고 있으므로 피해자들을 돕기 위한 보호 시스템을 구축중”이라며 “딥페이크 피해를 막기 위해 검색용 안전 장치를 마련중”이라고 밝혔다.
메타의 라이언 대니얼스는 “메타는 아동 음란물과 동의 없이 제작된 음란물 제공을 금지하고 있다. 또한 딥페이크 콘텐츠를 만들 수 있는 애플리케이션에 대한 광고와 계정들을 삭제하고 있다”고 말했다.
딥페이크로 인한 문제는 국내도 마찬가지이다. 방송통신심의위원회에 따르면 국내 딥페이크 기반 성적 허위 영상물에 대한 시정 요구 건수는 해마다 느는 추세다. 2020년 473건을 시작으로 2021년 1913건, 2022년 3574건이었으며 지난해에는 1~11월까지의 요구 건수가 6000건에 달했다.
관련 피해가 증가하고 있지만 딥페이크를 가려내는 기술과 규제는 걸음마 수준이다.
지난해 12월 발의된 AI 활용 콘텐츠 표시 의무화를 골자로 한 정보통신망법 개정안은 여전히 국회에 계류중이며 딥페이크 제재는 기업의 자율에 맡겨져 있다.
한편 지난 13일 유럽연합(EU)은 세계 최초로 AI 규제법안 마련에 대해 찬성했다. 또한 21일 유엔(UN)이 AI 결의안을 채택함에 따라 국내 AI 규제 논의가 본격화될 가능성도 높아졌다.
김민경 인턴기자 onlinenews1@kmib.co.kr