최신 인공지능(AI) 기술을 악용한 조작 영상이 온라인 플랫폼을 통해 확산되는 사례가 늘고 있다. 조작 수법도 갈수록 교묘해져 가짜 영상임을 가려내기 어려울 정도가 됐지만, 이를 규제하거나 제지할 방법은 마땅치 않은 실정이다.
유튜브에서는 지난달 15일 한 채널에 올라온 프랑스 축구 국가대표 선수 음바페의 기자회견 영상이 화제가 됐다. ‘이강인 영입 마케팅이죠? 일본기자 질문에 음바페 반응 ㄷㄷ’이라는 제목의 영상에서 음바페는 “이강인의 영입이 마케팅을 위함이라고 생각하냐”고 묻는 일본 기자에게 불쾌한 기색을 내비치며 불어로 답변한다. 영상에는 “(이강인이) 재능을 가졌기에 여기로 올 수 있는 것이다”라는 자막이 달렸다.
국내 시청자들은 열렬히 호응했다. 댓글창에는 “음바페 내가 지킨다” “어쩌면 저렇게 말을 잘할까” 등의 칭찬 댓글이 대부분이었다. 영상은 조회 수 1100만회를 돌파했다. 그러나 해당 영상은 AI로 조작된 ‘가짜’였다. 2021년 ‘유로 2020’ 기자회견에서 음바페가 답변한 영상에 ‘TTS(Text To Speech·문장을 음성으로 바꿔주는 AI 툴)’를 이용해 일본 기자의 음성을 만들어 낸 뒤 이를 짜깁기 한 것이다. 음바페는 영상에서 전혀 다른 얘기를 하고 있었지만, 게시자가 마음대로 자막을 갖다 붙인 것이다. 하지만 영상의 사실 여부를 의심하는 댓글은 찾아보기 어려웠다.
TTS를 이용한 조작 의심 영상들은 이외에도 곳곳에서 발견된다. 또 다른 유튜브 채널에는 독도를 일본 땅이라고 부른 교수님을 ‘참교육’하는 한국인 유학생이라는 제목으로 영상이 올라와 있지만, 이 역시 가짜일 공산이 크다. 일본의 한 대학교에서 독도를 일본 땅이라고 부르는 교수에게 한국인 유학생이 문제제기를 한다는 내용인데, 영상을 재생해보면 출처를 알 수 없는 강의실 사진에 TTS 기계음으로 의심되는 부자연스러운 음성으로만 영상이 구성돼 있다. 조작을 의심할 만한 영상이지만 시청자들은 “너무 멋지고 자랑스럽다” “몇 번을 들어도 감동이다” 등의 반응을 보였다.
전문가들은 성능이 좋아진 TTS와 같은 AI 툴이 누구나 이용 가능한 ‘오픈소스’가 되면서 진위를 점점 더 구분하기 어려워졌다고 입을 모은다. 최병호 고려대 인공지능연구소 교수는 “현재 공개된 오픈소스 AI 중에서도 기능이 좋은 툴들이 많아 사실상 사람이 말하는 것과 구분하기 어려울 정도”라고 말했다.
AI가 생산하는 허위 정보 유통의 위험성이 점점 커지고 있지만, 이를 단속할 법규나 제도는 미비한 실정이다. 방송통신심의위원회 관계자는 “확인되지 않은 정보 등이 사회에 혼란을 가져올 경우 정보통신에 관한 심의 규정 기준에 의해 심의한다”면서도 “가짜뉴스라는 카테고리로 심의를 진행하는 건 없다”고 말했다. 문화체육부 관계자도 “신기술에 대해서는 자율규제가 중요하다 보니 세부적인 방안 마련은 아직이다”고 했다.
전문가들은 기술 발전을 저해하지 않는 선에서 신기술을 악용하는 행위를 규제·처벌하는 것이 필요하다고 말한다. 장병탁 서울대학교 AI연구원 원장은 “생성형 AI의 경우 일부 데이터만 있으면 그대로 모사해 내는 것까지 가능해 기술적으로 가짜를 만들어 낼 수 있다”며 “기술만으로는 이를 완벽하게 걸러내기 어렵기 때문에 이를 악용하거나 범죄에 활용하는 사람들을 처벌하도록 하는 장치가 중요하다”고 말했다.
성윤수 기자 tigris@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
