기시다 후미오 일본 총리가 인공지능(AI) 가짜 영상의 피해자가 됐다. 기시다 총리가 부적절한 발언을 하는 가짜 영상은 하루 만에 232만 조회수를 기록했다. 해외에서와 같이 일본에서도 정치인의 가짜 영상이 여론 조작에 악용되는 사태에 대해 대책 마련이 필요하다는 지적이 나온다.
요미우리신문은 4일(현지시간) AI를 이용해 만든 기시다 총리의 가짜 동영상이 SNS 상에서 확산되고 있다고 보도했다.
가짜 동영상에는 정장을 입고 넥타이를 맨 기시다 총리가 시청자들에게 부적절한 말을 건네는 모습이 담겼다. 영상 속 기시다 총리의 얼굴을 보면 눈을 깜빡이지 않고, 표정이 굳은 채 입술만 움직이고 있어 어색함이 드러난다.
특히 영상에는 현지 민영 방송 ‘니혼테레비’(닛테레) 프로그램 로고가 표시되어 있다. 또 ‘LIVE’(생중계)와 ‘BREAKING NEWS’(뉴스 속보)와 같은 자막이 담겨 있어 실제 뉴스 영상이라고 착각하기 쉽다.
앞서 이 가짜 영상은 올해 여름 일본 동영상 사이트 ‘니코니코’ 등에 올라왔다. 이후 총 3분 43초 분량의 영상을 30초 정도로 편집한 새로운 영상이 지난 2일 ‘X’(구 트위터)에 게시됐다. 하루 만에 232만회 이상 조회될 정도로 빠르게 확산됐다. 이 영상이 가짜라는 걸 알게 된 이용자들은 “가짜뉴스 확산의 폐해”, “악의적인 가짜 동영상” 등 비판을 쏟아 내고 있다. 현재 사이트에서 이 원본 영상은 삭제된 상태다.
이 가짜 영상을 만든 사람은 오사카에 사는 한 20대 남성이다. 이 남성(25)은 요미우리와의 인터뷰에서 “가짜 동영상을 제작해 올린 것을 인정한다”며 “재미로 영상을 만들었다”고 전했다. 이 남성은 인터넷에 공개된 총리의 기자회견, 자민당 대회 연설 등 다른 동영상에서 총리의 음성을 추출, AI에 학습시켜 가짜 음성을 만들었다고 한다. 영상 제작에는 1시간 정도 걸렸다고 밝혔다.
또 이 남성은 지난해부터 기시다 총리뿐 아니라 아베 전 총리 등의 가짜 영상을 제작해 올렸다고 밝혔다. 그러면서 그는 “총리는 누구나 알고 있는 상징적 존재이기 때문에 주목을 끌기 쉽다”며 “혼란을 주기보단 풍자를 목적으로 만들었다”고 전했다.
요미우리신문은 “현재 일본 저작권법 시행령에서는 저작물을 무단으로 AI에 학습시키는 것을 원칙적으로 허용하고 있어 저작권자의 비판이 제기되고 있다”며 “허위 정보 생산이 쉬워져 사회 혼란이 가중될 수 있다”고 지적했다.
또 신문은 전문가를 인용해 “동영상은 글보다 오감에 호소하기 때문에 부정적인 이미지를 더욱 직접적으로 심어줄 수 있다”며 “인상 조작이라는 점에서 악질적”이라고 비판했다.
채널이 도용당한 닛테레는 “닛테레의 방송, 프로그램 로고를 가짜 동영상에 악용한 것은 도저히 용서할 수 없다”며 “필요에 따라 적당한 대응을 하겠다”고 반응했다.
앞서 해외에서도 AI를 조작해서 만든 유명 정치인의 가짜 영상이 문제가 됐다. 일본 총무성 조사에 따르면 러시아의 우크라이나 침공 당시 젤렌스키 대통령이 국민에게 항복을 촉구하는 가짜 영상이 올라왔다. 미국에서는 올해 초부터 바이든 대통령이 제3차 세계대전을 개시한다는 가짜 영상이 확산되기도 했다. 총무성은 이 같은 사례를 소개하며 “허위 왜곡 정보가 범람하며 민주주의의 위기를 초래할 수 있다”고 우려했다.
이강민 기자 river@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
