최근 기시다 후미오 일본 총리의 인공지능(AI) 가짜 영상이 SNS를 통해 확산되자 일본 정부가 “가짜 정보를 퍼트리지 말라”고 촉구했다.
일본 정부 대변인인 마쓰노 히로카즈 관방장관은 6일 정례 기자회견에서 “개별 SNS상의 투고에 대해 코멘트하는 것은 삼가겠다”면서도 “일반론으로 말하자면 정부의 정보를 거짓으로 발신하는 것은 경우에 따라 민주주의의 기반을 손상할 수 있으므로 해서는 안 된다”고 밝혔다.
마쓰노 장관은 “어떤 의도로든 가짜 정보를 투고하는 행위는 사회를 어지럽게 하거나 타인에게 피해를 주고 범죄가 되는 경우도 있으니 삼가야 한다”고 촉구했다.
앞서 기시다 총리의 AI 가짜 동영상이 지난 2일 소셜미디어 엑스(X·옛 트위터)에 올라와 하루 만에 조회수 232만회 이상을 기록했다.
가짜 동영상에는 정장을 입고 넥타이를 맨 기시다 총리가 시청자들에게 부적절한 말을 건네는 모습이 담겼다. 영상에 현지 민영 방송 ‘니혼테레비’(닛테레) 프로그램 로고가 표시돼 있고, 또 ‘LIVE’(생중계), ‘BREAKING NEWS’(뉴스 속보)와 같은 자막이 들어 있어 실제 뉴스 영상이라고 착각하기 쉽게 만들어졌다.
다만 영상 속 기시다 총리의 얼굴을 보면 눈을 깜빡이지 않고, 표정이 굳은 채 입술만 움직이고 있어 어색함이 드러난다.
해당 영상을 만든 이는 오사카에 사는 한 20대 남성이다. 이 남성은 요미우리신문에 생성형 AI 등을 사용해 기시다 총리의 가짜 동영상을 만들어 인터넷에 올린 사실을 인정하며 “재미로 만들었다”고 했다. 남성은 인터넷에 공개된 기시다 총리의 기자회견과 자민당 대회 연설 등 동영상에 있는 총리의 음성을 AI에 학습시켜 가짜 음성을 준비했다고 설명했다.
그는 또 기시다 총리의 온라인 기자회견을 보도한 닛테레 뉴스 프로그램도 이용했다고 말했다.
채널이 도용당한 닛테레는 “닛테레의 방송, 프로그램 로고를 가짜 동영상에 악용한 것은 도저히 용서할 수 없다”며 “필요에 따라 적당한 대응을 하겠다”고 밝혔다.
김승연 기자 kite@kmib.co.kr