인공지능(AI)을 활용해 여성 연예인의 가짜 포르노 동영상을 만들어 인터넷에 공개한 ‘딥페이크(Deepfake)’ 사례가 일본에서 처음 적발됐다.
‘심층학습(deep learning)’과 ‘가짜(fake)’라는 의미를 담은 딥페이크는 AI의 고급이미지 생성 기술을 사용해 합성 방식으로 기존에 있던 인물의 얼굴 등을 영상에 겹쳐서 만들어내는 것이다.
2일 교도통신에 따르면 도쿄도 경찰본부인 경시청은 여성 연예인 딥페이크를 제작·공개한 혐의로 구마모토현 거주 대학생 하야시다 다쿠미(21)와 효고현에 사는 오쓰키 다카노부(47·시스템 엔지니어)를 명예훼손 및 저작권법 위반 혐의로 체포했다.
두 사람은 AI를 활용해 포르노 비디오에 여성 연예인을 교묘하게 합성하는 방법으로 딥페이크를 제작해 인터넷에 공개한 것으로 드러났다.
두 사람은 2019년 12월~2020년 7월 쯤 시판되고 있는 포르노 동영상 출연자의 얼굴을 여자 연예인의 얼굴과 바꿔치기한 동영상을 작성해 인터넷상에 공개해 연예인의 명예를 손상하고 원래의 동영상 제작 회사의 저작권을 침해한 혐의를 받는다.
두 용의자는 메일로 기술적인 상담을 나눴으며, 인터넷상에서 입수할 수 있는 무료 소프트웨어를 사용한 것으로 나타났다. 하야시다는 약 150개, 오오츠키는 약 250개의 딥페이크 동영상을 공개했다. 두 용의자는 경찰이 2019년에 실시한 사이버 패트롤로 발각됐다.
경시청에 따르면 하야시다는 자신이 운영하는 유료 사이트에서 가짜 동영상을 공개해 약 80만엔(약 885만원)을 받았다. 하야시다는 “돈이 필요했다”고 범행 동기를 설명했다.
오오츠키는 “제3자로부터 평가를 얻기 위해서 공개했다”고 용의를 인정했다. 이어 오오츠키는 “얼굴 사진을 약 3만매 모아 AI에게 100만회 정도 학습시켜 만들었다. 약 10분 분량의 동영상을 만드는 데 일주일 정도 걸렸다”고 설명했다.
한편 도쿄스포츠는 “일본 국민 여배우 A씨의 딥페이크 포르노가 7분33초에 1000엔(약 1만1000원), 20대의 유명 아이돌 B는 6분43초에 1000엔(약 1만1000원), 드라마와 CF에서 활약하는 20대 인기 여배우 C는 3분43초에 800엔(약 8800원)에 유통되고 있다”며 “인터넷상 딥페이크 포르노 유포가 심각한 상황”이라고 3일 보도했다.
이번 사건에 대해 일본 연예계는 딥페이크 영상에 유포에 대해 강경한 입장을 취하겠다고 밝혔다. 대형 기획사 ‘에버그린 엔터테인먼트’는 “비방·중상 영상의 유포자, 악의적 허위사실 확산자 등 아티스트에게 직·간접적인 피해를 주는 모든 행위에 대해 전문 법무법인과 가능한 모든 법적 조치를 취할 생각”이라고 밝혔다.
김나현 인턴기자