미국에서 인공지능(AI)으로 사진 속 여성의 옷을 벗기는 딥페이크 애플리케이션(앱)과 웹사이트 이용자가 폭증하고 있다. AI 기술 발전이 범죄에 악용될 수 있다는 지적이 나온다.
10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 지난 9월 한 달 동안에만 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다.
딥페이크는 딥러닝과 페이크(fake)의 합성어로 AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다.
그래피카에 따르면 올해 초보다 9월에 ‘X’(구 트위터)와 레딧 등 소셜미디어에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다.
딥페이크 앱과 웹사이트는 AI를 사용해 사진 속 사람이 옷을 벗고 있는 것처럼 이미지를 만든다. 사진 속 인물은 대부분 여성이다. 오픈 소스 AI를 이용하면 누구나 무료로 옷 벗기기 앱을 만들 수 있다.
블룸버그는 이 같은 앱의 등장을 두고 최근의 AI 기술 발달이 범죄에 악용될 수 있다고 지적했다. 소셜미디어에서 당사자의 동의나 통제, 인지 없이 사진을 가져와 음란물로 만들고 이를 배포하는 게 일상화되면 심각한 법적·윤리적 문제를 야기할 수 있다는 것이다.
구글은 이러한 문제에 대해 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다”며 “문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다”고 밝혔다. 레딧 대변인도 “가짜 음란물의 동의 없는 공유는 금지하고 있으며 조사 결과 여러 도메인을 막았다”고 말했다. 틱톡은 ‘옷 벗기(undress)’라는 키워드를 차단하고 있다고 밝혔다.
이강민 기자 river@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
