인공지능(AI) 기술을 악용한 딥페이크 음란물 제작 및 유포 사건이 확산하자 방송통신심의위원회가 대책 마련에 나섰다. 텔레그램을 포함한 글로벌 온라인 플랫폼 사업자들과 협의체를 구성하고 24시간 신고 가능한 상담센터도 운영한다.
방심위는 28일 딥페이크 사태와 관련해 긴급 전체 회의를 소집하고 국내 주요 포털사이트는 물론 페이스북, X(엑스), 인스타그램, 유튜브 등 글로벌 사업자들과 협의체를 구성해 신속한 영상 삭제 차단 조치와 자율적인 규제를 강력히 요청하겠다고 밝혔다.
해외에 서버가 있는 글로벌 온라인 플랫폼 사업체 중 국내 공식 협의체가 없는 사업체에 대해서는 면대면 협의 채널을 끌어내 상시적인 협의가 될 수 있도록 추진하겠다고 했다.
아울러 현행법과 심의 규정 미비로 디지털 성범죄 영상물의 제작이나 소지, 유포 등에 대한 처벌이 미약해 관련 범죄가 확산하고 있다는 지적과 관련해 보완 입법을 관계기관에 건의하기로 했다.
또 방심위는 지난 27일부터 디지털 성범죄 신고 전화(☎1377) 기능을 강화해 상담원이 24시간 접수 및 상담할 수 있도록 했다. 홈페이지에도 딥페이크 성범죄 영상물 신고 전용 배너를 별도로 설치했다.
아울러 딥페이크 성범죄 영상의 주요 유포 경로인 텔레그램 등 주요 소셜미디어(SNS)에 대한 자체 모니터 인원을 배 이상 늘려 집중 모니터링을 통해 신속하게 적발하고 향후 전담 인력을 늘리겠다고 밝혔다.
이와 함께 영상 삭제 차단 조치와 관련해 24시간 이내 영상이 사라질 수 있도록 시정을 요구하고, 악성 유포자는 즉각 경찰에 수사를 의뢰하겠다고 강조했다.
류희림 방심위원장은 “최근 딥페이크 합성 기술을 악용한 디지털 성범죄 영상이 이제 상식의 둑을 무너뜨리고 있다”며 “대학과 중·고등학교뿐만 아니라 초등학교까지 유포되면서 우리 사회를 정조준해 위협하는 상황이 됐다”고 말했다.
그러면서 “딥페이크 성범죄 영상의 제작과 소지, 유포는 개인의 존엄과 인격권을 파괴하는 범죄”라며 “이 범죄가 가장 두려워하는 것은 시민 정신에 충만한 국민의 눈이다. 국민께서 엄중한 감시자로서 방심위와 함께해달라”고 당부했다.
성윤수 기자 tigris@kmib.co.kr