오세훈 서울시장은 3일 딥페이크 불법 합성물 범죄와 관련해 “서울시에서도 딥페이크 피해 영상물을 삭제 지원할 수 있는 제도적 장치가 필요한 만큼, 삭제 지원 주체를 국가에서 지자체로 확대하는 법령 개정을 강력히 촉구한다”고 밝혔다.
오 시장은 이날 서울 영등포구 국회에서 열린 ‘딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회’에 참석해 “딥페이크 영상은 제작까지 단 7초밖에 걸리지 않고, 제작부터 유포까지 너무나 쉽게 가담할 수 있는 구조 때문에 누구나 피해자가 될 수 있다”며 이같이 말했다.
이번 토론회는 조은희 국민의힘 의원실과 한국여성인권진흥원이 공동 주최했다. 이수정 경기대 범죄심리학과 교수와 경찰청·서울시·서울시교육청 관계자 등이 발제자로 나섰다.
오 시장은 이어 “전국적으로 피해 학교가 400~500개 정도 될 것으로 추산되고 있지만, 딥페이크 특성상 피해자가 피해 사실을 모르는 경우가 많다”며 “정확한 피해 규모를 추산하는 것조차 어렵다”고 지적했다.
그러면서 “딥페이크 성범죄는 이전과는 다른 범죄 양상인 만큼 사회 전반의 많은 노력이 필요하다”며 “서울시는 딥페이크 피해자 보호와 지원을 위해 할 수 있는 모든 노력을 다하겠다”고 덧붙였다.
시는 앞서 딥페이크 피해에 대응하기 위해 지자체 최초로 지난달 28일 방송통신위원회와 업무협약을 체결했다. 협약에 따라 피해 영상물을 24시간 내 삭제 지원하는 핫라인 시스템을 가동 중이다. 디지털 성범죄 SOS 상담 창구도 신설해 개설 2일 만에 딥페이크 피해자 15명을 상담했다.
시는 또 진화하는 딥페이크 기술에 대응하기 위해 AI 얼굴 매칭 딥페이크 검출 기술인 ‘서울 안심 아이’를 내년 상반기 중으로 개발한다는 계획이다. 서울 안심 아이는 피해자 얼굴 사진과 유사도가 높은 영상을 검출하는 시스템이다. 검색부터 시스템까지 모든 과정을 AI가 자동으로 실시하는 AI 신고 자동화 시스템도 연내 구축할 예정이다.
아울러 시는 이달부터 초·중·고 50개 학급 1000명을 대상으로 딥페이크 예방 교육을 실시한다. 재발 방지를 위해 가해자 상담·교육도 함께 추진한다.
김용헌 기자 yong@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
