서울시가 디지털성범죄 영상물을 인공지능(AI)으로 탐지해 삭제까지 지원하는 ‘AI 자동 삭제 신고 시스템’을 도입했다고 21일 밝혔다. 기존엔 AI를 통해 탐지만 했는데, 채증, 문서화, 삭제 요청 등 모든 과정을 자동화한 것이다. 불법 영상물 발견 후 해당 사이트에 삭제를 요청하는 데 소요되는 시간은 평균 3시간에서 6분으로 단축될 것으로 예상된다.
신고 시스템은 우선 AI로 불법 영상물을 24시간 모니터링해 찾아낸다. 찾아낸 영상물을 채증해 이미지, URL 등 핵심 정보를 담은 보고서를 만든다. 보고서는 향후 사법 절차에 필요한 증거 자료 등으로 활용된다.
해당 사이트에 삭제를 요청하는 이메일도 영어, 중국어, 일본어, 러시아어, 베트남어 등 7개 국가의 언어로 자동 생성된다. 이는 불법 영상물이 해외에 서버를 둔 사이트에 유포되고 있는 경우가 많다는 점을 고려한 조치다. 이메일은 디지털성범죄 안심지원센터 소속 삭제지원관의 최종 확인 후 발송된다.
불법 영상물 탐지 후 삭제 요청까지 걸리는 시간은 기존 3시간에서 6분으로 줄어들 것으로 보인다. 시 관계자는 “기존엔 삭제지원관이 영상물을 모두 수작업으로 채증하고, 보고서를 작성해야 해 시간이 오래 걸렸다”며 “이제 모니터링, 검출, 삭제 요청까지 모두 자동화해 업무 속도가 30배 빨라졌다”고 말했다.
앞서 시는 지난 2023년 전국 최초로 ‘디지털성범죄 AI 삭제 지원 기술’을 도입했다. 이는 AI로 불법 영상물을 24시간 자동으로 탐지하는 기술이다. 삭제 지원 기술로 불법 영상물 1개를 탐지하는 데 소요되는 시간이 평균 2시간에서 3분으로 줄었다. 삭제 지원 건수는 2022년 2509건에서 지난해 1만4256건으로 상승했다.
한편 서울AI재단은 이날 중구 대한상공회의소에서 출범식을 개최했다. AI재단은 시 출연기관으로, 서울디지털재단이 이름을 바꿔 단 것이다. 오세훈 서울시장은 “AI재단 출범은 서울이 AI를 도시 생존과 미래를 위한 핵심 전략으로 삼겠다는 선언”이라고 강조했다. 이어 “AI재단은 AI 정책의 컨트롤타워로서 AI 행정 혁신, 시민 역량 강화, 글로벌 협력을 뒷받침할 것”이라고 설명했다.
AI재단은 ‘5대 그랜드 전략’을 추진할 방침이다. 5대 그랜드 전략은 ‘Urban AI’(글로벌 네트워크 조성), ‘Physical AI’(연구기관 협력), ‘Public AI’(공공 혁신), ‘Ethical AI’(윤리적 활용), ‘AI-X’(산업 확산) 등으로 구성됐다.
김용헌 기자 yong@kmib.co.kr