음란 동영상, 인공지능으로 걸러낸다

네이버는 음란물 필터링 인공지능(AI) 기술인 ‘네이버 엑스아이(X-eye)’를 이미지에서 동영상으로 확대 적용한다고 15일 밝혔다.

네이버 엑스아이는 영상의 일정 구간마다 프레임을 추출해 음란물지수가 특정 수준 이상으로 높은 영상은 ‘임시 재생 중지’ 상태로 만든다. 이후 10분 이내 검수자의 검토를 거쳐 정상 영상은 복구하고 음란 동영상은 삭제 및 이용제한 조치를 한다.

네이버에 등록되는 모든 동영상은 이런 과정을 통해 자동으로 걸러진다. 네이버는 내부 실험 결과 적중률이 98%에 달했다고 밝혔다.

한편 여성가족부가 전국 17개 시·도 초등학교 4학년부터 고등학교 3학년까지 재학 중인 청소년 1만5646명을 대상으로 실시한 ‘2016 청소년 매체이용 및 유해환경 실태조사’ 결과에 따르면 청소년 10명 중 4명(41.5%)가 지난 1년 동안 성인용 영상물을 본 적이 있다고 응답했다. 특히 초등학생의 성인용 영상물 조회가 증가세를 보였다.

청소년이 성인용 영상물을 접하는 주된 경로는 인터넷 포털사이트(27.6%)가 가장 많고 인터넷 실시간 방송 및 동영상 사이트(19.1%), SNS(18.1%)가 뒤를 이었다.

유성열 기자 nukuva@kmib.co.kr