카카오는 10일(현지시간) 미국 뉴욕 유엔본부에서 열린 ‘유엔 대테러사무국-테크 기업 협의 회의’에서 디지털 안전을 위한 자사의 정책과 사례를 발표했다고 11일 밝혔다.
온라인으로 회의에 참여해 유해 콘텐츠 유통을 막는 디지털 안전정책, 인공지능(AI) 기술을 통한 선제대응 사례, 혐오표현 대응을 위한 시민사회 협력모델을 선보였다. 카카오는 표현의 자유를 중시하면서도 이용자 안전보호에 소홀하지 않는 ‘디지털 안전 철학’을 소개했다. 이 철학을 AI 기술에 적용한 ‘세이프봇’ 사례를 공유했다.
세이프봇은 게시물 운영정책을 위반한 콘텐츠를 AI 기술로 분석·필터링하는 기능으로 2020년 뉴스 댓글 서비스에 적용된 이후 포털 다음(Daum)과 카카오뷰 등에 적용됐다. 아울러 표현의 자유 보장과 이용자 권리 침해 최소화를 위한 내용을 공개하는 ‘투명성 보고서’ 발행도 공유했다.
유엔 대테러사무국은 이번 회의와 시민사회·학계 협의를 기반으로 테러 목적의 정보통신기술(ICT) 악용에 대응하기 위한 비구속적 지침서를 마련한다.
조민아 기자 minajo@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
