네이버가 악성 댓글(악플)에 욕설이 없어도 뉘앙스까지 잡아내 차단하는 기술을 도입했다. 업그레이드된 ‘클린봇’은 모욕적인 표현, 무례한 뉘앙스까지 탐지해낸다.
네이버는 ‘클린봇’ 2.0 엔진을 포털 뉴스 서비스에 적용했다고 18일 밝혔다. 네이버에 따르면 악플을 차단해주는 인공지능(AI) 기반 ‘클린봇’의 탐지 능력은 기존보다 5배 향상됐다. 네이버는 댓글 서비스 개편 이후 악플이 줄어들자 댓글 공간이 갖는 소통의 순기능을 회복시키기 위해 차단 기술을 끌어올렸다.
클린봇은 네이버 스포츠·쥬니버·연예·뉴스 서비스 등에 설치돼 욕설과 비속어가 들어간 댓글을 탐지하면 자동으로 블라인드 처리해주는 시스템이다. 기존에는 단어 중심으로 찾아냈다면 업그레이드 이후 문장의 맥락까지 탐지할 수 있게 됐다.
그동안 욕설 비속어 등의 단어만 탐지해서는 욕설이 없는 악플을 걸러내는 데 한계가 있다는 지적이 이어졌다. 네이버 측은 “이번 업그레이드로 악플에 대한 효과적인 대응이 가능할 것”이라고 내다봤다. 네이버는 클린봇을 통해 이미 작성된 악플을 차단하는 것은 물론 댓글 등록 과정에서 문제가 되는 욕설과 표현을 사전에 감지해 악플 작성 자체를 줄여나갈 계획이다.
네이버는 지난 3월부터 연예 뉴스에 댓글을 달지 못하게 하고, 작성자의 ‘댓글 이력’을 공개하고 있다. 한국언론진흥재단에 따르면 네이버 댓글은 개편 후 1주일간 590만4064개에서 347만2824개로 약 41% 감소했다. 작성자 댓글 이력을 공개하면서 이용자들이 부정적 표현이 포함된 댓글이 쌓이는 것을 꺼리게 된 결과로 풀이된다.
포털 다음을 운영하는 카카오도 악플을 막기 위한 서비스를 제공하고 있다. 지난 2월 다음과 카카오톡 #탭의 뉴스 댓글 서비스 개편을 실시한 카카오는 새로운 댓글 정책 도입 이후 악플에 대한 신고가 증가하고, 욕설과 비속어를 포함한 댓글이 20% 이상 줄어든 것으로 나타났다고 밝혔다. 카카오는 댓글 신고 기준에 ‘차별/혐오’ 항목을 추가했고, 보고 싶지 않은 댓글에 대해 노출을 관리할 수 있는 ‘덮어두기’ ‘접기’ 기능도 신설했다. 카카오의 자체 집계 결과에 따르면 3월 한 달간 댓글 신고 건수는 전보다 약 2배 증가했고, 자연스레 악성 댓글 삭제 건수도 65% 증가했다.
댓글 개편 이후 스스로 악성 댓글 작성을 자제하는 ‘자정 현상’도 두드러졌다. 지난 5월에는 신고가 줄어들면서 개편 이전 대비 불과 7% 늘어났는데, 카카오는 이에 대해 “불쾌감을 주는 댓글이 이용자들의 자발적 참여로 줄어들면서 댓글 환경이 청정해지고 있다는 신호”라고 분석했다. 카카오는 AI를 활용해 댓글의 욕설·비속어를 음표 모양으로 바꿔주는 ‘음표 치환 기능’을 운영하고 있는데, 댓글 개편 후 음표 치환된 댓글이 그만큼 감소했다.
양대 포털 측은 앞으로도 AI 기술의 고도화와 함께 정부, 학계 등과 협력을 통해 혐오 표현 근절을 위한 대안을 꾸준히 모색해 나가기로 했다.
김성훈 기자 hunhun@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
2087
