교묘해진 악플러… 포털 AI조차 ‘혐오’ 막지 못했다

혐오 댓글은 뉴스 서비스를 제공하는 포털업계에도 고민거리이자 큰 과제다. 양대 포털업체인 네이버와 다음 모두 수년 전부터 댓글 등에 욕설 비속어 등을 필터링하는 인공지능(AI) 기반의 탐지·차단 프로그램 등을 개발하며 대응해 왔다.

그러나 이용자들은 여전히 매일 혐오 댓글과 마주하며 큰 피로감을 호소하고 있다. 포털이 대응에 소극적이라는 인식도 강한 것으로 나타났다. 기술로 특정 단어를 걸러내는 접근 방식으로는 우리 사회 실생활의 어두운 면과 복잡하게 얽힌 온라인 혐오를 상대하긴 역부족이라는 지적이 크다. 포털 뉴스 서비스의 특징을 고려해 댓글 이용 요건을 좀 더 강화하는 등의 대책이 필요하다는 의견도 나온다. 누구나 혐오에 상시 노출될 수 있는 상황인 만큼 읽는 이들이 분별해 댓글이 과잉으로 영향을 미치지 않도록 교육적 접근을 고민할 때라는 목소리도 커지고 있다.


‘댓글’이라는 표현은 2015년 9월 네이버가 게시물 아래 달린 글을 지칭하면서 처음 썼다. 네이버는 2018년 4월 이용자가 기사 1개에 최대 3개의 댓글만 달도록 하고, 하루 공감·비공감 클릭 수는 50개로 제한하는 등 여러 정책을 시도해 왔다. 댓글 내용 정화보다 주로 정치적 의도를 가진 ‘댓글 조작’을 차단하는 데 초점을 맞췄다.

악성 댓글에 대한 본격적인 조치는 2020년 2월 연예·스포츠 뉴스 댓글 폐지를 꼽을 수 있다. 이후 댓글 이력 공개, 작성자 프로필 사진 노출 등의 조치가 도입됐다. 댓글 작성자가 어떤 사람인지 알 수 있게 함으로써 스스로 표현을 절제하는 ‘자정 효과’를 기대한 것이다. 댓글러 팔로우 기능, 댓글 이력 확인 등의 정책도 그 연장선상에서 도입했다.

다음 포털을 운영하는 카카오의 정책은 보다 적극적인 편이다. 지난 1월 전체 기사에 ‘댓글 접힘’ 정책을 도입한 게 대표적이다. 댓글창을 한 번 열어야 댓글을 달 수 있도록 한 것으로 학계도 그 효과에 주목하고 있다. 한국정치학회가 중앙선거관리위원회 용역을 받아 작성한 보고서는 다음 뉴스에 접힘 정책이 도입된 뒤 모든 범주의 혐오표현이 감소했다고 밝혔다. 가장 효과를 본 범주는 단순 악플이며, 여성·가족, 성소수자에선 상대적으로 효과가 적었다. 연구책임자인 장우영 대구가톨릭대 교수는 “댓글 작성 절차가 번거로워져 가볍게 혐오표현을 배출하는 댓글을 작성하지 않게 됐을 것”이라며 “반대 성향의 댓글에 분노하지 않은 좀 더 이성적인 상태여서 비교적 온건한 댓글을 작성했을 가능성도 있다”고 분석했다. 카카오는 댓글 쓸 때 이용자 편의성은 떨어지지만, 계속 유지한다는 입장이다.

카카오는 또 2020년 12월 AI 기반 댓글 필터링 기능인 ‘세이프봇’을 도입한 뒤 욕설·비속어가 포함된 댓글과 이용자가 신고한 욕설 댓글 비중이 3분의 1 수준으로 줄어들었다는 분석 결과를 14일 공개했다. 카카오는 “AI 기술을 통해 이용자들도 자발적으로 건전한 댓글 문화에 동참하게 된 것”이라며 “댓글 공론장의 건강성이 향상된 것”이라고 자평했다.



그러나 뉴스 이용자들의 기대 수준에는 여전히 못 미친다. 국민일보가 지난 10월 25일부터 11월 2일까지 뉴스 소비자 61명을 대상으로 진행한 심층 인터뷰에서 ‘뉴스 포털이 혐오 댓글에 충분히 대응하고 있는가’라는 물음에 ‘그렇지 않다’고 답한 이들이 59.0%(36명)로 나타났다. 포털 운영사가 혐오 댓글에 대해 취하는 제재에 대해서 ‘모른다’고 답한 이들도 63.9%(33명)에 달했다. 일부 응답자가 AI를 이용한 댓글 블라인드 처리, 삭제 조치 등을 안다고 답했지만 정확한 내용을 알고 있는 이는 적었다.

‘혐오 댓글을 막기 위해 필요한 대책’을 주관식으로 묻자 강한 제재를 요구하는 목소리가 컸다. “연예뉴스 댓글창처럼 전체적으로 댓글창을 닫아야 한다”는 의견부터 ‘혐오표현 삼진아웃제’ 등 여러 차례 신고당할 경우 댓글 작성 권한을 제한하라는 등의 의견이 많았다. 댓글 작성자의 이름이나 얼굴 등 신원을 공개해 댓글 작성자에게 책임을 지우라는 목소리도 컸다.


이 같은 이용자들의 목소리는 ‘혐오 댓글’로 인한 우리 사회의 피로도가 그만큼 높다는 방증이다. 연세대 바른ICT연구소는 최근 악성 댓글로 인한 사회·경제적 비용이 연간 최대 35조원에 이른다는 연구 결과를 내놨다. 불안·우울로 인한 행복 상실 기회 비용이 약 28조원에 달해 가장 많았고, 스트레스로 인한 능력 저하 기회비용 등도 포함됐다.

포털 등이 AI 기술로 악성 댓글을 걸러내고 있지만 나날이 진화하는 혐오 표현에 대응하긴 역부족이다. 송경재 상지대 사회적경제학과 교수는 “결국 사람이 2차 필터링하는 시스템이 필요한데 아직 그 단계엔 미치지 못한 것으로 보인다”고 짚었다. 온라인 커뮤니티에선 자유자재로 혐오를 드러내되 모욕죄 등의 처벌을 면할 수 있는 방법을 공유하기도 한다.

정치 양극화가 심화된 사회에서 댓글러들의 자정 노력만 기대하기엔 한계가 크다. 국민일보가 지난 9일부터 5회에 걸쳐 혐오 댓글의 문제를 다룬 ‘혐오발전소, 댓글창’ 시리즈 기사에도 혐오 댓글이 고스란히 이어졌다.

전문가들은 포털 뉴스 댓글창은 어린이를 포함해 누구에게나 열린 ‘온라인상의 공공장소’라는 측면에서 바라봐야 할 때가 됐다고 입을 모았다.

김범수 바른ICT연구소장은 “과거 댓글에 ‘무관여’가 원칙이었던 때와 분위기가 달라졌다”고 말했다. 홍성수 숙명여대 법대 교수도 “표현의 자유도 중요하지만 지금은 댓글이 혐오를 일반화하는 통로가 된 측면이 있다”면서 “특히 뉴스 댓글의 공공게시물적 특성을 고려해 작성자에게 신분 공개 등 일정 부분 책임을 부여하는 이야기를 할 때가 됐다”고 말했다.

언론계에서는 댓글 작성의 문턱을 높여야 한다는 지적도 나온다. 기사를 최소 3분의 2는 읽는 등 실제 기사의 독자들에 한해 댓글을 쓸 수 있도록 하자는 제안이다. 댓글을 읽는 이들 스스로 분별력을 가질 수 있도록 돕는 교육 프로그램을마련해야 한다. 김위근 퍼블리시 최고연구책임자는 “어린 연령에서 젠더나 지역 혐오 등의 표현에 영향을 크게 받는다는 점에서 댓글을 읽을 때 참고할 만한 교육 마련이 시급하다”고 말했다.



김성훈 조민영 기자 hunhun@kmib.co.kr