‘삐~ 당신 댓글, 심해요’ 알고리즘으로 혐오 잡는 스웨덴

‘세계에서 가장 행복한 나라’ ‘복지의 천국’. 사람들이 북유럽 국가를 생각할 때 일반적으로 떠올리는 수식어다. 하지만 빠르게 확산하며 세를 불리는 ‘혐오’ 앞에서 이들 역시 자유롭지 못하다. 다양한 인종과 종교가 공존하던 유럽 문화권은 저성장 고물가 시대에 팍팍해진 삶의 원인을 특정 대상에게 돌리고 혐오하기 시작했다. 개방적이던 사회 분위기는 점점 폐쇄적으로 변하고, 혐오란 감정이 실체를 지닌 폭력으로 나타나고 있다.

덴마크, 스웨덴, 핀란드 각 국가가 법적 제도의 한계를 극복하기 위해 어떤 대안을 마련하고 있는지 지난 8월 혐오 표현 전문가 3명을 직접 만나 인터뷰했다. 이들은 온라인 혐오 표현이 전 세계적으로 심각한 사회 문제로 부각했으며 그 위험성이 큰 만큼 대책 마련을 서둘러야 한다고 입을 모았다.


“힘을 갖기 위해 싸우는 것은 전 세계 공통이며, 정치권은 힘을 갖기 위해 대중의 혐오를 일으키는 상황을 이용한다. 혐오를 이용하는 것이 곧 표로 이어지기 때문이다.”

덴마크 사회인민당 소속 정치인 외즐렘 튀레치는 정치와 혐오가 불가분의 관계가 됐다고 지적했다. 쿠르드족 출신인 그는 덴마크 최초로 소수민족 출신 국회의원이 된 인물이다. 튀르키예(터키)에서 태어나 어린 시절 덴마크로 이주한 그는 간호사로 지내다 정당정치에 발을 내디뎠다. 2015년까지 8년 동안 재선 의원으로 활동하는 동안 무수한 ‘혐오’ 메일과 위협을 받자 아예 이들을 직접 만나 ‘커피 대화’를 갖는 방식으로 혐오 문제 해결을 위해 노력해 왔다.


지난 8월 현지에서 만난 튀레치씨는 “극우 정당이 비판의 대상을 만드는 방식으로 자신의 세를 확장해 나가고 있다”며 강하게 우려했다. 현재 덴마크의 극우 정당들은 새롭게 유입되는 이슬람계 이주민을 향해 강한 반감을 표출함으로써 표를 얻는 전략을 취하고 있다.

튀레치씨는 정치인들이 SNS에 올리는 혐오 발언의 위험성을 지적했다. 그는 “정치인의 페이스북은 혐오를 키우는 장이다. 특정 혐오 발언에 동의하는 사람이 같은 장소에 모이면 폭력성은 더욱 커진다”고 주장했다. 덴마크 형법은 어떤 진술로 특정 대상을 조롱하거나 비하한 사람은 벌금형이나 구금형으로 처벌하고 있지만, 인과관계 증명이 쉽지 않기 때문에 이런 제도적 약점을 이용해 정치인들이 혐오 발언을 퍼뜨리고 있다는 것이다.

그는 혐오 문제 해결을 위해 무엇보다 혐오와 비판을 잘 구분하는 것이 가장 필요하다고 강조했다. 튀레치씨는 “비판은 명백한 사실에 대해 표현의 자유를 갖는 것이지만 혐오는 주관적 감정으로 비합리적 판단을 내리는 것”이라고 설명했다. 그러면서 혐오에 대해 ‘내가 무조건 특정 대상을 이겨야 한다는 생각, 내가 특정 대상을 공격하는 것이 옳다고 고집하는 것’이라고 정의했다.

튀레치씨는 “혐오 발언을 막겠다고 모든 표현을 막아버리면 건강한 비판과 논쟁의 공간이 사라진다”며 “혐오 발언이 존재할 수밖에 없다면, 혐오가 혐오로만 끝나지 않도록 이에 대해 논쟁할 수 있는 플랫폼을 만드는 것이 필요하다”고 역설했다.


스웨덴 웁살라대학교에서 심리학과 인지학을 가르치는 나자르 아크라미 교수는 온라인상의 혐오 표현을 기술적으로 예방하는 데 앞장서온 인물이다. 지난 8월 현지에서 만난 아크라미 교수는 온라인에서의 혐오 표현을 바탕으로 혐오 범죄를 벌일 가능성이 있는 사람을 잡아내는 알고리즘에 대해 설명했다.

그는 “유럽에서 활동하는 극단주의 테러리스트들이 SNS에 혐오 발언을 빈번하게 쏟아냈던 사례들을 근거로 알고리즘을 개발했다”며 “현재는 스웨덴 경찰 및 유럽 유로폴과 함께 알고리즘 실용화 작업을 진행 중”이라고 밝혔다.

아크라미 교수가 개발한 알고리즘은 뉴스를 공급하는 언론사 사이트에서도 활용된다. 그는 “이 알고리즘은 누군가가 온라인에서 댓글을 달 때, 그 댓글 속에 포함된 혐오 콘텐츠 비중을 계산한다”며 “작성자가 댓글을 모두 쓰고 나면 알고리즘이 해당 댓글의 혐오 비율을 알려주고, 비율에 따라 경고 메시지가 뜬다”고 설명했다. 그는 “경고를 받으면 작성자는 흠칫하게 되는데 이 과정에서 자기 스스로 댓글을 정화할 기회를 주는 것”이라고 부연했다.

아크라미 교수는 온라인에서 혐오 표현의 작성자는 굉장히 소수이며, 혐오 표현이 퍼지는 커뮤니티의 성격에 따라 혐오의 농도가 달라진다고 분석했다. 그가 올해 진행한 ‘온라인상 혐오 표현 식별을 위한 머신 러닝’ 연구의 커뮤니티별 혐오 표현 분포 결과를 보면 역사 커뮤니티의 혐오 표현 비율은 1%로 가장 낮았다. 반면 흑인을 비하하거나 증오하는 커뮤니티에서는 혐오 표현 비율이 62%로 최대로 집계됐다. 또 여성을 한 번도 만나보지 못한 남성들이 모이는 커뮤니티 역시 혐오 표현 비율이 22%를 기록해 세 번째로 높았다고 한다.

그는 혐오 표현의 피해는 매우 크다고 우려했다. 그는 “22명의 정치인을 상대로 어떤 혐오 표현을 봤는지, 어떤 느낌이 들었는지 등 심층 인터뷰를 했는데 정신적 피해로 병가를 낸 정치인도 있었고, 아예 정치 인생을 끝낸 사람도 있었다”며 위험성을 경고했다.


핀란드 탐페레대학교에서 사회심리학을 가르치는 아테 옥사넨 교수는 SNS에 올라오는 혐오 글이 테러로 이어진다는 점에 주목해 ‘사이버 혐오’를 전문적으로 연구하는 랩을 만들었다. 그는 지난 8월 인터뷰에서 본격적으로 사이버 혐오에 집중하게 된 계기가 2008년 9월 핀란드에서 발생한 ‘카우 하조키 학교 총격 사건’이라고 소개했다. 당시 22살이던 가해자는 반자동 권총으로 10명을 사살한 뒤 스스로 머리에 총을 쏴 숨졌다.

이는 핀란드 내에서 일어난 세 번째 총격 사건이었다. 1989년 라우마의 한 학교에서 2명이 사망한 총격 사건, 2007년 조켈라 학교에서 9명이 사망한 데 이어 1년 만에 일어난 총격 사건으로 핀란드 사회가 큰 충격에 빠졌다. 전문가들이 가해자들을 연구한 결과 이들 모두 테러에 관심이 많았고 온라인상에서 특정 대상에 대한 혐오 표현을 빈번하게 공유했음이 확인됐다.

옥사넨 교수는 “최근에는 SNS에 혐오 글을 올리는 일이 매우 쉬워졌고, 이런 글을 좋아하는 사람들이 모이면 폭력이라는 심각한 문제가 발생한다”며 온라인의 혐오 표현을 강하게 규제하는 것이 필요하다고 말했다. 그러면서 핀란드 내에 존재하는 혐오 표현에 대한 형법은 한계가 있으므로 SNS나 커뮤니티 플랫폼이 적극적으로 해결책을 마련해야 한다고 주장했다. 옥사넨 교수는 “혐오 표현은 처벌이 약할 수밖에 없고, 경찰들이 적극적으로 수사하는 사안도 아니다”면서 “혐오 표현을 신고한다고 경찰이 바로 출동할 수도 없으므로 온라인 플랫폼이 자체적으로 단속을 해서 사전에 위험성을 제거하는 절차가 꼭 필요하다”고 강조했다.

※본 기획물은 정부 광고 수수료로 조성된 언론진흥기금의 지원을 받았습니다.

코펜하겐·헬싱키·스톡홀롬=글·사진 나경연 기자



GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지