뉴질랜드 크라이스트처치 총격 사건은 인터넷을 이용한 일탈 행위가 용납할 수 있는 수위를 넘어섰다는 걸 보여줬다. 하지만 현재로선 이를 막을 수 있는 본질적인 대책이 없다는 게 더욱 문제다. SNS를 비롯한 인터넷 사용 전반에 대한 점검과 악용 방지 대책 마련이 시급하다는 지적이 나온다.
페이스북은 뉴질랜드 크라이스트처치 총격 사건 발생 하루 동안 관련 동영상을 150만건 삭제했다고 17일(현지시간) 밝혔다. 120만건의 업로드 시도도 차단했다고 덧붙였다. 그럼에도 이런 사태를 미리 감지하고 조처를 하지 못한 페이스북에 대한 시선은 싸늘하다.
페이스북은 최근 몇 년간 막대한 투자를 통해 유해 콘텐츠를 차단하는 노력을 기울여왔다고 강조했다. 지난해 11월 발표한 보고서에선 지난해 7~9월 사이 테러 관련 게시물 99.5%, 폭력 관련 게시물 96.8%를 사전 차단했다고 강조하기도 했다. 차단은 인공지능(AI)을 사용한 알고리즘으로 이뤄진다.
하지만 이번 총기 난사 사건에서는 아무런 경고도 하지 못했다. 총이 등장하는 대량 살상 현장의 심각성을 AI가 제대로 인지하지 못한 셈이다. CNN은 AI 기술 수준에 대해 “브로콜리와 대마초의 차이 정도를 구분하는 수준”이라고 지적했다. 메리 앤 프랭크 마이애미대학교 법학 교수는 블룸버그통신과의 인터뷰에서 “라이브 스트리밍 서비스를 중재할 책임감 있는 방법은 없다”면서 “페이스북이 인간의 가장 추악한 면을 증폭시키는 역할을 할 수 있다는 점을 직시해야 한다”고 지적했다.
일단 인터넷상에 유해 콘텐츠가 올라오면 무한한 확산성 때문에 완전히 사라지지 않는다. 가짜뉴스, ‘리벤지 포르노’ 등이 사라지지 않고 여러 사람에게 고통을 주는 이유다. 그나마 페이스북, 유튜브, 인스타그램 같은 대형 SNS 업체는 차단 기술이 있지만 소규모 플랫폼이나 개인 간 메신저에서 유통되는 불법 영상을 모두 다 잡아내기는 사실상 불가능하다. 방송통신위원회는 불법 콘텐츠 접근을 막기 위해 서버네임인디케이션(SNI) 차단을 도입했다. 하지만 SNI 차단을 무력화하는 프로그램도 이미 시중에 돌고 있다.
최근 미국 정치권에선 2020년 대선을 앞두고 페이스북에 대한 경계심이 높아지고 있다. 지난 대선 때 가짜뉴스로 인한 홍역을 치렀기 때문이다. 정치권은 페이스북을 통한 가짜뉴스 배포를 선거에 개입하는 행위로 보고 있다. 최근 구글, 아마존, 페이스북 등을 해체해야 한다고 주장한 엘리자베스 워런 민주당 상원의원은 “페이스북이나 다른 소셜미디어가 우리 선거에 개입할 수 없도록 해야 한다”고 강조했다.
페이스북은 앞으로 불특정 다수를 대상으로 게시물을 확산시키는 현재 방식에서 벗어나 개인 간 소통 도구로 정체성을 변화시키겠다고 선언했다. SNS가 일탈 행위의 통로로 사용되는 걸 더 이상 방치하지 않겠다는 것이다. 마크 저커버그 페이스북 최고경영자(CEO)는 “시대의 요구에 부응하기 위해 ‘디지털 도시광장’에서 ‘디지털 거실’로 전환하는 것”이라고 설명했다.
김준엽 기자 snoopy@kmib.co.kr