페이스북이 도입한 인공지능(AI) 시스템이 증오 발언, 총격 영상 등 유해 콘텐츠를 제대로 걸러내지 못하고 있다는 내부 문건이 폭로됐다. 내부 고발자 및 내부 문건을 통해 페이스북의 어두운 ‘민낯’이 드러나면서 비판 여론도 커지고 있다.
월스트리트저널(WSJ)은 17일(현지시간) 입수한 내부 문건을 근거로 페이스북이 부적절한 콘텐츠를 제대로 분별하지 못하고 있다고 보도했다. 증오 발언과 과도한 폭력을 포함한 콘텐츠를 삭제하기 위해 AI를 도입했지만 제 역할을 하지 못하고 있다는 지적이다.
2019년 작성된 내부 문건에 따르면 2019년 페이스북의 한 엔지니어가 자동차 충돌사고와 닭싸움 영상이 확산하는 것을 보고 AI가 이를 인식해 삭제하도록 ‘딥비전’이란 이름의 머신러닝을 시켰다. 하지만 효과는 크지 않았다. 오히려 닭싸움인데 자동차 사고로 분류하는 등 오류도 2건 발생했다.
‘1인칭 총격’ 영상과 세차 영상도 혼동했다. 2019년 뉴질랜드에서 한 테러리스트가 이슬람 사원에서 51명을 총격 살해하며 범행을 1인칭 시점에서 페이스북으로 생중계했다. 페이스북이 AI를 활용해 1인칭 총격 영상을 걸러내려고 시도했지만, AI는 이를 제대로 탐지하지 못했다. 페인트볼을 쏘는 서바이벌 게임이나 세차 영상을 1인칭 총격과 혼동하기도 했다.
증오 발언에서도 AI는 제 역할을 하지 못했다. 한 수석 엔지니어는 페이스북의 자동화 시스템이 규정 위반 증오 발언의 단 2%에 해당하는 게시물을 삭제했다고 밝혔다. 올해 3월 다른 내부 문건에서도 AI가 증오 발언 조회 건수에 3~5% 수준의 게시물만 삭제한 것으로 보고됐다.
앤디스톤 페이스북 대변인은 이 비율이 “AI를 사용해 삭제된 게시물을 의미하며 뉴스피드에서 게시물 순위를 낮추는 등 증오심 표현을 보는 사람들의 수를 줄이기 위해 회사가 취하는 다른 조치는 포함하지 않았다”고 해명했다.
페이스북은 이전에도 인스타그램이 10대 청소년의 정신건강을 보호하지 못한다는 내부 문건이 공개돼 여론의 뭇매를 맞았었다. 지난달 14일(현지시간) WSJ는 페이스북 내부 문서를 입수해 페이스북이 지난 3년 동안 인스타그램의 영향력을 심층조사해 젊은층이 부정적 영향을 받고 있다는 결과를 알고 있음에도 무시했다고 보도했다. 뉴욕타임스(NYT)는 페이스북이 인스타그램의 10대 청소년 사용자들을 유지·확대하는 데 집중하고 있다고 보도했다.
페이스북은 출시를 준비 중이던 13세 이하 어린이용 인스타그램의 개발을 중단한다고 지난달 말 발표했지만 상원 청문회가 열리는 등 논란은 계속 거세지고 있다. 내부 문건을 제보한 내부 고발자이자 페이스북의 전 수석 프로덕트 매니저 프랜시스 하우건은 지난 5일 상원 청문회에 출석해 “페이스북이 반사회적 행위를 수익모델로 삼아 사회 분열을 조장하고 있다”고 지적했다.
양한주 기자 1week@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
