딥페이크 확산에 아동 성착취물 단속팀 신설한 X

Է:2024-01-29 15:57
ϱ
ũ

소셜미디어 X(엑스·옛 트위터)가 아동 성 착취물 등 불법 콘텐츠를 단속하는 단속팀을 신설한다. 최근 인공지능(AI) 기술을 활용한 딥페이크가 사회 문제로 떠오르자 콘텐츠 검수 업무를 강화하겠다는 것이다.

블룸버그통신 등에 따르면 X의 비즈니스 운영 책임자인 조 베나로치는 28일(현지시간) X가 미국 텍사스주에 ‘신뢰와 안전 센터’를 신설한다고 밝혔다. X는 이 센터에 100명의 콘텐츠 관리자를 정규직으로 채용할 계획이다. 센터는 아동 성 착취물 등 불법 콘텐츠를 단속할 예정이다. 혐오 발언이나 폭력적 내용의 게시물을 규제하는 플랫폼 정책도 마련할 계획이다.

앞서 일론 머스크는 2022년 10월 트위터를 인수한 뒤 X로 이름을 바꾸면서 콘텐츠 규제 관련 정책을 모두 없앴으며 관련 부서 인력도 해고했다. 언론의 자유를 높이겠다는 명분이었다.

그러나 딥페이크 기술을 활용한 악의적 게시물이 확산하고 세계 곳곳의 선거를 앞두고 가짜뉴스까지 나돌면서 국제 사회의 압박이 커졌다. 미국 백악관은 “실존하는 사람들의 친근한 이미지와 허위 정보가 사전 동의 없이 확산하는 것을 방지해야 한다”면서 정보기술(IT) 기업의 사회적 책임을 강조했다.

전성필 기자 feel@kmib.co.kr

GoodNews paper Ϻ(www.kmib.co.kr), , , AIн ̿
Ŭ! ̳?
Ϻ IJ о
õ
Ϻ Ź