서울 마포구에 사는 주부 정모(68)씨는 유튜브 채널에 올라오는 숏츠 영상을 볼 때마다 진짜인지 가짜인지 확인하는 버릇이 생겼다. 얼마 전 유명 골프 선수와 배우가 결혼한다는 내용의 영상을 보고 아들에게 공유했다가 “인공지능(AI)으로 만든 가짜 뉴스”라는 핀잔을 들은 일이 계기가 됐다. 정씨는 “비슷한 종류의 영상을 계속 보다 보니 AI로 만든 영상인지 아닌지를 어느 정도 구분할 수 있게 됐다”면서도 “정교하게 제작된 영상에는 아직도 깜빡 속는다”고 말했다.
AI가 생산한 저품질 콘텐츠, 소위 ‘AI 슬롭’이 소셜미디어에서 범람하고 있다. 누구나 쉽게 영상을 만들고 전파할 수 있는 길이 열렸지만, 끊임없이 쏟아지는 AI 슬롭에 피로감을 호소하는 사람도 많아졌다. AI 슬롭의 정보 교란이 사회 전반의 신뢰 구조를 허물고 있다는 지적도 제기된다.
AI 슬롭 특징은 가짜지만 진짜처럼 보인다는 점이다. 유명인 얼굴과 목소리를 합성해 허위 발언을 하는 영상, 재난이나 전쟁 장면을 마치 현장에서 촬영한 듯한 영상, 강아지가 사람 말로 아이와 대화를 나누고 호랑이가 차량을 수리하던 사람을 공격해 물고 가는 영상 등이다.
영상·이미지 제작 장벽을 크게 낮춘 점 등을 고려하면 부정적인 측면만 있는 건 아니다. AI 슬롭을 제작하는 과정에서 새로운 밈(meme)이나 독특한 창작물도 탄생한다.
문제는 ‘디지털 오염’에 따른 부정적인 효과가 훨씬 크다는 데 있다. 다수의 사람들이 스마트폰에 올라오는 영상의 진위를 의심하는 수준을 넘어 정부 발표나 기업 정식 광고 영상까지도 일단 ‘색안경’을 끼고 보는 상황이다. 닐 모한 유튜브 최고경영자(CEO)가 올해 유튜브 운영 최우선 과제로 “AI 슬롭과 맞서 싸우는 것”이라고 말한 것도 이 때문이다.
미국 영상 편집 플랫폼 카프윙이 지난해 11월 발간한 보고서에 따르면 한국은 전 세계에서 AI 슬롭을 가장 많이 보는 국가였다. 지난달 22일부터 시행에 들어간 ‘AI 기본법’은 AI 생성 콘텐츠라는 사실을 이용자에게 사전 고지하도록 규정하지만, AI 슬롭 관련 명시한 조항은 없다.
한국AI교육협회 회장인 문형남 숙명여대 글로벌융합부 교수는 4일 “AI 리터러시 교육과 더불어 AI 콘텐츠 심의기구 신설 및 처벌 규정 명문화, 처벌 강도 강화를 통해 폐해를 방지할 수 있을 것”이라고 설명했다. 다만 AI 업계 관계자는 “규제를 만드는 게 능사는 아니다”며 “AI 슬롭 소비를 얼마나 줄이고 가치 있는 콘텐츠를 얼마나 키울 수 있느냐에 초점을 맞춰야 한다”고 말했다.
박진호 동국대 컴퓨터·AI학부 교수는 “플랫폼 기업은 2~3년치 빅데이터 추이 통계를 내서 알고리즘 가중치 값을 변경한다”며 “이 가중치에 질 낮은 콘텐츠를 걸러내는 기준을 넣은 뒤 이에 대한 판단을 전문적으로 수행하는 AI를 활용하는 방안이 필요하다”고 제언했다.
손재호 양윤선 기자 sayho@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
