가짜뉴스는 전쟁 상황에서 더 기승을 부린다. 각 진영에서 여론을 장악하기 위해 허위 정보나 선전을 대량 생산하기 때문이다. 해당 내용이 진짜인지, 가짜인지는 중요하지 않다. 여론전에 영향을 미칠 수 있다면 가짜뉴스 유포를 서슴지 않는 경우가 많다.
이란 전쟁에서도 인공지능(AI)으로 생성된 사진과 영상이 SNS에 무분별하게 올라오고 있다. 과거 영상을 마치 현재 상황처럼 둔갑시킨 가짜 사진이나 영상이 난무한다. 이란 최고지도자 아야톨라 알리 하메네이의 사망 소식이 전해진 뒤 SNS에는 구조대원들이 하메네이의 시신을 수습하는 사진이 올라왔다. 하메네이가 건물 잔해 속에 깔린 모습이었다. 하지만 해당 사진은 가짜인 것으로 판명됐다. 한밤중 테헤란 시내로 추정되는 도로 위에 미군 군용차 수십대가 줄지어 이동하고, 미군 병사들이 군용차 옆에서 나란히 행군하는 모습이 담긴 영상도 가짜로 드러났다.
영상은 사진보다 진위를 분별하기 어려운 경우가 많다. 사진은 자세히 보면 어색한 부분이 있지만 영상에서는 이를 놓치기 쉽기 때문이다. 심승배 한국국방연구원 책임연구위원은 8일 “가짜 정보나 AI 영상이 점점 더 정교해지고 있다”며 “진짜와 가짜를 어떻게 식별해낼지가 각국의 과제가 됐다”고 말했다.
가짜뉴스는 과거 전쟁에서도 반복됐다. 2023년 이스라엘과 하마스 전쟁 당시 가자지구에 있는 병원이 폭파됐다는 소식이 퍼지자 하마스는 즉각 ‘이스라엘 공습으로 500명이 사망했다’고 발표했다. 하지만 실제로는 팔레스타인 무장단체가 잘못 발사한 로켓이 원인인 것으로 나타났다. 가짜뉴스가 빠르게 전파되는 이유는 자극적인 내용으로 사람들의 관심을 끌어내기 때문이다. 미국 매사추세츠공대(MIT) 연구진은 가짜 정보의 온라인 확산 속도가 진짜 정보보다 6배 빠르고, 정치·전쟁 관련 콘텐츠에서 특히 확산 속도가 높다는 연구 결과를 내놨다.
가짜뉴스에 활용된 사진이나 영상은 구글 팩트체크 사이트 등 검증 도구를 통해 식별할 수 있다. 구글의 ‘신스 ID’는 눈에 보이지 않는 워터마크를 삽입해 AI 생성 콘텐츠를 식별할 수 있도록 한다. 제미나이에 동영상을 업로드하고 ‘이 동영상이 구글 AI로 생성됐느냐’고 물어보면 구체적으로 어느 구간에 구글 AI 생성 요소가 포함돼 있는지 알려준다. 엑스는 AI로 생성되거나 변조된 콘텐츠에 ‘AI로 만들어짐(Made with AI)’ 라벨을 부착해 사용자가 확인할 수 있는 기능을 도입했다.
테크이슈팀=심희정 양한주 김혜지 기자 simcity@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
