지방선거 가짜뉴스 AI로 다 잡아낸다

정부가 6·3 지방선거를 앞두고 가짜뉴스 등 딥페이크 조작 범죄에 강력 대응하기 위해 인공지능(AI) 기반 탐지 기술을 본격적으로 활용한다.

행정안전부는 국립과학수사연구원과 함께 개발한 ‘AI 딥페이크 탐지 모델’을 제9회 전국동시지방선거에 적용할 계획이라고 10일 밝혔다. 딥페이크는 AI 기술을 이용해 가짜 이미지, 영상물 등을 만드는 기술이다. 최근 생성형 AI 기술 발전으로 이 같은 딥페이크 콘텐츠가 빠르게 확산하면서 선거 과정에서 허위 정보로 악용될 수 있다는 우려도 커진 상황이다.

중앙선거관리위원회에 따르면 선거 기간 딥페이크 영상 삭제 요청은 2024년 제22대 총선 당시 388건에서 지난해 대선 때 1만510건으로 크게 늘었다.

행안부가 이번 선거에서 활용하려는 탐지 모델은 지난해 12월 열린 ‘딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회’ 성과를 바탕으로 개발됐다. 최신 생성형 AI 기반 콘텐츠에도 대응할 수 있게 설계됐다.

또 영상의 전체 흐름을 분석하는 ‘전역 분석’과 얼굴 등 특정 부위의 조작 흔적을 판별하는 ‘국소 분석’을 동시에 수행하는 방식으로 탐지 정확도가 높아졌다. 검증 결과 약 92% 수준의 탐지 정확도를 기록해 이전 모델 탐지율 76%보다 크게 향상됐다.

행안부와 국과수는 향후 AI 딥페이크 분석 모델의 활용 범위를 단계적으로 확대할 계획이다. 이날 시연회에 참석한 윤호중 행안부 장관은 “딥페이크는 단순한 기술 문제가 아니라 민주주의를 흔들 수 있는 새로운 정보 범죄”라며 “관계기관과 긴밀히 협력해 허위·조작 정보에 적극 대응하겠다”고 말했다.

황인호 기자 inhovator@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지