국내 연구진이 동영상에 타인의 얼굴을 합성하는 ‘딥페이크(deepfake)’를 손쉽게 탐지할 수 있는 모바일 앱을 개발했다.
한국과학기술원(KAIST)은 전산학부 이흥규 교수 연구팀이 딥페이크 및 사진 위변조 탐지 앱인 ‘카이캐치(KaiCatch)’를 개발했다고 30일 밝혔다. 딥페이크 탐지 소프트웨어를 모바일 앱 형태로 개발해 서비스하는 것은 국내 최초 사례다.
주로 사람의 얼굴을 대상으로 하는 딥페이크 기술은 얼굴 교체, 얼굴 재현, 얼굴 속성 변환 등 3가지 유형으로 나뉜다.
이중 얼굴 교체·재현 기술은 가짜 뉴스 및 음란물 제작 등에 악용돼 사회적 혼란을 일으키거나 개인의 인권을 침해할 수 있으며, 얼굴 속성 변환은 영상 증거를 조작하는데 악용될 수 있다.
연구팀이 개발한 기술은 딥페이크 생성 유형에 관계없이 일반적인 미세 이상 신호 흔적을 분석하는 방식이다.
얼굴 주변 영역과 내부 영역의 미세한 변형, 코·입·얼굴 윤곽 등 얼굴의 기하학적 왜곡이 발생할 수 있는 영역의 미세한 이상 흔적을 분석해 딥페이크를 탐지한다.
카이캐치가 딥페이크를 탐지할 수 있는 매체는 avi와 mp4 형식의 비디오 파일이다. 영상을 개별 프레임으로 잘라 이미지로 변환해 딥페이크 여부를 분석한다.
동영상 내 얼굴이 지나치게 작거나(해상도 128×128 이하) 사람의 얼굴이 상당 부분 잘린 경우가 아니라면 정상적으로 탐지가 가능하다. 분석 결과는 0~100%로 표시되며 숫자가 높을수록 딥페이크일 확률이 높은 것으로 판단한다.
위변조가 의심되는 사진 역시 앱에 업로드하면 해당 이미지를 분석, 두 장의 이미지로 보여줘 일반인들도 변조 여부를 쉽게 판단할 수 있다.
연구팀은 향후 탐지 정확도를 향상시키는 한편 포토샵 같은 저작 도구에 대한 탐지 기능도 추가한다는 계획이다.
KAIST는 이 앱을 통해 일반인들도 보다 쉽게 디지털콘텐츠 위변조를 탐지할 수 있을 것으로 기대하고 있다.
이번 연구는 KAIST 창업기업인 ㈜디지탈이노텍과 산학협력 연구로 수행됐다.
이흥규 교수는 “카이캐치는 인공지능과 미세 이상 신호 흔적 분석 기법이라는 첨단 기술을 사용해 다양한 유형의 변형에 대응할 수 있다”며 “우리가 예측하지 못하거나 모르는 변형 기법을 사용해도 90% 안팎의 높은 신뢰도로 탐지한다”고 설명했다.
그러면서 “현재 안드로이드 기반 모바일 환경에서 동작하지만, 조만간 애플 iOS 기반의 앱과 함께 영어·중국어·일본어 앱도 출시할 것”이라고 했다.
대전=전희진 기자 heejin@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
