챗GPT 개발사 오픈AI는 간단한 텍스트 명령만으로 실제 같은 영상을 만들어내는 인공지능(AI) 모델 ‘소라’를 올해 하반기 일반인에게 공개할 예정이다. 소라와 같은 고도화된 AI 모델의 등장은 딥페이크(딥러닝과 AI로 만든 영상, 이미지 등의 가짜 콘텐츠) 문제와 AI 산업의 분수령이 될 전망이다. 딥페이크를 가려내는 기술과 관련 규제는 현재 이 같은 기술 발달을 따라가지 못하고 있는 실정이다.
소라가 공개된 지난달, 미국 AI정책연구소(AIPI)가 1000여명을 대상으로 설문조사한 결과, 응답자 77%는 영상 AI 모델을 배포하는 것보다 오용을 막기 위한 안전 장치를 마련하는 게 더 중요하다고 답했다. 소라에 대한 의견을 묻는 질문에는 42%가 ‘우려스럽다’고 대답했다.‘흥미롭다’는 응답은 18%에 그쳤다.
누구나 생성형 AI로 영상을 만들 수 있는 시대가 다가왔지만 기대보다는 우려가 크다. 최근 딥페이크 악용 사례가 증가한 탓이다. 지난 1월 미국 뉴햄프셔주에선 예비 경선을 하루 앞두고 가짜로 만든 조 바이든 미국 대통령의 목소리가 담긴 전화가 돌았다. 국내에선 최근 윤석열 대통령이 “저 윤석열은 대한민국을 망치고 국민을 고통에 빠뜨렸습니다”고 말하는 허위 영상이 SNS에서 확산됐다.
문제는 딥페이크 생성 기술에 비해 탐지 역량이 뒤처져 있다는 점이다. 업계 한 관계자는 18일 “딥페이크를 만드는 기술은 하루가 다르게 고도화되는데, 이를 가려내는 기술은 아직 부족하다”고 말했다. 다른 관계자는 “딥페이크 탐지 기술은 딥페이크 생성 능력도 담보돼야 하는 한편, 사업성이 크지 않은 상황”이라고 했다. 국내에선 AI 스타트업 딥브레인AI가 지난 1월 업계 최초로 딥페이크 탐지 솔루션을 상용화했다.
딥페이크를 활용한 콘텐츠임을 알리는 표시도 의무화돼 있지 않다. 지난해 12월 김승수 국민의힘 의원 등이 발의한 정보통신망법 개정안은 국회에 계류 중이다. 이 법안은 AI 기술로 만든 가상의 정보 표시를 의무화한 것이다.
현재 딥페이크 제재는 플랫폼 기업의 자율에 맡겨진 상황이다. 최근 한국인터넷기업협회는 네이버, 카카오, SK커뮤니케이션즈가 악의적 선거 딥페이크 방지를 위한 공동선언을 채택했다고 밝혔다. 네이버는 포털 사이트에서 딥페이크 관련 검색어 입력 시 주의 문구를 띄운다. 블로그, 카페에서 동영상 게시물을 작성할 때도 딥페이크 주의 안내 문구가 뜬다. 네이버는 콘텐츠 출처를 확인할 수 있는 ‘글로벌 기술 표준(C2PA)’ 채택을 추진하고, 생성형 콘텐츠를 탐지하는 기술 확보를 위한 연구개발도 진행 중이다. 카카오는 자사 AI 이미지 생성 모델 ‘칼로’에 비가시성 워터마크(식별 표시)를 도입해, 이미지에 사람이 아닌 칼로가 생성했다는 정보를 담을 수 있도록 했다.
전창배 국제인공지능윤리협회 이사장은 “딥페이크 부작용 방지를 위한 법 제도가 신속하게 마련돼야 한다”고 말했다.
조민아 기자 minajo@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
