네이버가 28일부터 제22대 국회의원 총선거일인 오는 4월 10일까지 네이버 인공지능(AI) 서비스에서 선거와 관련한 콘텐츠 생성을 금지한다고 밝혔다. 카카오도 자사 AI 모델을 활용한 생성물을 기술적으로 식별할 수 있도록 하는 방안을 도입키로 했다. 총선을 앞두고 생성형 AI를 활용한 조작 영상이나 이미지 등이 빠르게 확산할 것이라는 우려가 커진 데 따른 조치다.
이날부터 네이버의 대화형 AI 서비스 ‘클로바X’와 생성형 AI 검색 서비스 ‘큐:(CUE:)’는 선거에 관한 정보 제공 요청이나 예측 등의 용도로 쓸 수 없게 됐다. 선거와 관련된 프롬프트(명령어)가 입력되면 ‘선거 정보는 대화 시점에 따라 변동될 수 있으니 선거관리위원회의 공식 자료 또는 네이버 통합검색 결과를 확인하세요’라는 문구가 뜬다.
네이버는 또 포털 사이트에서 딥페이크와 관련한 검색어 입력에 대해 주의 안내 문구를 띄운다. 네이버 블로그와 카페 등에서 영상 게시물을 작성할 경우에도 딥페이크 주의 안내 문구가 뜬다.
네이버는 AI를 활용해 생성된 이미지 등에 ‘워터마크’(식별 표식)를 붙이는 방안도 추진 중이다. AI가 만든 ‘가짜 콘텐츠’를 식별할 수 있도록 하기 위해서다. 네이버 관계자는 “하이퍼클로바X가 생성한 이미지에 대해 워터마크를 붙이는 기술 개발을 진행 중”이라고 설명했다.
카카오도 자사의 이미지 생성 AI 모델인 ‘칼로’에 워터마크를 붙이는 방안을 검토하고 있다. 총선 전 워터마크 기술 도입을 목표로 하고 있다. 국내 빅테크의 딥페이크 대책이 발 빠르게 추진된 배경에는 선거를 앞두고 가짜 영상이 퍼질 수 있다는 우려가 커진 상황이 있다.
최근 SNS에는 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’이라는 제목의 가짜 영상이 퍼졌다. 짜깁기해 만든 것으로 확인된 이 영상에서 윤석열 대통령은 “대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말했다.
정부 대응도 빨라졌다. 방송통신위원회는 지난 23일 딥페이크 허위정보 대응 관련 자율규제 강화를 위한 민관 협력 회의를 열고 대책을 논의했다. 이 회의에서는 네이버, 카카오, 구글 등 AI 기술을 보유한 회사 관계자들이 참석해 AI 생성물 표시, 탐지 모니터링, 자율규제 방안 등에 대해 논의했다.
김경택 기자 ptyx@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
