가족이나 지인의 목소리인 것처럼 위·변조된 인공지능(AI) 조작 음성을 잡아내는 기술이 상용화된다.
LG유플러스는 AI가 생성한 가짜 목소리를 판별하는 기술 ‘안티딥보이스’를 자사 AI 통화 에이전트 서비스 ‘익시오(ixi-O)’에 탑재한다고 26일 밝혔다. LG유플러스 가입자는 이달 말부터 익시오에서 해당 서비스를 사용할 수 있다.
안티딥보이스 기술은 익시오를 통해 통화 중인 상대방의 목소리가 위·변조됐다는 사실을 5초 만에 판별한다. 통화 상대방의 목소리가 진짜가 아닌 것으로 판단되면 익시오는 팝업창으로 위험을 알린다. 위·변조된 목소리의 부자연스러운 발음을 찾아내거나 음성 주파수의 비정상적인 패턴을 탐지하는 방식으로 진위를 판별한다고 회사 측은 설명했다.
안티딥보이스는 개인정보가 이용자 스마트폰에만 저장되는 ‘온디바이스(On-device)’ 형태로 구현된다. 통화 요약 등 민감한 개인정보가 외부로 유출되는 것을 막기 위해서다. 이 같은 기술을 온디바이스로 상용화하는 것은 세계에서 LG유플러스가 처음이다.
스팸과 보이스피싱 의심 전화를 AI가 대신 받아주는 서비스는 오는 8월 선보인다. 통화 시작 전 보이스피싱 가능성이 높은 번호를 자동으로 탐지하고, 보이스피싱 범죄자의 목소리를 탐지하는 시스템도 개발하고 있다. 국립과학수사연구원이 보유한 보이스피싱범의 목소리를 AI로 실시간 비교·분석하는 방식이 활용된다. 금융권과 협업해 AI 기반 보이스피싱 징후를 탐지하고 실시간으로 경고하는 기술 개발도 추진한다.
LG유플러스는 이와 함께 AI가 합성한 얼굴을 활용한 범죄 피해를 예방하기 위한 ‘안티딥페이크’ 기술도 개발 중이다. 영상이나 이미지를 분석해 합성된 영상에 남아있는 비자연적인 흔적을 탐지해 합성 여부를 판별한다.
LG유플러스는 익시오의 기본 서비스를 유료화할 계획은 없다고 밝혔다. 최윤호 AI 에이전트추진그룹장(상무)은 “통신사로서 보안은 기본적으로 해야 할 의무이기 때문에 기본적 기능에 대해서는 유료화할 계획은 없다”고 말했다.
심희정 기자 simcity@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
