LG유플러스의 인공지능(AI) 통화 앱 ‘익시오’에서 직원 실수를 이유로 통화정보가 유출되면서 통화 내용을 서버에 저장하는 것이 안전한지에 대한 불안감이 고개를 들고 있다. AI 통화 요약 기능을 서비스하는 기업들은 통화 정보 중 음성과 음성을 문자로 변환한 데이터는 서버에 저장하지 않는다. 다만 통화 내용을 요약할 때는 서버를 통해 거대언어모델(LLM)을 활용하는데, 이후 6개월간 요약 내용을 서버에 저장한다. 이 과정에서 보안 관리를 철저히 하지 않으면 유사한 사고가 또 발생할 수 있다는 우려가 나온다.
통화 요약을 제공하는 서비스는 LG유플러스 익시오와 SK텔레콤 ‘에이닷’, 삼성전자의 자체 통화 앱이 대표적이다. 이들 서비스는 공통적으로 통화 내용을 음성에서 문자로 변환하고, 변환한 내용을 요약하는 기능을 제공한다. 통화를 하면 스마트폰 설정에 따라 자동으로 통화 내용을 요약해주기도 한다. 일상에 유용한 기능으로 이용자는 점차 많아지는 추세다. 에이닷은 월간활성이용자수(MAU)가 1000만명을 넘겼고, 익시오 가입자는 100만명을 돌파했다.
통화 내용이 민감한 정보인 만큼 기업들은 철저한 보안을 강조한다. LG유플러스는 스마트폰 기기 자체에서 AI 연산을 처리하는 ‘온디바이스 AI’ 기술을 내세웠다. 다만 통화 요약에는 LLM이 활용되기 때문에 스마트폰 내부가 아닌 네트워크를 통해 외부 서버로 전송하는 과정을 거친다. 완전한 온디바이스 AI 적용은 아닌 셈이다.
지난 2~3일 익시오를 새로 설치하거나 재설치한 이용자 101명에게 다른 고객 36명의 통화 내용 요약, 통화 상대방 전화번호, 통화 시각 등이 유출됐다는 사실이 알려지자 LG유플러스가 온디바이스 AI의 안전성에 대해 과장한 것 아니냐는 지적이 나왔다. 이에 LG유플러스 측은 10일 “모든 AI 통화 앱의 기능을 온디바이스 AI로 대체하는 시도를 이어가고 있으나, AI 성능 및 경량화 등 추가적인 기술 확보에 시간이 걸려 일부 기능은 서버를 거쳐 운영하고 있다”며 “통화 요약에 활용된 텍스트 파일 전문은 요약이 끝난 직후 바로 폐기하고 어떤 서버에도 저장되지 않는다”고 설명했다.
문제는 서버에 저장되는 통화 요약 내용이 어떻게 다른 사람에게 노출됐는지다. LG유플러스는 익시오 서비스 과정에서 임시 저장 공간인 캐시를 사용했는데, 서버 작업 중 캐시 설정에서 실수가 있었다는 입장이다. 일각에서는 암호화 처리가 제대로 되지 않은 것 아니냐는 의구심도 표한다. 서버에 저장되는 통화 요약 정보가 해킹 등 이유로 유출될 수 있다는 지적도 나온다.
염흥렬 순천향대 정보보호학과 교수는 “해당 통신사가 운용하는 정보보호 관리 체계가 아직 완벽하지 않아서 생긴 사고라고 본다”며 “온디바이스 AI도 취약점이 존재할 수 있고, 언제든지 데이터가 외부로 유출될 가능성이 있는 만큼 보안상 더욱 세심한 주의를 기울여야 한다”고 말했다.
심희정 기자 simcity@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
