인공지능(AI) 챗봇 ‘이루다’에 쓰인 개인정보가 제대로 익명화(비식별화)되지 않았다는 의혹이 제기되고 있다. 개발사의 다른 앱을 이용한 고객들의 개인정보가 이루다에 사용되고 있다는 것이다.
11일 IT업계에 따르면 이루다 개발사인 스타트업 스캐터랩이 2016년 출시한 앱 ‘연애의 과학’ 이용자들은 “개인정보가 유출됐다”고 목소리를 높이고 있다.
연애의 과학은 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2000~5000원 정도를 결제하면 답장 시간 등 대화 패턴을 분석해 애정도 수치를 보여주는 서비스를 제공했다. 다른 연애 관련 앱과 달리 실제 AI로 대화를 분석해준다는 차별점 때문에 유료인데도 구글 플레이스토어에서만 10만명이 넘게 내려받는 등 10, 20대 사이에서 인기였다.
스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 이루다는 이 연애의 과학 앱에 이용자들이 집어넣은 카톡 대화를 데이터 삼아 개발됐다. 앞서 스캐터랩 측은 대화량이 100억건에 달한다고 밝힌 바 있다. 어느 챗봇보다도 자연스러운 말투로 주목받았던 이루다의 대화 능력은 실제 연인의 메시지 내용을 기반으로 만들어졌기에 가능했던 것이다.
현재 온라인 커뮤니티에는 이루다가 누군가의 실명으로 보이는 이름을 말하거나, 동· 호수까지 포함된 주소 등을 말한 화면이 캡처돼 공유되고 있다. 예금주가 나오는 은행 계좌번호를 말한 사례도 있었다.
이름의 경우 ‘○.○.○’처럼 중간에 특수기호를 넣어 쓰거나, ‘난○○○끝인데’처럼 다른 단어와 붙여 쓴 사례가 발견됐다. 이름만 따로 떼서 쓴 경우에는 익명화 처리 되지만, 중간에 특수기호가 포함되면 익명화 처리가 되지 않을 가능성이 있는 것이다.
일부 이용자들은 “이루다에 옛날 애인 애칭을 집어넣었더니 이루다가 애인 말투로 말했다” “이루다에 애인 이름을 입력했더니 실제 다른 친구의 이름을 언급했다” 등의 사례도 공유하고 있다.
연애의 과학 이용자들은 앱 이용 당시 ‘신규 서비스 개발에 활용될 수 있다’는 내용만 고지받았을 뿐 구체적으로 어떤 서비스에 활용되는지 설명받지 못했다며 분노하고 있다. 한 이용자는 “‘신규 서비스 개발’이 연애의 과학 앱 내에 있는 심리테스트 등의 콘텐츠 개발을 가리키는 줄 알았지 여성 AI 챗봇 대화에 쓰일 줄은 생각하지 못했다”고 말했다.
또 “카톡은 2명이 나누는 것인데 연애의 과학 앱에 카톡 대화를 집어넣을 때 상대방 동의는 구하지 않은 경우가 대다수”라며 “동의하지 않은 그 상대방은 어떻게 되는 것이냐”고 했다. 이어 “사적인 대화가 악성 이용자들에게 성희롱 소재로 쓰인다니 소름이 끼친다”고 덧붙였다. 이루다는 일부 이용자들의 부적절한 대화 등으로 인해 성희롱, 성적 착취 논란에 휩싸이기도 했다.
연애의 과학 이용자들은 오픈채팅방을 만들어 “집단 소송을 준비하자”며 자료를 수집하고 있다.
스캐터랩 측은 논란이 거세지자 연애의 과학 앱 내 공지를 통해 입장을 밝혔다. 이들은 “데이터에서 개인을 특정할 수 있는 정보는 알고리즘을 통해 제거했다”며 “추가 알고리즘 업데이트로 강화해나가고 있다”고 해명했다.
그러면서 “데이터가 학습에 사용되는 것을 원하지 않으면 데이터를 삭제할 수 있다”고 알렸다. 그러나 이용자들은 “증거를 인멸하라는 것이냐”라며 분노하고 있다. “돈을 내고 앱을 다운받고, 데이터까지 제공했다” “데이터가 삭제된다는 것을 어떻게 믿을 수 있냐” 등의 의견도 있었다.
공동소송 플랫폼 ‘화난사람들’ 최초롱 대표는 “이용자들이 우선 사실관계를 조사할 수 있는 수사·조사 기관에 신고해서 실제 개인정보 유출이 있었는지 확인해야 할 것으로 보인다”며 “기관의 개입이 필요해 보인다”고 말했다.
박은주 기자 wn1247@kmib.co.kr