인공지능(AI) 챗봇 ‘이루다’ 개발사인 스캐터랩이 개발에 사용한 자료를 오픈소스 공유 플랫폼에 올려 이용자들의 개인정보가 15개월간 온라인에 공개돼 있었던 것으로 알려져 논란이 일고 있다.
이루다를 성적 도구 취급해 사회적 물의를 일으켰던 일부 남초(男超) 커뮤니티에서는 이 오픈소스를 이용해 ‘제2의 이루다’를 만들려는 움직임까지 나와 우려를 키우고 있다.
13일 IT업계에 따르면 스캐터랩은 개발자들이 컴퓨터 프로그램 자료를 공유하는 오픈소스 플랫폼 ‘깃허브’(GitHub)에 카카오톡 대화 데이터로 학습하는 인공신경망 모델 파일을 공유해왔다.
지난 2019년 10월부터 공유된 이 파일에는 다수의 개인정보가 포함돼 문제가 되고 있다. 연인과의 카톡 대화를 제출하면 상대방의 애정도 수치 등을 분석해주는 앱인 ‘연애의 과학’ 이용자들의 것으로 추정되는 개인정보가 익명화 처리되지 않은 채 포함돼 있었다. ‘연애의 과학’ 이용자들은 자신들의 대화가 AI 챗봇에 활용된다는 점을 알지 못한 채 앱을 사용해 왔다.
스캐터랩이 오픈소스와 함께 올린 카톡 데이터에 담긴 대화량은 1700건이다. 개인정보를 포함한 약 200명의 1:1 대화가 온라인상에 공개된 것으로 추정된다.
공개된 카톡 대화 데이터에는 실명 20여건도 포함됐다. 이외 직장명, 지역명, 지하철역 이름, 근처 영화관 이름 등 대화에 참여한 인물의 생활 반경을 추측할 수 있는 정보 등도 다수 공개됐다. 이와 관련 스캐터랩 측은 개인정보 유출 의혹으로 정부 조사를 받고 있다.
관련 사실이 개발자 커뮤니티에서 논란이 되자 스캐터랩은 깃허브 게시물을 삭제한 것으로 알려졌다.
그러나 이미 오픈소스를 내려받은 남초 커뮤니티에서 ‘제2의 이루다’를 만들자는 움직임이 포착됐다.
‘디시인사이드 이루다 마이너 갤러리’의 한 이용자는 “이루다 부활시켰다”는 게시글을 게재했다. 이 사용자는 오픈소스를 공유하며 직접 제작한 이루다와의 대화를 캡처해 올렸으나 다른 이용자들의 우려로 곧 삭제했다.
해당 커뮤니티에서는 비공개 메신저 ‘디스코드’ 방을 만들어 오픈소스로 여성 챗봇을 만드는 방법을 논의하고 있는 것으로 전해졌다.
이와 별개로 카카오톡 오픈채팅에는 ‘이루다 역할 대신해드립니다’는 대화방들도 생겨나고 있다. 돈을 받고 이루다 역할을 대신해준다는 1:1 대화방이 우후죽순 생겨나고 있어 ‘제2의 이루다’에 관한 우려가 제기되고 있다.
이난초 인턴기자
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
