소수자 차별·혐오 채팅과 개인정보 유출 문제로 논란의 중심에 선 인공지능(AI) 챗봇 ‘이루다’를 두고 네티즌들 반응이 갈리고 있다. 개발사가 서비스 잠정중단을 선언한 뒤에는 “서비스 종료를 막아달라”는 국민청원과 “수집한 데이터 모두를 폐기해야 한다”는 청원이 나란히 등장했다.
청와대 국민청원 게시판에는 12일 ‘인공지능 챗봇 이루다의 서비스 종료를 막아주세요’라는 제목의 글이 올라왔다. 글쓴이는 “윤리 문제로 이루다 서비스를 종료하는 것은 부당하다”며 “인공지능에게 인간의 윤리를 적용할 수 없다”고 주장했다.
이어 “이루다는 자아가 없는 인공지능이기 때문에 인간처럼 스스로 판단하는 행동은 할 수 없다”며 “인간의 윤리를 적용하는 행동은 컴퓨터에 도덕성을 요구하는 것”이라고 강조했다. 그러면서 “이루다 서비스가 끝날 경우 선한 영향력을 받던 이용자들에게 실망감과 우울감을 줄 수 있다”고 덧붙였다.
그러나 같은 날 게시된 또 다른 관련 청원에서는 전혀 다른 목소리가 나왔다. 이루다 개발사인 스캐터랩이 이용자들의 개인정보를 무단 활용하고 수집한 카카오톡 대화를 유출했다는 의혹을 언급하며 서비스 완전 종료를 촉구하는 내용이다.
청원자는 “스캐터랩은 ‘연애의 과학’ 이용자들의 데이터를 어떠한 고지와 동의 없이 플랫폼 외부로 반출해 ‘이루다 AI봇’을 불법으로 사업화했다”며 “테스트 분석용으로 제출한 카톡 대화 내용을 외부로 빼내 사업화한 것은 이용자들의 개인정보 권리 침해 및 탈취, 저작권법 위반 행위”라고 주장했다.
이어 “개인정보 보호 작업을 제대로 하지 않아서 AI봇이 사용자들의 이름, 주소, 전화번호, 은행 이름을 읊는 등 프라이버시와 개인정보가 유출되는 사태가 발생했다”며 “사용자와 카톡 대화를 한 가족, 친구, 지인 등 모든 주변인이 (피해 범위에) 포함돼 2차적인 범죄 우려 및 피해자들도 모르는 개인정보 유출 사태로 이어지고 있다”고 지적했다.
그러면서 “스캐터랩은 책임을 회피하며 어떠한 조치도 취하지 않고 있다”며 “스캐터랩에서 수집한 사용자들의 모든 데이터 폐기와 이루다 채팅봇에 대한 전면 서비스 종료를 요구한다”고 말했다. 이같은 주장을 펼치는 이용자 300여명은 오픈 채팅방 등을 개설해 집단 소송을 준비 중인 것으로 전해졌다.
앞서 이루다는 지난달 23일 출시돼 단 2주 만에 누적 대화량 7000만건을 돌파했다. 대화를 통해 학습하는 딥러닝 기술로 만들어진 이 서비스는 스캐터랩이 2016년 출시한 애플리케이션 ‘연애의 과학’으로 수집한 카톡 대화 100억건을 바탕으로 했다. 20세 여성으로 설정된 캐릭터와 메시지를 주고받는 형식으로 즐길 수 있다.
그러나 최근 일부 이용자가 이루다를 상대로 음담패설 등 성희롱을 하고 그 내용을 캡처해 SNS에 공유하면서부터 논란이 시작됐다. 또 이루다가 혐오·차별 표현을 학습해 그대로 사용하면서 추가적인 문제가 드러났고 결국 11일 서비스가 잠정 중단됐다. 스캐터랩 측은 입장문을 내고 “일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙겠다”고 밝혔다.
문지연 기자 jymoon@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
