혐오 발언과 개인정보 유출 등으로 논란을 빚은 인공지능(AI) 챗봇 ‘이루다(사진)’의 서비스가 중단된다. 정부가 업체의 정보 수집 과정에 대한 조사에 나서고, 사용자들의 집단소송 움직임까지 이어지자 개발사가 결국 고개를 숙인 것이다.
스타트업 스캐터랩은 11일 “특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다”며 “부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다”고 밝혔다.
회사는 특히 차별·혐오 발언이 이어지지 않도록 서비스를 개선하겠다고 약속했다. 스캐터랩은 “이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI로 배워야 할 점이 아직 많다”며 “적절한 답변, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라고 설명했다.
스캐터랩이 지난달 23일 출시한 이루다는 페이스북 메신저를 기반으로 챗봇과 대화를 나눌 수 있는 서비스다. 실제 연인들이 나눈 대화 데이터 100억건 가량을 학습시켜 자연스러운 대화가 가능했다. 입소문이 퍼지면서 출시 일주일여 만에 이용자가 40만명을 넘기는 등 주목을 받았다. 하지만 일부 온라인 커뮤니티에서 챗봇을 성적 도구로 취급하는 글이 올라오면서 눈살을 찌푸렸다. 또 특정 질문을 답변하는 과정에서 동성애·장애인·여성·인종 차별에 해당하는 발언을 해 논란이 커졌다.
개인정보가 제대로 익명화되지 않았다는 의혹도 불거졌다. 대화 중 특정인의 이름을 언급하거나 아파트 동·호수가 포함된 주소를 말하는 사례가 발견되면서다. 스캐터랩의 다른 애플리케이션(앱) 서비스인 ‘연애의 과학’ 이용자들에게 개인정보 수집과 활용 내용을 구체적으로 명시하지 않았다는 점도 문제로 지적됐다. 이에 개인정보보호위원회는 한국인터넷진흥원(KISA)과 함께 스캐터랩 관련 사실관계 파악에 착수하기도 했다.
스캐터랩 측은 개인정보 유출 의혹에 대해 “개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못한 점에 사과드린다”며 “구체적 개인정보는 이미 제거돼있으며 개인을 특정할 수 있는 정보는 유출되지 않았다”고 해명했다.
김성훈 기자
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
2087
