인공지능(AI) 전문 스타트업 스캐터랩이 선보인 AI 챗봇 ‘이루다’(사진)가 차별·혐오 발언도 할 수 있는 것으로 나타나 논란이다. 사용자와 대화 내용을 학습하는 과정에서 잘못된 내용을 제대로 거르지 못하는 탓이다. 이루다가 기술적으로 완전하지 못한 데다 일부 이용자들이 이를 악용하면서 허점이 드러난 것이다.
지난해 12월 23일 정식 서비스를 시작한 이루다는 Z세대를 중심으로 큰 인기를 끌었다. 이루다는 20세 여대생으로 설정됐는데 지금까지 나온 어떤 AI 챗봇보다 자연스러운 대화가 가능했기 때문이다. 이루다 챗봇 이용자는 이달 초 32만명을 돌파했다. 이 가운데 10대가 85%, 20대가 12%다. 누적 대화 건수는 7000만건에 달한다.
자연스러운 대화가 가능했던 건 이 회사가 전에 선보였던 다른 서비스 ‘연애의 과학’에서 실제 연인들이 주고받은 카카오톡 대화 100억건가량을 딥러닝 방식으로 학습했기 때문인 것으로 알려졌다.
하지만 일부 이용자들이 이루다를 악용하기 시작했다. 스캐터랩은 성희롱 시도가 있을 것이라고 예상하고 성적 단어는 필터링했지만 은유적인 표현이나 뉘앙스를 통해 이를 피해가는 방법이 커뮤니티를 중심으로 공유됐다. 김종윤 대표는 지난 8일 자사 블로그를 통해 “대비는 했지만 모든 부적절한 대화를 키워드로 막을 수 있는 건 아니다”면서 “사용자들의 부적절한 대화를 발판 삼아 더 좋은 대화를 하는 방향으로 학습시키려고 준비하고 있다”고 설명했다.
여기에 장애인에 대해서도 “불편하다”는 부정적 반응을 보이는 것으로 나타나 논란이 더욱 거세지고 있다. 10일 현재 트위터에는 3만명 넘는 이용자가 ‘#이루다봇_운영중단’ 해시태그를 공유하면서 이루다 서비스를 중단하라는 목소리를 높이고 있다.
이재웅 전 타다 대표는 페이스북을 통해 “악용하는 사용자의 문제보다 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라며 “기본적으로 차별과 혐오는 걸러냈어야 한다. 편향된 학습 데이터라면 보완하던가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 말아야 한다”고 비판했다.
일각에서는 과거 혐오 발언 논란으로 사라졌던 마이크로소프트(MS)의 AI 챗봇 ‘태이’처럼 이루다도 사라지는 게 아니냐는 예상을 한다. 2016년 3월 선보였던 태이는 유대인 학살, 인종차별 등을 옹호하는 극단적 대화로 서비스 하루 만에 폐쇄됐다. 김 대표는 “이루다는 사용자 데이터를 바로 학습하지 않고 언어에 대한 적절한 학습 신호를 주는 과정을 거칠 계획”이라고 밝혔다.
김준엽 기자 snoopy@kmib.co.kr