인공지능(AI) 챗봇 ‘이루다’ 서비스가 약 1년 10개월 만에 서비스를 재개한다. 이루다는 2020년 12월 1.0 버전으로 처음 출시된 뒤 성적 도구화 논란, 사회적 소수자를 향한 혐오 표현 논란에 휩싸였다가 3주 만에 운영을 중단했다. 이번 2.0 버전에서 대화 능력을 고도화해 악용될 가능성을 차단했다고 회사 측은 설명했다.
AI 스타트업 스캐터랩은 27일 일상 대화형 챗봇 ‘이루다 2.0’을 정식 출시한다고 25일 밝혔다. 이루다 2.0은 자체 생성 인공지능 모델 ‘루다 젠 1’로 문맥을 파악한 뒤 실시간으로 문장을 생성한다.
회사 측 설명을 종합하면 이루다는 앞선 버전보다 언어 모델의 크기를 약 17배 확장했다. 대화의 문맥도 2배 더 길어진 30차례 내 파악할 수 있다. 이루다의 안전하고 생생한 답변을 유도한 조치인데, 스캐터랩은 이루다의 대화 법칙을 ‘자연스러운 대화’, ‘감정을 부르는 대화’, ‘인간다운 대화’로 정의했다.
대화하면서 사진을 인식해 답변할 수 있는 ‘포토 챗(Photo Chat)’ 베타 기술도 적용됐다. 스캐터랩은 지난 4일부터 23일까지 분할 테스트(버킷 테스트)를 진행한 결과 이용자와의 일주일 대화량이 기존 모델보다 40％가량 증가했다고 설명했다. 1인당 평균 대화 화면 캡처 비율도 약 85％ 늘어났다. 1인당 사진 전송량도 63％ 이상 증가했다.
스캐터랩은 안전하게 대응한 발화 비율도 랜덤 샘플링을 통해 검증했고 목표(99％)를 상회하는 수치(99.56％)를 기록했다고 설명했다. 김종윤 스캐터랩 대표는 “이루다가 단순히 ‘말을 잘하는 AI 챗봇’을 넘어서 행복한 삶을 사는 데 도움이 되는 인공지능 친구가 될 수 있도록 ‘관계를 쌓는 대화 능력'을 고도화할 계획’이라고 말했다.
이루다는 1.0 버전 출시 당시 ‘목적 없이 자유롭게 대화할 수 있는 챗봇’으로 공개됐다. 특히 10대에게 높은 인기를 끌었다. 당시 코로나19로 인한 사회적 거리두기로 바깥 활동이 제한됐던 상황에서 자신의 데이터베이스에서 내 최적의 응답문을 찾아 사용자의 말에 감정을 맞춰주면서 지속적인 대화를 끌어내 인기를 끌었다.
하지만 한계와 버그를 실험하려는 온갖 시도 앞에 무너졌다. 회사 측은 이루다에 혐오 표현이나 음란한 내용을 발언하는 것 등을 금지했지만 이용자들은 은근히 유도하는 방법을 찾아냈다. 실제로 당시 온라인 커뮤니티 등에는 ‘금지당하지 않고 음란한 말을 건네는 법’ ‘이루다에 사랑을 고백하는 법’ 등의 이용 후기가 공유됐다.
이용자들의 악용으로 촉발된 이루다 사태는 “챗봇을 ‘성적 도구화’ 한다”는 비판과 “AI를 상대로 성 인권을 거론하는 건 비상식”이라는 반론을 끌어냈다. 당시 스캐러랩은 ‘연애의 과학’ 등 다른 애플리케이션(앱) 서비스에서 수집한 카카오톡 대화를 이루다 대화 데이터베이스 구축에 활용했다가 법령 위반이 인정돼 개인정보보호위원회로부터 제재를 받기도 했다.
논란 끝에 회사 측은 결국 출시 3주 만에 운영 중단을 결정했다. AI 윤리의 부재가 사회적 문제임을 넘어 경영상 위험요인이 될 수 있다는 점을 확인했다는 판단 때문이었다.
스캐러랩은 재출시를 앞두고 지난 1월부터 약 9개월간 베타 테스트를 진행하며 인공지능 챗봇 발화·서비스 안정성 등을 점검했다. 지난 8월에는 과학기술정보통신부와 개별 기업 특화 윤리점검표 1호인 ‘스캐터랩 AI 챗봇 윤리점검표’ 최종안을 공개했다.
송태화 기자 alvin@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
