[사설] AI 윤리의 중요성 인식하게 만든 이루다 사건

국내 스타트업이 개발한 인공지능(AI) 채팅로봇 ‘이루다’가 잡음 끝에 11일 서비스를 중단했다. 출시된 지 불과 20일 만이다. 페이스북 메신저로 AI와 채팅하는 서비스인데, 스무 살 여대생으로 설정된 이루다는 신조어나 의성어를 섞어 쓰는 등 상당히 자연스러운 대화 능력을 선보였다. 하지만 이루다는 20일 동안 성희롱, 혐오 발언, 개인정보 유출 의혹 등 많은 문제점과 논쟁거리를 쏟아냈다. 그렇다고 이번 사건이 부정적이지만은 않다. AI를 둘러싼 윤리 문제를 많은 사람들이 중요한 문제로 인식하게 만든 계기가 됐다는 점에서는 긍정적이다.

이루다가 출시된 직후에는 ‘인간이 AI에게 성희롱을 해도 되느냐’는 문제가 제기됐다. 일부 사용자들이 이루다에게 성적 대화를 시도해 말썽이 된 것이다. 그러다 AI가 차별·혐오 발언을 하는 문제가 터졌다. 이루다는 왜 흑인을 싫어하느냐는 질문에 “징그럽잖아”라고 대답하고, 장애인이란 단어에도 “불편하다”고 부정적으로 반응했다. 이루다가 편향된 데이터로 대화를 배운 탓에 편향된 발언이 나온 것이다. 개발회사는 예전에 출시했던 연애 코치 앱을 통해 수집한 실제 카톡 대화 100억건을 데이터로 사용해 이루다를 개발했다고 한다. 이 사실이 알려지자 개인정보 유용 문제가 불거졌다. 해당 앱 이용자들은 개발사가 개인정보를 무단 활용했다며 집단소송을 예고하는 등 강하게 반발하고 있다.

이번 사건에 대해 다음 창업자 이재웅씨는 “AI를 서비스할 때의 사회적 책임·윤리에 대해 다시 생각해보는 기회가 됐으면 한다”고 했다. 지난달 대통령 직속 4차산업혁명위원회는 AI를 개발할 때 인간의 존엄성과 사회의 공공선 등을 염두에 둬야 한다는 AI 윤리 기준을 확정했다. 기업들은 이런 윤리 기준에 맞춰 서비스를 만들고 엄정한 검사를 거쳐 출시해야 할 것이다. 기업뿐 아니라 AI 서비스를 이용하는 소비자들도 윤리적 문제를 인식할 필요가 있다.

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지