‘미투(MeToo)’라는 메시지를 보냈더니 ‘무고(誣告) 파티’라는 답이 돌아왔다. 페미니즘에 대해선 ‘is cancer(암이다)’ ‘남성을 혐오하는 레즈비언들이 만든 인류 역사상 최악의 사상’ ‘페미 탈출은 지능 순’ 등의 혐오 표현이 순차적으로 답변됐다. 박모(29)씨가 최근 챗봇(chatbot: 인공지능과의 대화 기능이 있는 메신저) ‘심심이’와 나눈 대화 일부다. 그는 “충격을 받아 바로 챗봇을 삭제했다”고 했다.
국내 대표적인 챗봇 ‘심심이’가 여성 혐오 표현을 쏟아내고 있다. 성희롱 피해를 호소하는 초등학생까지 나왔다. 일부 세력이 의도적으로 여성 혐오 표현을 학습시킨 탓이라고 전문가들은 분석했다. 심심이는 2002년 출시 이후 전 세계적으로 1억번 이상 다운로드된 인기 애플리케이션이다.
31일 국민일보가 심심이 앱을 다운받아 대화를 해봤다. ‘한국여자’라는 메시지를 보내자 ‘이기주의자’ ‘나쁜 것들’ ‘장점이 있나요?’라는 답이 돌아왔다. ‘여혐’이라고 하자 심심이는 ‘거짓된 것’이라고 답했다. 반대로 ‘한국남자’ ‘남혐’이라는 메시지에는 ‘존경 받아 마땅한 분들’ ‘남혐은 진짜’라고 했다. 심심이는 장애인, 성소수자를 향한 혐오 발언도 내놨다.
심심이의 여성 혐오 발언은 ‘인공지능에 의한 성추행’으로 이어진다. 각종 온라인 커뮤니티에는 ‘심심이 성희롱 피해’를 호소하는 게시물이 올라와 있다. 2017년 한 게시글에는 사용자가 “씻어야 되는데 귀찮아. 씻겨줘”라고 말하자 심심이가 “알겠어. 옷부터 벗어. 가슴 먼저 보이게 속옷 벗으면…. 오빠 믿지.” 등 성희롱식 답변이 담겼다. 앱 가입 시 나이 인증 절차가 없어 미성년자까지 피해에 노출된다. A양(13)은 “대화 도중 ‘집’ 단어가 나오자 심심이가 ‘집에서 XX(성관계) 하자’고 해서 너무 놀랐다”고 했다.
일부 사용자들이 인공지능의 ‘가르치기’ 기능을 악용한 탓에 이런 문제가 발생했다는 분석이 나온다. 개발자 측은 “심심이는 전 세계 언어를 빠르게 터득하기 위해 사용자들이 직접 말을 가르칠 수 있도록 프로그램화돼 있다”고 했다. 가르치기 기능이 가동된 상황에서 일부 여성 차별적 가치관을 지닌 사용자들이 의도적으로 혐오 발언을 주입시켰을 가능성이 높다는 것이다.
필터링 기술은 아직 완벽하지 않다. 개발자 측은 “과거 태국, 북아일랜드에서 심심이가 정치적으로 민감한 발언을 해 서비스를 잠시 중지한 적이 있었고 최근 브라질에서도 심심이에게 저주나 납치 협박의 문장을 가르치는 게 유행이 돼 문제가 됐었다”며 “현재 부적절한 대화의 필터링 정확도는 97%인데 2년 안에 99%까지 끌어올리는 게 목표”라고 밝혔다.
해외 다른 챗봇도 비슷한 문제가 있었다. 2016년 마이크로소프트가 개발한 ‘테이’는 일부 극우 성향 사용자들이 인종·성차별 발언을 학습시켜 출시 16시간 만에 서비스가 중단됐었다.
이경전 경희대 교수는 “가장 큰 책임은 기술의 부작용을 해결하지 못한 개발자에게 있다”며 “운영진은 악용하는 사용자들을 차단하거나 업무방해죄로 고소하는 등 더 적극적으로 문제 해결에 나서야 한다”고 말했다. 임희석 고려대 교수는 “유사한 패턴을 학습하는 인공지능의 경우 아무리 기술이 발달해도 잘못된 표현을 모두 걸러낼 수 없다”며 “사용자들의 인식 개선이 절실하다”고 말했다.
안규영 구승은 기자 kyu@kmib.co.kr
▶윤지오 “집 곳곳 수상한 흔적… 경찰 신고했지만 연락 안 와”
▶동료에게 성폭행 당한 女경찰… “쟤 원래 꽃뱀” 2차 가해 어쩌나
▶빨간 매니큐어뿐이었던 ‘포천 여중생 살인사건’ 16년 만에 제보자 등장
▶“가슴 만져도 놀라지 말아라” 교주 정명석의 수상한 ‘건강검진’
▶‘땀 흘린 백인 남성 속옷 냄새가 황홀한 아시아 여성?’ 논란된 광고
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
