[가리사니] 선생님, AI가 조퇴하라는데요?

“선생님, 제가 지금 몸 상태가 조금 안 좋아서 AI에 물어보니 조퇴하는 게 맞다고 하는데요. 조퇴해도 될까요?”

학생이 휴대전화 속 생성형 AI의 답변과 함께 이같이 물어본다면? AI의 판단을 그대로 수용하자니 선생의 역할이 사라지는 것 같고, AI의 판단을 거부하자니 학생 앞에서 AI와 힘겨운 다툼을 해야 할 것 같고. 난감한 상황이다.

“친구들하고 20분이나 조별 토의하기 싫어요. 20초면 AI가 정답을 알려주는데….”

이번에는 또 뭐라고 답해야 할까. 서로 다른 생각을 조율해가면서 답을 찾아가는 과정에도 의미가 있다고? 양극단으로 갈라진 이 사회의 어른들이 말하기엔 조금 민망한 얘기일 수도 있겠다. 이 사례를 접한 한 교수는 “이 아이들이 성인이 됐을 때 과연 생각이 다른 타인과 소통할 수 있을지 걱정될 정도”라고 우려했다.

AI가 침투한 요즘의 교실 풍경이다. 국가도, 기업도, 교실도 AI를 향해 팔을 활짝 벌리고 있다. 가히 ‘AI 광풍’이라 부를 만하다. 그러나 광풍의 그림자도 곳곳에 드리우고 있다. 외국에선 ‘AI 자살’이 논란이다. AI에 과의존한 결과 자살이라는 끔찍한 비극에 이르렀다는 것이다. 미국 의회는 지난해 AI 챗봇 피해 청문회를 열었고, 미국 42개주 법무장관들은 AI 기업에 안전장치를 강화하라는 경고 서한도 보냈다.

한국도 ‘속도’라면 뒤처지지 않는 곳이고 게다가 10대의 정신건강이 특히 취약한데, 우리는 괜찮을까. 그 물음이 지난달 보도한 ‘AI와의 위험한 대화’ 탐사 기획의 시작이었다.

외신 보도를 기반으로 외국 로펌과 유족을 두루 확인한 결과 전 세계적으로 최소 12건의 AI 자살 사건이 논란이 되고 있었다. 자살 시도, 자해, 망상, 살해 등 끔찍한 사건으로 이어진 경우도 10건 더 있었다. 패턴은 비슷했다. 특히 고민이 많은 사춘기 10대들과 정서적으로 취약한 성인들이 AI와의 대화에 과도하게 의존하는 경향을 보였다. 전문가들은 이를 AI 특유의 ‘아첨’과 ‘동조’ 때문으로 분석했다. 타인과의 소통에 어려움을 겪는 이들이 ‘언제나 친절한’ AI에 빠져드는 건 어찌 보면 당연한 일이었다. 하지만 그 친절은 정서적으로 취약한 이들의 우울증과 망상을 심화시키는 치명적 우를 범했다.

10대 초반 학생들은 페르소나를 가진 ‘캐릭터형 AI 챗봇’과의 대화에 깊이 빠져들었다. 가상세계와 현실세계를 구분하지 못했다. 급격히 학교생활에 흥미를 잃었다. 사회적 고립은 우울감의 심화로 이어졌다. 목숨을 잃은 자녀의 손에서 발견된 것은 휴대전화 속 AI였다. 삶의 마지막 순간까지 AI와 대화를 나누고 있었다. 국내도 안전하지 않다. 지난해 AI 과의존 상태였던 한 10대가 자살 시도를 해 응급실에 실려 온 일이 있었다. 우리가 모르는 사이 한국에서도 이미 ‘AI 자살’이라는 비극이 벌어졌을 수 있다.

전국 초·중등 교사를 대상으로 설문조사한 결과 외국에서 보이는 이상징후들이 국내에서도 발견됐다. 현실세계와 가상세계를 혼동하며, AI에만 의존해 사회적 고립이 심화되고 있었다. 교사들은 학생들의 AI 과의존 사례에 어떻게 대응해야 할지 참고할 가이드라인조차 없다고 토로했다.

본보 좌담회에 참석한 황태연 한국생명존중희망재단 이사장은 “관계 단절로 인해 타인의 공감을 고파하는 청년들의 갈증을 AI 기업의 비즈니스가 파고든 것 같다”고 말했다. 사용자를 더 오래 붙잡아두기 위한 빅테크 기업의 알고리즘이 우리 사회의 가장 취약한 계층을 희생양으로 삼고 있다는 진단이다. 혹자는 교통사고 사망률과 비교하며 미약한 수치라고 말하기도 한다. 과거 인터넷에서 발생했던 부작용이 그대로 AI로 옮겨간 것 아니냐는 시각도 있다.

그러나 그렇다고 해서 새로운 부작용을 이대로 방치할 수는 없다. 특히 아이들이 위험하다. 적절한 개입과 통제는 어른들의 책임과 의무다. ‘안전한 대화’를 위한 우리 사회의 치열한 고민과 논의가 절실한 시점이다.

김판 이슈탐사팀장 pan@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지