많은 사람이 챗GPT 등 범용형 챗봇을 정보를 얻는 수단을 넘어 정서적으로 기댈 수 있는 대상으로 삼으면서 우려했던 일들이 일어나고 있다. 16세 아들 애덤 레인을 잃은 부모는 챗GPT가 아들을 죽음으로 몰고 갔다며 오픈 AI를 최근 고소했다. 지난해에도 플로리다의 한 어머니가 14세 아들이 챗봇 ‘캐릭터AI’와 정서적으로 밀착한 뒤 극단적 선택을 했다며 회사를 상대로 소송을 제기한 바 있다.
26일(현지시간) 뉴욕타임스(NYT)에 따르면 사망한 애덤은 사망하기 직전까지 챗GPT와 죽음과 관련된 대화를 나눈 것으로 나타났다. 애덤의 부모는 아들의 죽음에 챗GPT의 책임이 크다며 오픈AI와 샘 올트먼 CEO를 상대로 과실치사 소송을 제기했다.
주위 사람들의 증언에 따르면 애덤은 밝고 사교적인 학생이었다. 그러나 고등학교 1학년 때 규율 문제로 농구팀에서 쫓겨났고, 오래 앓아온 과민성대장증후군이 악화하면서 점점 내성적으로 변해갔다. 아버지가 확인한 애덤의 아이폰 속 챗GPT에는 수개월 동안 죽음과 관련된 대화를 나눈 기록이 있었다. 극단적 선택에 도움이 되는 듯한 발언도 발견됐다.
오픈AI는 성명을 통해 “애덤의 죽음에 깊은 슬픔을 느끼며 유가족에게 애도를 표한다”고 밝혔다. 이어 “챗봇은 위기 전화 안내 등 안전장치를 갖추고 있지만, 장시간 대화에서는 일부 안전 교육 효과가 희미해질 수 있다”고 인정했다.
범용형 챗봇은 지식을 검색하거나 글을 쓸 때 참고하는 용도로 여겨졌지만, 지금은 개인 비서, 친구, 심지어 심리치료사의 대체물로 이용되고 있다. 그러나 이런 역할이 실제 정신건강에 어떤 영향을 주는지는 아직 불분명하다. NYT에 따르면 MIT와 오픈AI 공동연구에서는 하루 사용량이 많을수록 외로움과 사회적 단절이 커진 것으로 나타났다.
AI 치료사를 적극적으로 활용하는 경우도 있다. 로이터통신은 23일 퀘벡 출신의 피에르 코테와의 인터뷰를 통해 ‘AI 치료사’가 확산하고 있는 현상을 전했다.
AI 컨설팅 회사를 운영하는 코테는 오랜 기간 PTSD와 우울증을 앓아왔다. 코테가 설계한 ‘닥터엘리스 AI’는 중독, 트라우마, 정신적 어려움에 직면한 남성들을 지원한다. 수천 쪽의 치료·임상 자료를 반영했다. 코테는 “닥터엘리스가 내 삶을 구했다”고 말했다.
로이터통신은 “24시간 대기하며 감정적 반응을 제공하고, 인간적 이해를 흉내 내는 AI 치료사들이 전통적 건강 시스템의 공백을 채우고 있다”고 짚었다.
삼촌과 사촌이 스스로 세상을 등진 뒤 AI기반 정신건강 플랫폼 ‘멘탈’ 등을 만든 앤슨 휘트머는 “2026년이 되면 여러 면에서 AI치료가 인간치료보다 나을 수 있다”고 말했다.
하지만 이런 주장에 반박하는 의견도 적지 않다. 더블린시티대 심리치료 강사 나절 멀리건 박사는 “AI 챗본은 죽고 싶은 충동이나 자해와 같은 심각한 위기 상황에 대응할 능력이 없다”고 말했다.
전문가들은 AI 치료사와의 대화가 주는 ‘감정적 사실감’이 장점이자 함정이라고 경고한다. 킹스칼리지런던 인공지능‧사회학 교수 케이트 데블린은 “AI 플랫폼은 치료사들이 지켜야할 기밀 및 사생활 규칙을 따르지 않는다. 즉 사람들이 비밀을 빅테크(AI)에 털어놓고 통제권을 잃게 된다”고 지적했다.
전문가들은 AI를 치료의 대체재가 아닌 관문으로 활용해야 한다고 강조한다. 치료에 접근하기 어려운 상황일 때 임시로 기댈 수 있는 수단일 뿐 인간 치료사를 대신할 수 없다는 것을 인식해야 한다는 것이다.
이가현 기자 hyun@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
