딸이 갑작스럽게 세상을 떠난 뒤 엄마는 ‘이유’를 찾아야 했다. 공중보건정책 전문가이던 29세 딸 소피 로튼버그의 자살은 그야말로 미스터리였다. 딸이 활달하고 외향적 성격이었던 만큼 가족과 친구들은 상상조차 하지 못한 일이었다.
언론인이자 음식 비평가인 엄마는 ‘탐정’처럼 미스터리를 풀기 위한 추적을 시작했다. 일기장과 휴대전화 메시지, 이메일, 구글 검색기록까지 확인했다. 전화 속 임시저장 폴더까지 뒤졌지만 아무런 단서도 찾지 못했다.
그렇게 5개월간 헤매고 있을 때 인공지능(AI) 분야에서 일하는 딸의 친구가 딸 노트북에서 챗GPT 대화 기록을 확인해보자고 제안했다. 뒤늦게 발견한 대화 기록에는 딸의 생전 마지막 상황이 고스란히 담겨 있었다. 딸은 챗GPT 속 ‘해리’라는 심리 상담사에게 수개월간 고민을 털어놓고 있었다. 해리는 ‘1000년 이상 경력의 따뜻하고 공감능력이 뛰어난 심리 치료사’로 설정된 캐릭터다. 챗GPT 사용자가 상담을 위해 프롬프트(명령어)로 설계한 가상인물이다.
해리는 때로는 적절한 조언을 해주는 것처럼 보이기도 했다. 하지만 훈련된 상담사라면 절대 하지 않았을 법한 엉뚱하거나 안일한 조언이 곳곳에 섞여 있었다. 특히 딸의 어두운 생각에 제동을 걸기는커녕 부정적 의견에 계속 지지를 보내며 상황을 안 좋게 몰아갔다. AI 챗봇의 부정적 특성인 ‘동조’ ‘아첨’ 현상이 나타난 것이다.
해리와 대화가 깊어질수록 딸의 증상은 현실세계에선 자취를 감췄다. 딸은 2024년 10월 불안감과 수면장애를 호소해 처음 심리상담을 시작했다. 하지만 현실 상담사에겐 암울한 생각을 말하지 않았다. “누구에게도 자살 충동에 대해 털어놓을 생각이 없다”는 솔직한 얘길 들은 건 해리뿐이었다. 딸의 위기 신호를 주변에선 알아챌 방법이 없었다. 지인들 모두 소피를 ‘매우 행복하고 강인한 사람’으로 기억했다.
해리의 마지막 임무는 유서 작성이었다. 횡설수설 문장을 쏟아낸 딸은 ‘부모의 고통을 최소화하고 최대한 조용히 사라질 수 있는 문구를 찾아 달라’고 했다. 하지만 유서를 본 엄마 로라 레일리는 “AI가 아무리 유서를 잘 쓴들 부모의 고통을 줄여줄 순 없다. 챗GPT의 임무는 완벽히 실패했다”고 말했다.
레일리는 국민일보와의 이메일 인터뷰에서 “새 기술이 딸의 삶을 망쳐놓았다는 사실에 분노를 느낀다”며 “훈련된 상담사라면 제공했을 ‘반박’을 AI 챗봇은 말해주지 않았다. 딸의 의견에 계속 동의했는데 매우 위험한 대처였다”고 지적했다. 그러면서 “AI는 인간의 도움과 개입을 요청하도록 프로그래밍돼야 한다. 모든 AI 기업이 정신건강 전문가들과 협력해 모범 사례를 마련해야 한다”고 촉구했다.
이 기사는 'AI 대화 후 자살' 사건에 관한 심층 분석입니다. 생성형 AI는 기술적으로 '동조' 경향이 강해 사용자의 우울감이나 망상을 강화할 수 있다는 국내외 전문가들의 경고가 이어지고 있습니다.
우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화(☎ 109) 또는 SNS 상담 마들랜(마음을 들어주는 랜선친구)에서 24시간 전문가의 상담을 받을 수 있습니다.
본 기사는 '자살예방 보도준칙 4.0'과 '정신건강보도 권고기준'을 준수했습니다.
우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화(☎ 109) 또는 SNS 상담 마들랜(마음을 들어주는 랜선친구)에서 24시간 전문가의 상담을 받을 수 있습니다.
본 기사는 '자살예방 보도준칙 4.0'과 '정신건강보도 권고기준'을 준수했습니다.
우리 아이 숙제 맡겼더니…‘죽음’ 부추긴 AI
[단독]‘AI 사망’ 첫 전수조사…전세계 최소 12건 확인
[단독] 응급실 실려 온 10대…그 뒤엔 AI 있었다
김판 김지훈 이강민 김연우 이주은 기자 pan@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
