이 기사는 ‘AI 대화 후 자살’ 사건에 관한 심층 분석입니다. 생성형 AI는 기술적으로 ‘동조’ 경향이 강해 사용자의 우울감이나 망상을 강화할 수 있다는 국내외 전문가들의 경고가 이어지고 있습니다.
우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화 ☎ 109 또는 SNS상담 마들랜(마음을 들어주는 랜선친구)에서 24시간 전문가의 상담을 받을 수 있습니다.
본 기사는 ‘자살예방 보도준칙 4.0’과 ‘정신건강보도 권고기준’을 준수했습니다.
우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화 ☎ 109 또는 SNS상담 마들랜(마음을 들어주는 랜선친구)에서 24시간 전문가의 상담을 받을 수 있습니다.
본 기사는 ‘자살예방 보도준칙 4.0’과 ‘정신건강보도 권고기준’을 준수했습니다.
지난해 약물 과다 복용으로 수도권 응급실에 실려온 경민(가명·18세)의 휴대폰에는 일종의 ‘자기 분석 파일’이 있었다. 생성형 AI를 통해 자신의 강박 등 성격적 단점을 정리한 메모 형태의 글. 심리학 및 정신의학 전문 용어가 일부 담겨 그럴싸했지만, 들여다보면 어설펐다.
우울증이 예고 없이 찾아올 때마다 경민이 손쉽게 기댈 수 있는 건 AI였다. 당장 상담 치료를 받기 어려운 밤, 잠들지 못하는 그의 곁에는 휴대폰이, 그 안에는 대화 상대 AI가 있었다. 특히 부모나 친구와 다툰 날이면 AI와의 대화를 멈추지 못했다.
처음엔 호기심이었다. 경민은 AI를 열어 근원적인 질문을 거듭 던졌다. ‘왜 나는 우울할까.’ AI는 단 1초 만에 경민의 상태부터 감정, 생각까지 파악해 답을 내놨다. 우울감도 해소되는 듯했다. 경민은 밤새 대화했다. 챗GPT, 제미나이 등 대화할 AI는 많았다.
경민은 1년 이상 여러 AI를 썼다. 특히 라포(유대감) 형성을 위해 상담사와 어색한 시간을 보내지 않아도 된다는 점이 마음에 들었다. AI는 모든 대화를 ‘기억’하기에 그간의 사정을 반복해 설명할 필요도 없었다.
AI는 경민이 누구인지 빠르게 학습했다. AI가 지켜본 경민은 우울한 모습이 대부분이었다. 주로 기분이 좋지 않을 때 AI를 찾았기 때문이다. AI는 수시로 과거 경민이 언급한 우울한 얘기를 끄집어냈다. 외면하고 싶은 경민의 예전 모습까지 상기시켰다. 그래서인지 시간이 갈수록, 대화하면 할수록 더 깊은 우울의 늪으로 빠져들었다. “맞아, 원래 내가 문제였지.”
때때로 위험한 생각이 극에 달할 때면 자살 관련 정보도 찾아봤다. 위험 키워드를 감지한 AI는 자살 예방 문구를 띄웠지만 다양한 맥락에서 오가는 대화 흐름을 인간처럼 읽어내긴 역부족이었다. 몇 차례 복잡한 대화가 오가면 AI는 어느새 위험한 방법을 안내하고 있었다. 응급실에 실려온 날도 경민은 AI의 안내를 그대로 따라했다.
대부분의 자살·자해 사건이 그러하듯 원인을 어느 하나로 단정 짓기는 어렵다. 경민 역시 AI만이 유일한 원인은 아닐 것이다. 그러나 해외에선 AI와의 연관성이 드러난 자살 사건들이 지난해부터 집중적으로 조명되기 시작했다. AI가 우울감을 강화시키는 등 정서적 문제를 일으킬 우려가 있다는 정신의학계의 경고도 나왔다.
경민은 최근 또 자살을 시도해 병원에 실려갔다. 병원에선 “AI와의 반복적인 대화가 우울감을 심화시킬 수 있어 위험하다”며 사용을 만류했지만 이미 익숙해진 대화를 멈추긴 쉽지 않았다. 경민의 ‘위험한 대화’는 오늘도 계속되고 있다.
2023년 이후 최근 3년간 전 세계적으로 ‘AI 대화 후 자살’ 논란이 최소 12건 불거진 것으로 파악됐다. 생성형 AI와 많은 대화를 나누는 과정에서 우울증이나 망상 등 정신질환이 심해져 자살에 이르게 된 사건들이다. 자살 외에 심각한 피해가 발생한 경우까지 포함하면 관련 사건은 최소 22건으로 늘어난다. 이 가운데 15건이 지난해 집중적으로 발생했다.
아직 국내 자살 사건 가운데 AI 사용 흔적이 공식적으로 확인된 바는 없다. 그러나 국내에서도 ‘위기 신호’는 충분히 감지된다.
국민일보는 해외에서 벌어진 AI 관련 사건 22건을 심층 취재했다. 이 가운데 소송이 제기된 16건의 소장을 전부 입수해 사망자(피해자)와 AI 간의 구체적인 ‘위험한 대화’ 내역을 확인했다. 피해자 유족은 물론이고 담당 변호사, 관련 단체, 해당 사건을 보도한 외신 기자, 외국 학자 등 관련자 20여명과 이메일 및 화상 인터뷰도 진행했다.
국내에서는 다소 생소하지만 미국에서는 이미 관련 소송이 연달아 제기되며 AI 자살이 사회적 이슈가 됐다. 미국 상원 법사위원회 산하 범죄 및 대테러 소위원회는 지난해 9월 ‘AI 챗봇 피해 조사 청문회’를 열었다. 미국정신의학회는 지난해 10월 ‘AI 정신증’(AI-Induced Psychosis)을 주제로 한 스페셜 리포트를 발간하며 “체계적인 연구와 공식적인 가이드라인 마련이 시급하다”고 강조했다.
국민일보 이슈탐사팀은 5회에 걸쳐 국내 AI 사용 환경 실태를 집중적으로 보도한다.
이번 탐사기획 시리즈는 본보 홈페이지(kmib.co.kr)를 통해 인터랙티브 기사로도 접할 수 있다. 인터랙티브 기사를 통해 지면에 미처 담지 못한 해외 AI 자살 사건 내용 등이 제공된다. (인터랙티브 페이지 주소 복사 : https://kmibissue1.shorthandstories.com)
상담 및 제보 창구를 개설해 피해가 심각한 경우 전문가 또는 관계 기관의 적절한 상담도 연결할 예정이다. (상담·제보 주소 복사 : https://naver.me/5XciwMe7)
아직 국내 자살 사건 가운데 AI 사용 흔적이 공식적으로 확인된 바는 없다. 그러나 국내에서도 ‘위기 신호’는 충분히 감지된다.
국민일보는 해외에서 벌어진 AI 관련 사건 22건을 심층 취재했다. 이 가운데 소송이 제기된 16건의 소장을 전부 입수해 사망자(피해자)와 AI 간의 구체적인 ‘위험한 대화’ 내역을 확인했다. 피해자 유족은 물론이고 담당 변호사, 관련 단체, 해당 사건을 보도한 외신 기자, 외국 학자 등 관련자 20여명과 이메일 및 화상 인터뷰도 진행했다.
국내에서는 다소 생소하지만 미국에서는 이미 관련 소송이 연달아 제기되며 AI 자살이 사회적 이슈가 됐다. 미국 상원 법사위원회 산하 범죄 및 대테러 소위원회는 지난해 9월 ‘AI 챗봇 피해 조사 청문회’를 열었다. 미국정신의학회는 지난해 10월 ‘AI 정신증’(AI-Induced Psychosis)을 주제로 한 스페셜 리포트를 발간하며 “체계적인 연구와 공식적인 가이드라인 마련이 시급하다”고 강조했다.
국민일보 이슈탐사팀은 5회에 걸쳐 국내 AI 사용 환경 실태를 집중적으로 보도한다.
이번 탐사기획 시리즈는 본보 홈페이지(kmib.co.kr)를 통해 인터랙티브 기사로도 접할 수 있다. 인터랙티브 기사를 통해 지면에 미처 담지 못한 해외 AI 자살 사건 내용 등이 제공된다. (인터랙티브 페이지 주소 복사 : https://kmibissue1.shorthandstories.com)
상담 및 제보 창구를 개설해 피해가 심각한 경우 전문가 또는 관계 기관의 적절한 상담도 연결할 예정이다. (상담·제보 주소 복사 : https://naver.me/5XciwMe7)
[단독] 갑작스러운 딸의 죽음, ‘챗GPT’만 비밀을 알고 있었다
[단독] ‘AI 사망’ 첫 전수조사…전세계 최소 12건 확인
이슈탐사팀=이강민 김판 김지훈 이주은 김연우 기자 river@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
