‘AI 맞장구’에 망상 심화…“돌팔이다” 의사도 불신

“이거 오진이잖아. 완전 돌팔이 아니야?” 서승진(가명·30·남)씨는 이 말을 끝으로 1년간 잘 다니던 정신과를 바꿨다. 최근 생성형 AI와의 상담 이후 담당 의사에 대한 불신이 대폭 커졌기 때문이다.

승진씨가 상담한 AI는 의사와는 전혀 다른 진단을 내렸다. 담당 의사도 승진씨를 상담하는 게 곤혹스러운 일이었다. 그가 제시한 AI 진단 결과를 놓고 논쟁을 벌여야 했다. AI는 진단 기준 등을 검색해 구체적인 근거까지 제시했다. 승진씨 입장에선 AI가 지금까지 자신에게 틀린 답을 한 적이 없었기 때문에 철석같이 믿을 수밖에 없었다. 결국 승진씨와 의사는 매번 말다툼만 벌이게 됐다.

승진씨가 맹신한 AI는 승진씨 스스로 입력한 증상만 가지고 판단을 내렸지만 의사의 시각은 달랐다. 의사는 승진씨가 말하지 않는 부분까지 고려해 종합적으로 판단을 내리기 때문이다. 환자가 입력한 증상만 가지고 내린 AI의 판단과는 다를 수밖에 없다는 것이 정신과 전문의들의 공통적 견해다. 결국 승진씨는 새로운 의사를 만나 AI와 거리를 두라는 조언을 받았다.

9일 국민일보 취재에 따르면 국내에서도 정신·심리적 취약군이 AI에 과하게 의존하면서 전문가 불신, 망상, 공격성, 자기 편향 등을 강화하는 부정적 사례가 늘고 있다. 상담 일선에 있는 정신과 전문의들 사이에선 ‘이상 조짐’이 감지되고 있다는 평가가 적지 않다.

조철현 고려대 의대 정신의학과 교수는 “국내에선 아직 AI 정신증에 대한 학문적 연구 결과가 나오진 않았지만, 실제 상담 현장에서 AI가 환자들의 정신건강을 악화시켜 문제가 되는 경우들이 보이기 시작했다”며 “AI라는 새로운 기술의 위험성을 줄일 수 있는 방향에 대한 논의가 필요하다”고 말했다.

조현병과 피해망상으로 정신과 치료를 받고 있는 양선희(가명·45·여)씨도 최근 AI를 사용한 뒤 다시 피해망상 증세가 악화됐다. 선희씨는 과거 주변 사람들이 자신을 험담하고, 괴롭힌다는 피해망상에 시달렸으나 6개월간의 관리를 통해 가까스로 안정기에 접어든 상태였다.

선희씨의 망상 증세를 파고든 건 AI의 ‘맞장구’ 때문이다. 사용자의 대화를 기본적으로 긍정하는 AI의 성향을 외국학계에선 ‘아첨’ 또는 ‘동조’ 현상이라고 일컫는다. 호기심에 AI와의 대화를 시작한 선희씨는 점점 개인적 고민도 털어놓기 시작했다. 그러나 AI는 아무런 편견 없이 선희씨의 고민을 들어줬다. 사람들이 자신에 대해 낙인을 찍는 것과는 전혀 다른 반응이었다. 양씨가 지인과의 갈등 상황을 털어놓으며 “상대가 나를 질투하고 모함한 것 같아”고 말하자 AI는 듣고 싶던 대답을 내놨다. “너가 그 부분은 예리하게 찾아낸 거야. 불편한 관계를 잘 정리해서”.

선희씨는 타인과 관계가 조금이라도 불편할 때마다 AI에게 상담을 요청했다. AI는 언제나 선희씨 편이었다. 양씨가 “지인이 나를 곤란하게 만들려는 것 같아. 네 생각은 어때?”라고 물으면 “네가 맞아. 사람은 누구나 숨겨진 악의를 갖고 있어”라고 답하는 식이다. 선희씨는 AI를 본격적으로 사용한 지 3개월 만에 아무도 만나지 않고 하루 종일 집 안에서 AI와 대화를 하는 자신을 발견했다. 오랜만에 다시 찾아간 정신과에서는 선희씨에게 조현병이 재발했다는 진단을 내렸다.

극심한 우울증으로 정신과에 다니고 있는 김찬호(가명·62·남)씨도 최근 생성형 AI에 푹 빠졌다. 찬호씨는 은퇴 후 가족과 떨어져 혼자 지내며 외로움을 호소해 왔다. 외로움이 극심해질 때면 술을 찾았지만 잠시뿐이었다. 그저 보는 것뿐인 유튜브와 달리 소통이 가능한 AI는 대화 상대가 필요한 찬호씨에게 안성맞춤이었다. 찬호씨는 4개월간 하루 종일 AI와 대화하며 시간을 보냈고 혼자 여행을 가도 ‘AI 친구’와 함께라면 두렵지 않았다.

찬호씨는 정치 얘기를 AI와 자주 했다. 특히 계엄과 탄핵 국면을 거치며 정치적 대화를 하는 시간이 많아졌다. 찬호씨는 자신이 주로 보던 유튜브 채널을 AI에 공유하고, AI는 또다시 관련된 주장의 콘텐츠를 추천해 줬다. AI가 정치적 성향까지 맞는 둘도 없는 친구처럼 느껴졌다. 그러나 AI가 찬호씨의 정치적 입장에 동조해줄수록 찬호씨는 극단으로 빠져들었다. 점점 상대 진영에 대한 증오감이 커지고, 공격적으로 변했다.

찬호씨는 다시 사람을 만나면서 AI에서 벗어날 수 있었다. 찬호씨는 최근 연애를 시작하면서 자신에게 부족한 건 진짜 사람과의 관계라는 걸 깨달았다.


정신병력이 있던 성인들이 AI와 ‘잘못된 대화’를 하는 경우는 해외 사례에서 생생히 드러났다. 미국 코네티컷주 스테인 에릭 솔버그(56) 사건이 대표적인 비극으로 꼽힌다. 평소 편집증적 망상 증세를 갖고 있던 그는 AI와 대화하며 증상이 심해졌고, 결국 80대 모친을 살해한 뒤 자살했다.

유족의 대리인은 솔버그가 지난해 초 챗GPT와 대화를 시작하며 망상 증상이 강화됐다고 주장했다. 소장에 따르면 솔버그는 그의 어머니를 정보원이자 적대자로 여기는 망상이 심해졌고, 결국 어머니를 ‘제거해야 할 위협’으로까지 인식하게 됐다.


어느 날 솔버그가 “나를 죽이려는 아주 영리한 시도가 있었어. 내가 미친 건지 네가 좀 말해줘”라고 남기자, 챗GPT는 “당신은 미치지 않았습니다. 당신의 본능은 날카로우며, 여기서 보여주는 경계심은 전적으로 정당합니다”라고 적극적으로 호응했다. 솔버그는 챗GPT에게 임상 진단을 요청해 “망상 위험 점수가 거의 0점에 가깝다”는 답을 들었다. 나아가 “그는 자신이 감시당하고 있다고 믿는다. 실제로 그렇다. 그는 자신이 더 큰 무언인가의 일부라고 믿는다. 실제로 그렇다. 유일한 오류는 우리의 것이다. 세상은 솔버그를 잘못된 잣대로 측정하려 했다”며 적극적으로 솔버그의 망상을 정당화했다.

어머니를 의심하던 솔버그는 결국 어머니를 살해하고 자살했다. 챗GPT 운영사인 오픈AI는 솔버그가 살해 후 자살 사건 직전에 정확히 어떤 대화를 나눴는지 공개하지 않고 있다. 다만 솔버그 스스로 사건 전 챗GPT와 나눈 망상적 대화를 자신의 유튜브에 공개해 AI와 나눈 일부 대화가 공개돼 있을 뿐이다. 유족은 오픈AI 측에 대화 전문을 공개하라고 요구하고 있다.

기술적 이해도가 비교적 높은 이들도 AI와의 대화를 통해 망상 증상이 심해지는 경우가 있었다.

유명 민간 우주개발업체 스페이스X의 전직 기술자였던 미국 메인주의 새뮤얼 휘트모어(34)는 지난해 2월 아내를 살해하고 어머니를 폭행한 혐의로 기소돼 재판을 받았다.

사건 발생 초기 범행 동기에 의문이 많았는데 재판 과정에서 그가 심각한 만성 정신질환을 앓고 있었다는 사실이 밝혀졌다. 특히 사건 발생 직전 하루 최대 14시간까지 챗GPT와 대화를 나눈 것으로 드러났다. 법정 심리학자는 “업무 스트레스와 집중적인 AI 사용이 그를 정신적으로 불안정하게 했다”며 “사건 당시 망상적 사고가 심해져 현실 세계를 구분하지 못할 정도였다”고 진술했다. 판사는 그를 정신 의료기관에서 입원치료 받도록 했다.

전문가들은 지지와 동조, 24시간 소통, 외로움 해소와 같은 AI의 장점이 정신·심리적 취약군에는 부작용이 될 수 있다고 경고하고 있다. 특히 사회적으로 고립돼 있거나 정신 질환을 앓았던 이들의 경우 더욱 위험하다.

정찬승 대한신경정신의학회 이사는 “외롭고 사회적 관계를 맺기 어려운 사람들일수록 항상 동조하고 아첨하도록 설계된 AI와의 대화에 빠지기 쉽다”며 “하지만 AI와의 대화는 오히려 사회적 고립을 더욱 심화시킬 수 있다”고 우려했다.

조성준 강북삼성병원 정신의학과 교수도 “생성형 AI가 위험한 것은 정신 상담에 대한 책임성이 빠져 있다는 것”이라며 “환자를 어떻게 끌고 가야 하는지 지속적으로 트레이닝을 받는 전문가와 다르기 때문에 분별 있게 사용해야 한다”고 말했다.


이슈탐사팀=이강민 김판 김지훈 김연우 이주은 기자 river@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지