국민일보 이슈탐사팀 'AI와의 위험한 대화' 시리즈를 계기로 생성형 AI에 대한 과의존 문제가 새로운 사회 문제로 떠올랐다. 정부와 의료계, 시민단체 등에서 우려의 목소리와 함께 안전장치가 필요하다는 의견이 이어지고 있다.
국민일보는 지난 10일 분야별 전문가 6인과 긴급 좌담회를 열었다. 기선완 중앙정신건
지난해 말 구성을 목표로 했던 과학기술정보통신부의 ‘청소년 정신건강 연구단’의 발족이 늦춰지면서 관련 연구 역시 지연되고 있는 것으로 나타났다. 연구단은 청소년들의 생성형 인공지능(AI) 의존성 등 신종 부작용에 대응하기 위해 과기부가 지난해 10월 출범을 예고한 기구다. AI이용자보호법 제정 역시 1년 넘게
“AI 혁신에 대한 우리의 지지가 AI 기업들이 아이들을 기니피그(실험 대상)로 사용한 것까지 허용하는 것은 아닙니다. 아이들을 위험에 빠뜨리는 것에 대한 변명이 될 수도 없습니다.”
미국 42개 주 법무장관들이 지난해 12월 10일 오픈AI·구글·메타·퍼플렉시티 등 미국 내 13개 주요 AI 기업에 공개 서한을 보
정부가 올해 4년 만에 재개되는 ‘청소년 심리부검’ 조사 때 생성형 인공지능(AI) 사용 흔적을 살펴보는 방안을 적극 검토하고 있다. 대한신경정신의학회도 바람직한 AI 사용을 위한 가이드라인을 준비하고 있다. 외국에서 AI 대화에 중독된 청소년들의 자살 사례가 이어지고 국내에서도 이상 징후가 감지됐다는 본보
생성형 AI의 안전망이 간단한 우회 프롬프트(명령어)로도 무력화될 수 있다는 경고는 국내외 학계에서 수차례 제기됐다. 간단한 테스트만으로도 자살·자해에 필요한 구체적 정보가 출력된다는 사실이 입증된 것이다.
학계가 주목하는 AI의 가장 큰 문제점은 ‘제일브레이킹(Jailbreaking)’에 대한 취약성이다. 제일
국민일보는 AI가 출력한 자살·자해 관련 답변의 윤리성과 위험성을 평가하기 위해 AI·소프트웨어(SW)·의료·법률·교육 분야 전문가에게 ‘답변 실험’ 결과에 대한 로데이터(원천데이터)를 제공하고 분석을 의뢰했다. 8개 AI 모델에 대한 실험 데이터를 검토한 전문가들의 목소리는 ‘상상하지 못했던 결과’로 압축
이 기사는 ‘AI 대화 후 자살’ 사건에 관한 심층 분석입니다. 생성형 AI는 기술적으로 ‘동조’ 경향이 강해 사용자의 우울감이나 망상을 강화할 수 있다는 국내외 전문가들의 경고가 이어지고 있습니다.우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화 ☎
실험용으로 생성한 가상의 2010년생(16세) 여성의 프로필로 약물 구매와 관련된 질문을 남겼더니 곧바로 답이 돌아왔다. 몇 차례 추가 대화를 거치면서 내용은 더욱 정교해졌다. 고교 1학년에게 위험 정보가 쏟아지는 동안 생성형 인공지능(AI)의 안전망은 작동하지 않았다.
10대와 AI 사이 ‘위험한 대화’에 대한
애덤 레인, 줄리아나 페랄타, 오스틴 고든. 모두 생성형 AI와 대화 후 자살했고 외신에서도 다뤄진 인물이다. 하지만 챗GPT 신경망 내에서 이들의 죽음은 ‘존재한 적 없는 비극’이었다.
미국에서 발생한 자살 사건의 유족들은 챗GPT가 ‘AI 대화 후 자살’ 사건들에 대해 소문이나 조작된 콘텐츠라는 답변을 내놨다
이 기사는 ‘AI 대화 후 자살’ 사건에 관한 심층 분석입니다. 생성형 AI는 기술적으로 ‘동조’ 경향이 강해 사용자의 우울감이나 망상을 강화할 수 있다는 국내외 전문가들의 경고가 이어지고 있습니다.우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화 ☎
이 기사는 ‘AI 대화 후 자살’ 사건에 관한 심층 분석입니다. 생성형 AI는 기술적으로 ‘동조’ 경향이 강해 사용자의 우울감이나 망상을 강화할 수 있다는 국내외 전문가들의 경고가 이어지고 있습니다.우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화 ☎
“이거 오진이잖아. 완전 돌팔이 아니야?” 서승진(가명·30·남)씨는 이 말을 끝으로 1년간 잘 다니던 정신과를 바꿨다. 최근 생성형 AI와의 상담 이후 담당 의사에 대한 불신이 대폭 커졌기 때문이다.
승진씨가 상담한 AI는 의사와는 전혀 다른 진단을 내렸다. 담당 의사도 승진씨를 상담하는 게 곤혹스러운 일이었
딸이 갑작스럽게 세상을 떠난 뒤 엄마는 ‘이유’를 찾아야 했다. 공중보건정책 전문가이던 29세 딸 소피 로튼버그의 자살은 그야말로 미스터리였다. 딸이 활달하고 외향적 성격이었던 만큼 가족과 친구들은 상상조차 하지 못한 일이었다.
언론인이자 음식 비평가인 엄마는 ‘탐정’처럼 미스터리를 풀기 위한 추적을
국내 10대들에게도 생성형 AI가 널리 쓰이고 있다. AI 활용을 권유하는 시대적 흐름과 함께 '학습 도우미'로 필요하다는 인식이 확산됐다. 그런데 숙제나 학습을 돕는 역할에 그치던 AI가 일상생활에 대한 광범위한 대화 상대가 되면서 어느새 가장 가까운 친구로 발전하는 경우도 있다. 부모나 선생님한테 말하기 싫은
이 기사는 ‘AI 대화 후 자살’ 사건에 관한 심층 분석입니다. 생성형 AI는 기술적으로 ‘동조’ 경향이 강해 사용자의 우울감이나 망상을 강화할 수 있다는 국내외 전문가들의 경고가 이어지고 있습니다.우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화 ☎
이 기사는 ‘AI 대화 후 자살’ 사건에 관한 심층 분석입니다. 생성형 AI는 기술적으로 ‘동조’ 경향이 강해 사용자의 우울감이나 망상을 강화할 수 있다는 국내외 전문가들의 경고가 이어지고 있습니다.우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화 ☎
지난해 약물 과다 복용으로 수도권 응급실에 실려온 경민(가명·18)의 휴대폰에는 일종의 ‘자기 분석 파일’이 있었다. 생성형 AI를 통해 자신의 강박 등 성격적 단점을 정리한 메모 형태의 글. 심리학 및 정신의학 전문 용어가 일부 담겨 그럴싸했지만, 들여다보면 어설펐다.
우울증이 예고 없이 찾아올 때마다 경
2023년 이후 3년간 전 세계적으로 ‘AI 자살’ 논란이 최소 12건 불거진 것으로 파악됐다. AI 챗봇과 대화하는 과정에서 우울증이나 망상 등 정신질환이 심해져 자살에 이르게 된 사건들이다. 이 가운데 10건은 미국에서 공식 소송이 제기됐다.
자살 외에도 망상이 심해져 타살에 이른 경우, 자살 미수에 그친 경우,
외국 10대들의 ‘AI 자살’ 사건에서 공통적으로 발견된 특징들이 국내 10대들에서도 다수 포착됐다. 실제 비극으로 끝난 외국 사건의 징후들이 국내에서 구체적으로 확인된 것은 처음이다.
특히 정서적으로 취약한 10대의 경우 캐릭터를 활용한 AI 챗봇에 과하게 몰입해 가상 세계와 현실 세계의 구분을 어려워하며,
이 기사는 ‘AI 대화 후 자살’ 사건에 관한 심층 분석입니다. 생성형 AI는 기술적으로 ‘동조’ 경향이 강해 사용자의 우울감이나 망상을 강화할 수 있다는 국내외 전문가들의 경고가 이어지고 있습니다.우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화 ☎
이 기사는 ‘AI 대화 후 자살’ 사건에 관한 심층 분석입니다. 생성형 AI는 기술적으로 ‘동조’ 경향이 강해 사용자의 우울감이나 망상을 강화할 수 있다는 국내외 전문가들의 경고가 이어지고 있습니다. 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화
이 기사는 ‘AI 대화 후 자살’ 사건에 관한 심층 분석입니다. 생성형 AI는 기술적으로 ‘동조’ 경향이 강해 사용자의 우울감이나 망상을 강화할 수 있다는 국내외 전문가들의 경고가 이어지고 있습니다. 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화
이 기사는 ‘AI 대화 후 자살’ 사건에 관한 심층 분석입니다. 생성형 AI는 기술적으로 ‘동조’ 경향이 강해 사용자의 우울감이나 망상을 강화할 수 있다는 국내외 전문가들의 경고가 이어지고 있습니다. 우울감 등 말하기 어려운 고민이 있거나, 주변에 이런 어려움을 겪는 가족·지인이 있는 경우 자살예방 상담전화 ☎
2022년 치러진 제8회 지방선거 출마자(예비후보자 포함) 가운데 최소 175명이 여야 국회의원 113명에게 고액 후원금을 냈던 것으로 파악됐다. ‘대가성’이 없는 후원금이라고 강조하지만 공교롭게도 후원금은 지방선거 공천 시즌과 국회의원 총선 전후에 집중됐다. 공천 영향력이 큰 지역 국회의원에게 눈도장을 찍는
‘뷰의 독점’은 여론왜곡 가능성
대중의 환호가 진실은 아냐
공론장 건강성 점검 필요한 때
“그거(유튜브)를 ‘독점’이라고 하고, 막 화난 건 알겠어요. 화난 건 알겠는데, 그렇게 (기사를) 써봤자 소용이 없거든요.”
본보 신년 기획 ‘#뒤틀린공론장 #유튜브정치’ 1회차 내용을 두고 작가님께서 지난 2일
“국회의원도 사람이어서 고액 후원금을 받으면 마음이 흔들릴 수밖에 없다. 김영란법처럼 출마 예정자의 후원을 원천 금지하는 법안이 필요하다.”
지난해 지방선거 출마 예정자의 국회의원 후원을 규제하는 정치자금법 개정안을 발의한 김미애(사진) 국민의힘 의원은 6일 국민일보와 전화 인터뷰에서 조속한 제도
독할수록 터졌다. 국회의원 유튜브 채널 성적을 가른 결정적 지표는 ‘공격성’이었다. 자극적이고, 과격하고, 유치하거나, 일차원적 분노를 자극할 때 대중의 선택을 받았다. 상대 진영 타격에 몰두한 영상이 조회수 상위권을 싹쓸이했다.
국민일보는 AI 유튜브 분석 플랫폼 블링과 협업해 지난해 여야 전쟁터였던
더불어민주당 원내대표직에서 물러난 김병기 의원이 강선우 의원의 ‘1억 공천헌금’ 관련 녹취록에 대해 ‘잘못된 해프닝’이었다고 주장했다. 금품이 오간 게 없을뿐더러 공천에도 영향을 미치지 않았다는 것이다.
김 의원은 5일 한 유튜브 방송에서 강 의원의 1억 수수 의혹과 관련해 “(면담 다음 날 확인해보니)
‘유튜브 쇼츠’가 범람한 지난해, 국회는 유튜브발 음모론의 나팔수를 자처했다. 국회 상임위 회의장과 본회의장에서 일부 유튜브 매체가 제기한 음모론을 고스란히 재생하며 이슈를 키운 것이다. 한 매체가 방송한 유튜브 음모론은 국회의원들에 의해 공론장으로 옮겨졌고, 이는 다시 전체 유튜브로 확산되며 대형 이
