[가리사니] AI 데스봇 인터뷰 논란

넷플릭스 공상과학 드라마 ‘블랙미러’는 첨단기술과 인간의 욕망이 얽힌 미래 사회를 그려낸 시리즈다. 2013년 공개된 시즌2 첫 번째 에피소드 ‘돌아올게(Be Right Back)’는 생성형 AI 아바타가 출현한 우리 사회에 여러 시사점을 던진다. 주인공 마사는 사랑하던 남편 애쉬가 사고로 숨진 후 AI 챗봇 서비스를 이용한다. 애쉬의 SNS를 수집해 만들어진 챗봇은 마사와 친근하게 대화를 나눈다. 챗봇에 점점 의존하게 된 마사는 채팅, 전화 통화에 이어 애쉬의 모습과 똑 닮은 로봇으로 서비스를 업그레이드한다. 하지만 내밀한 기억까지는 구현하지 못하는 ‘복제품’에 위화감을 느껴 결국 사이가 멀어지게 된다.

마사와 애쉬의 에피소드는 이제 공상과학으로만 치부하기 어렵다. 고인을 AI로 되살린 아바타를 뜻하는 ‘데스봇(deathbot)’이라는 신조어도 등장했다. 미국에선 데스봇 인터뷰가 논쟁을 일으켰다. CNN 앵커 출신 짐 아코스타는 2018년 플로리다주 파크랜드 고교 총기사고로 숨진 10대 소년 호아킨 올리버의 AI 아바타와 지난 5일 인터뷰를 진행했다. 비니를 쓴 호아킨은 “무슨 일이 있었니”라는 질문에 “저는 총기 폭력 때문에 일찍 세상을 떠났습니다”라고 자신을 소개했다. 이어 “총기 규제 법안, 정신건강 지원이 필요하다고 믿습니다. 함께라면 모두가 안전한 세상을 만들 수 있습니다”라고 말했다. 영상에서 얼굴과 입의 움직임은 어색했고 억양도 다소 부자연스러웠지만 인터뷰 진행에 걸림돌은 되지 않았다.

아바타 제작을 결정한 호아킨의 아버지는 “아들의 목소리를 다시 듣게 돼 기쁘다”고 했다. 어머니는 AI와 하루 수 시간씩 대화를 나누고 “엄마 사랑해”라는 말을 듣는 순간을 소중하게 여긴다고 한다. 아버지는 “총기보다 삶을 우선시해야 한다”며 호아킨의 AI가 온라인에서 계속 활동할 것이라고 했다.

인터뷰를 본 시청자들 사이에선 아들을 보고 싶은 부모의 심정을 이해한다는 목소리가 나왔다. 하지만 고인을 디지털로 부활시킨 영상이 섬뜩했다는 반응과 함께 AI 인터뷰가 언론 윤리에 맞느냐는 지적도 만만치 않았다. 총기 폭력에 대한 발언을 호아킨이 생전에 가졌던 생각으로 볼 수 있느냐는 것이다. 유명 언론인이나 AI 업체가 유족의 상실감을 상업적으로 활용해선 안 된다는 비판도 제기됐다. 미 시사주간지 애틀랜틱은 인터뷰에 대해 “우리 사회가 성급하게 구상된 미래를 향해 질주하고 있다는 불길한 느낌을 불러일으켰다”고 평가했다.

데스봇 영상이 법정에서 활용된 사례도 있다. 크리스 펠키는 37세이던 2021년 애리조나주에서 총격 사건으로 숨졌다. 여동생은 그의 생전 영상을 AI에 학습시켰다. AI 영상 속 크리스는 지난 5월 가해자의 재판에 등장해 “저는 용서를 믿습니다”라고 말했다. 진술 내용은 여동생이 썼다. 사건을 심리한 토드 랭 판사는 “그 AI 속에서 ‘용서’를 들을 수 있었다”고 말했다. 가해자는 징역 10년6개월을 선고받았다.

영국 일간 가디언은 데스봇의 출현을 조명하면서 AI의 상업적 이용, 개인정보 보호 문제, 추모에 미치는 영향에 대한 우려가 점점 커지고 있다고 짚었다. 중국의 한 장례 업체의 데스봇 서비스는 1인당 비용이 5만 위안(약 965만원)에 달한다고 한다. 사랑하는 사람을 잃은 가족의 기분을 누가 온전히 이해할 수 있을까. 다만 고인은 자신이 AI로 되살아나는 것에 반대할 기회가 없고 자신의 말에 반론할 권리나 통제권도 없다. 상실을 인식하고 치유로 나아가는 데 데스봇이 방해가 된다는 시각도 있다. 애도와 추모를 AI 기술이 해결할 수 없다는 것이다.

데스봇의 발전은 우리 사회에 연민과 두려움의 감정을 동시에 불러일으킨다. 분명한 것은 현실이 된 생성형 AI를 도외시하며 살아갈 수는 없다는 점이다. AI 통제 방안에 대한 법적·윤리적 논의는 계속 이어져야 한다. 인류 고유의 인간성을 놓치지 않은 상태로 말이다.

나성원 국제부 차장 naa@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지