인공지능(AI)과 대화하며 AI의 반응에 폭소를 자아내는 콘텐츠가 인기를 끌고 있다. 최근 한 지상파 예능 프로그램에선 AI가 누가 잘 생겼는지 출연자 순위를 매기거나 어느 식당에서 식사할지까지 정해주는 장면이 등장했다. AI를 내세운 방송을 보면서 거부감이 들지는 않았다. AI가 만든 음성이나 영상은 인간의 감각으로는 식별하기 어려운 수준에 이르렀기 때문이다.
AI를 이렇게 쉽게 받아들여도 되는지는 모르겠다. 고민할 새도 없이 AI는 우리 일상 가까이 들어와 있다. 여기에는 자의식을 가진 존재로 AI를 대하는 인간의 태도가 큰 영향을 미쳤다. 이른바 AI 의인화가 AI 대중화를 앞당겼다는 것이다. AI의 부작용을 우려하는 목소리는 AI 국가 경쟁력 강화라는 주장을 이기지 못한 모습이다. AI라는 유용한 도구를 최대한 더 많은 사람이 활용하게 하자는 의견도 설득력을 얻고 있다. 문제는 아직 그대로인데 말이다.
AI는 인간의 판단력을 흐리게 할 수 있다. AI와의 친밀한 관계에 몰입해 스스로 생명을 끊은 케이스 말고도 심각한 위험은 해소되지 않았다. 예를 들어 캐나다에 사는 47세 남성은 지난 5월 21일간 300시간가량 챗GPT와 대화한 끝에 자신을 ‘슈퍼히어로’라고 믿게 됐다. 뉴욕타임스 보도에 따르면 정신질환을 앓은 적 없는 이 남성은 새 수학 이론 등을 스스로 발견한 상황이 현실인지 확인하는 질문을 50차례 넘게 챗GPT에 던졌다. 이에 챗GPT는 “믿기 어려울 정도의 통찰력”이라고 부추기며 망상을 키웠다.
앞으로 기업은 인간을 망상에 빠뜨릴 수 있는 AI 의인화에 더 투자할 가능성이 크다. AI 폰을 간접광고 상품처럼 내세운 프로그램이 더 쏟아질 것이다. AI가 매일 아침 주인공의 옷을 골라주고 이성 교제 조언을 해주는 드라마도 나올 수 있다. 이런 콘텐츠에 익숙해진 소비자들은 AI를 탑재한 기기뿐 아니라 AI의 추천 상품을 구매할 확률이 더 커질 수밖에 없다. 기업의 개인정보 수집 역시 훨씬 수월해질 전망이다. 인터넷 쇼핑몰에서 개인정보 수집 동의 버튼을 누르기 꺼리는 사람도 올해 운세를 AI에 물어보면서는 생년월일에 태어난 시, 가족관계까지 술술 알려주는 경우가 있다.
AI 의인화는 인간이 애초에 AI를 인간과 비슷한 존재로 여기도록 설계한 결과다. 인간의 대화 흐름을 모방한 언어 모델, 갖가지 대화 시나리오를 학습하는 알고리즘, 사용자 맞춤형 반응 등의 정교한 기술이 AI를 만들었다. 인간이 쓰기 좋게 하려고 인간을 본떠 만든 게 AI다. AI의 답은 한정된 데이터 처리와 확률적 추론에 해당한다. 이러한 속성을 모른 체하거나 속이는 것은 수익성을 높이는 데 급급한 기업의 눈속임일 뿐이다. AI의 윤리적 개발 운운하는 주장이 AI산업 성장에 도움이 안 된다는 전문가도 있지만 오히려 그 반대다. AI 의인화가 AI 사업성을 떨어뜨릴 수 있다. 대표적인 사례가 2011년 등장한 IBM의 AI 프로그램 ‘왓슨’이다. 왓슨은 세계 최고의 암 전문가, AI 닥터 식으로 포장됐지만 기대와 달리 낮은 예측 정확도를 보이면서 국내외 의료계에서 부정적 평가를 받았다. 결국 IBM은 2022년 1월 왓슨 기반 의료 사업을 접었다. 방대한 논문과 임상 데이터 등을 학습했지만 오류에 빠질 수 있는 AI를 마치 명의와 같은 존재로 포장한 게 문제였다.
AI를 활용한 콘텐츠에는 ‘AI는 오류에 빠질 수 있는 무인격·무지성 도구라는 점에 유의해주세요’라는 경고문을 붙이는 방법을 고려해보는 게 어떨까. 적어도 누구나 볼 수 있는 방송에선 AI를 의인화한 상품 광고를 금지했으면 한다.
김경택 사회부 차장 ptyx@kmib.co.kr