미국 잡지 애틀랜틱은 최근 노후용 연금 적립을 중단했다는 몇몇 인공지능(AI) 전문가 이야기를 다뤘다. 기계지능연구소(MIRI) 인공지능안전센터(CAIS) 등 AI 관련 단체 사람들이 “연금을 쓸 날이 올 것 같지 않다”면서 그리했다고 한다. CAIS 대표는 이렇게 말했다. “그때쯤이면 모든 게 자동화돼 있을 겁니다. 그런데, 우리가 그걸 볼 수 있을까요?” 2022년 챗GPT의 등장과 함께 AI를 향한 시각은 부머(boomer·낙관론자)와 두머(doomer·비관론자)로 나뉘었다. 연금 무용론은 그중 두머 진영에서 대두했다. AI에 인류의 종말을 투영하는 이들이 3년 새 연금을 포기할 만큼 미래를 더욱 비관하게 된 것이다.
이런 생각은 지난 4월 공개된 보고서 ‘AI 2027’에 구체화됐다. 구글 등에서 인공지능을 연구하던 이들이 그 위험을 경고하려 작성한 시나리오인데, 2030년 ASI(초인공지능)의 생화학무기 살포로 인류가 절멸한다는 결말을 설정했다. 현재의 AI 발전 속도를 대입해 25차례 워게임을 거쳤다는 시나리오는 올해 말 거대한 데이터센터 덕에 새로운 차원의 AI 모델을 만들어내는 선두 기업이 경쟁 기업과 격차를 벌리려고 이를 공개하는 대신 AI 연구에 투입할 거라고 봤다. AI가 AI를 만드는 상황이 되면서 더욱 가팔라진 개발 속도에 2027년이면 ASI가 출현하고, 뒤늦게 통제에 나선 당국도 결국 실패해 종말을 향한다는 것이다.
이 보고서 저자들이 최근 ASI 출현 시점을 늦춰 시나리오를 수정키로 했다고 한다. 이유는 오픈AI의 새 모델 GPT-5였다. 시나리오가 예상한 시점에 추론형 에이전트를 표방하며 출시됐지만, 오류와 환각 등이 여전해 기대에 미치지 못했다. AI 개발이 벽에 부닥친 것 아니냐는 인식과 함께 ‘AI 거품론’이 확산하고 있다.
증시에는 분명 악재이겠지만, 닷컴 버블처럼 AI도 한번쯤 거품이 터지는 것이 두머에게도, 부머에게도 좋지 않을까 싶다. 너무 빠른 개발 속도에 제동이 걸려야 안전을 담보할 규제도, 한국처럼 한발 늦은 추격자도 따라잡을 시간이 생길 테니.
태원준 논설위원