영화 ‘007 스카이폴’의 악당 라울 실바는 혼자다. 국가 정보기관 출신의 이 사이버 테러리스트는 개인 단위의 힘으로 영국 정보부를 위협한다. 경제적 이익이 동기가 아니다. 자신을 버린 조직에 대한 복수심 때문이었다. 영화는 인터넷과 디지털 기술이 개인에게 얼마나 강력한 무기가 될 수 있는지 보여줬다. 톰 크루즈 주연의 영화 ‘미션 임파서블: 파이널 레코닝’은 위협의 차원을 한 단계 끌어올린다. 이번엔 인간 악당조차 필요 없다. AI 자체가 의지를 갖고 인류를 파멸로 몰아간다. 인터넷에 의존하는 현대 문명을 교란하고, 인간의 판단을 밀어내며, 사회 전체를 조작 가능한 대상으로 만든다. 스카이폴이 ‘개인이 국가를 위협하는 시대’를 그렸다면, 파이널 레코닝은 ‘AI가 인류 자체를 위협하는 시대’를 묘사한다. 두 영화가 보여주는 위협의 진화가 더 이상 픽션처럼 느껴지지 않는 건 최근 우리가 목격한 한 장면 때문이다.
앤트로픽이 공개한 ‘클로드 미토스(Claude Mythos)’ 프리뷰 결과 얘기다. 미토스는 소프트웨어의 취약점을 스스로 발견하고 해결책까지 제시하는 AI 모델이다. 앤트로픽은 미토스가 최고 수준의 인간 보안 전문가를 능가한다고 밝혔다. 미토스는 27년 된 OpenBSD 취약점, 16년 된 FFmpeg 취약점을 찾아냈다. 자동화 테스트가 500만번 실행되는 동안에도 놓쳤던 코드 한 줄의 결함마저 잡아냈다. OpenBSD는 전 세계 수많은 서버와 네트워크 장비에 탑재된 운영체제이고, FFmpeg는 유튜브·넷플릭스를 포함한 대부분의 동영상 서비스가 의존하는 소프트웨어다. 수십억명이 매일 쓰는 디지털 인프라의 구멍을 AI가 단숨에 훑어낸 셈이다. 보안 업계가 수십년간 쌓아온 방어선이 하루아침에 무력화될 수 있다는 뜻이기도 하다.
앤트로픽은 미토스의 성능이 너무 강력하다고 판단해 일반에 공개하지 않기로 했다. 대신 AWS, 애플, 브로드컴, 시스코, 구글, 마이크로소프트, 엔비디아, JP모건체이스 등이 참여하는 ‘프로젝트 글라스윙(Project Glasswing)’을 출범시켰다. 미토스의 해킹 역량을 방어에만 쓰자는 취지다. 발상 자체는 타당하다. 하지만 방패를 만들기 위해 칼의 존재를 인정하는 순간 우리는 이미 이전과 다른 시대로 들어선다.
미국 정부가 민감하게 반응한 것도 같은 이유일 것이다. 로이터에 따르면 스콧 베선트 재무장관과 제롬 파월 연준 의장은 주요 은행 최고경영자를 워싱턴으로 불러 미토스와 유사 모델이 초래할 사이버 위험을 논의했다. CNBC는 앤트로픽이 이 모델의 공격·방어 사이버 역량을 두고 미 정부와 지속적으로 협의해 왔다고 전했다.
하지만 이것이 충분한 대응인지는 의문이다. 참여 기업들이 선의를 갖고 있다 해도 유사한 성능의 모델이 경쟁사에서 나오거나 오픈소스로 풀리는 순간 글라스윙의 울타리는 의미를 잃는다. 미토스와 비슷한 성능의 모델이 등장하는 건 길어야 1~2년이면 가능하다는 게 전문가들의 관측이다. 그 시점이 되면 “○○ 기업 서버의 취약점을 찾아줘”라는 한 줄의 프롬프트만으로 해킹 전문지식이 전혀 없는 사람도 강력한 사이버 무기를 손에 쥐게 된다. 무기의 위력만 커지는 게 아니라 무기를 쥘 수 있는 사람 수도 폭증하는 것이다.
편리함과 생산성의 언어로만 AI를 말하던 시기는 지나가고 있다. 이제 필요한 건 낙관도 공포도 아닌 대비다. 인간과 동행하는 AI를 원한다면 먼저 인간이 감당할 수 없는 AI가 어떤 모습인지 직시해야 한다. AI 발전 속도를 지금의 규범이 따라잡을 수 있을지는 미지수다. AI 기술은 이미 달리고 있는 반면 제도는 아직 출발선에 서 있다. 과제를 미룰 시간이 없다.
김준엽 디지털뉴스센터 콘텐츠랩장 snoopy@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
