“나의 최악의 두려움은 기술 산업인 우리가 세상에 심각한 피해를 주는 것이다. 이 기술이 잘못되면 큰 문제를 일으킬 수 있다.”
생성형 인공지능(AI) 챗봇 챗GPT를 출시한 오픈AI 최고경영자(CEO) 샘 올트먼이 16일(현지시간) 미 상원 청문회에 증인으로 나와 AI 규제를 촉구했다. 그는 AI가 일자리를 파괴할 수 있고, 전쟁 도구로 악용될 수 있는 점 등 잠재적 폐해에 대한 불안감을 인정했다. 그러나 AI는 이점이 위험보다 훨씬 크다고 주장하며 규제를 통해 AI를 안전하게 사용할 수 있도록 해달라고 요구했다.
이날 상원 법사위 개인정보 및 기술 법률 소위는 ‘AI에 대한 감독: AI를 위한 규칙’을 주제로 한 청문회를 열었다. 리처드 블루먼솔 소위 위원장은 “우리는 기술이 규제를 능가할 때 허위 정보의 확산, 사회적 불평등의 심화로 어떤 일이 발생하는지 너무나 자주 보아 왔다”는 내용의 개회사를 들려준 뒤 “오디오는 AI 음성 복제 소프트웨어였고, 발언문은 챗GPT에 질문해 나온 결과”라고 말했다. 그는 “재밌다고 여길 수 있지만, 이것이 우크라이나 침공이나 블라디미르 푸틴을 옹호하는 내용이라면 어땠을지 무섭다”고 말했다.
블루먼솔 위원장은 그러면서 “AI는 희망적인 동시에 정보의 무기화, 불평등의 조장, 목소리 복제 사기 등 잠재적 해악도 품고 있다”며 “가장 끔찍한 것은 이 같은 새로운 산업 혁명으로 수백만 일자리가 사라질 수 있다는 것”이라고 지적했다.
올트먼도 이를 인정했다. 그는 “챗GPT와 같은 AI 도구는 인쇄기나 전기, 바퀴나 불만큼 (인류 발전에) 영향력이 있을 수 있다”고 말했다. 또 “가장 우려하는 분야 중 하나는 이러한 모델이 설득과 조작을 통해 일종의 일대일 대화형 허위 정보를 제공할 수 있는 능력”이라며 “책임 문제에 있어 어떤 체계를 설정할지는 매우 중요한 문제”라고 강조했다.
올트먼은 “지금까지 배포한 도구의 이점이 위험보다 훨씬 크다고 생각하지만, 도구의 안전을 보장하는 것은 우리 업무에 매우 중요하다”며 “정부의 규제 개입이 점점 더 강력해지는 모델의 위험을 완화하는 데 중요하다고 생각한다”고 말했다.
올트먼은 그러면서 “미국 정부는 AI 모델을 개발하고 출시하는 데 있어 일정 역량 이상의 허가와 시험 조건을 고려할 수 있다”며 “일정 규모 이상 활동에 대해 허가권을 가진 새로운 기관을 설립하고, 위험 요소에 대한 평가 기준을 만들겠다”고 말했다. 또 독립적 전문가로 구성된 별도의 감사도 필요하다고 말했다. 특정 임계치를 넘어서는 AI 모델을 제작할 때는 라이선스를 발급받도록 하고, 이를 대중에게 공개하기 전 테스트하는 별도 기관 설립을 제안한 것이다.
올트먼은 또 “우리는 국제적인 무언가가 필요하다”며 “순진하게 들릴 수 있지만, 국제원자력기구(IAEA)처럼 미국이 다른 국가와 협력해 AI 국제 표준을 설정하는 것은 큰 도움이 될 것”이라고 말했다.
이날 의원들도 AI 기술이 선거에 미치는 영향, 뉴스 보도나 군사 작전에 미칠 수 있는 영향 등에 대해 우려하며 규제 필요성을 언급했다. 민주당 크리스 쿤스 의원은 “AI가 잘못된 정보를 전달하고 여론과 선거 결과에 영향을 미칠 수 있다. 의회는 이제까지 소셜미디어에 대한 규제에 실패해 왔다”며 “AI가 민주주의의 가치에 대한 믿음을 훼손할 가능성이 걱정스럽다”고 말했다.
공화당 조시 홀리 의원은 AI의 잠재적 폐해로 실직, 개인 정보 유출, 개인행동 및 의견 조작, 미국 선거 불안정 등을 거론했다. 특히 중국을 비롯한 적국의 AI 위협을 거론하며 “미국의 자유와 국민을 위해 어떻게 이 기술을 통제할 수 있는지 고민해야 한다”고 말했다.
워싱턴=전웅빈 특파원 imung@kmib.co.kr