세계에서 처음으로 ‘인공지능(AI) 규제’를 담은 법안이 국내에서 시행에 들어간다. 22일부터 ‘고영향 AI’ 서비스를 제공하는 사업자는 위험 관리 장치를 필수로 마련해야 한다. 챗GPT, 제미나이 등 생성형 AI로 만들어진 결과물에는 구분을 위한 ‘워터마크’가 삽입된다. 업계에서는 여전히 우려와 불안이 쇄도하는 상황이다. 국내 AI 생태계가 미처 자리를 잡지 못한 상황에서 제재와 의무부터 부과한다는 주장이다. 정부는 “규제보다 산업 진흥이 목적”이라고 강조하고 있다.
지난해 1월 21일 공포된 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’은 1년 동안의 유예기간을 거쳐 22일부터 본격 시행된다. 가이드라인 수준에만 머물렀던 AI 정책을 법 체계로 전환해 안전과 신뢰 기반을 만드는 것이 목표다.
이로써 한국은 유럽연합(EU)에 이어 세계에서 두 번째로 AI 법을 도입하고, 첫 번째로 시행하는 국가가 됐다. EU의 경우 법제화 작업에는 가장 먼저 착수했지만, 일부 국가의 반발과 기술적 보완을 이유로 법안 전면 시행을 2027년 말로 미룬 상태다.
AI 기본법의 가장 큰 특징은 고영향 AI를 따로 분류해 규제한다는 점이다. 법안 제2조 4호는 ‘사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템’을 고영향 AI로 규정했다. 다만 ‘중대한 영향’의 구체적 수준이나 사례를 명시하지 않아 논란이 됐다.
이에 정부는 법으로 정한 10개 영역 안에서 활용되는 AI 중 실제 위험성이 높고 최종 의사결정 과정에 사람이 개입하지 않는 경우에만 규제를 적용하기로 했다. 과학기술정보통신부에 따르면 현재로서는 완전한 자율주행 단계인 ‘레벨 4’ 이상 차량 정도만 고영향 AI에 포함된다.
법안의 또 다른 쟁점이었던 안전성 확보 의무의 경우 ‘초고성능’ AI 시스템만을 대상으로 한 제한적 규정이라는 게 정부 설명이다. 고도로 발전한 AI가 통제 불가능 상황을 초래할 것을 가정하고, 피해 발생을 사전에 예방한다는 취지다. 초고성능 AI를 판별하는 기준은 학습에 사용된 누적 연산량이다. 단일 AI 모델을 개발·학습시키는 데 투입된 총 연산량이 10의 26승 플롭스(초당 연산 횟수) 이상일 때에는 모니터링 등 사전 안전 조치를 이행해야 한다. 아직까지 국내외를 통틀어 해당 기준에 부합하는 모델은 없는 것으로 알려졌다.
‘워터마크 표시’로 말이 많았던 투명성 의무의 경우 AI 서비스를 제공하는 사업자에게만 부여된다고 선을 그었다. 아울러 웹툰, 애니메이션 등과 같이 비교적 식별이 쉬운 일반 AI 생성물에는 ‘디지털 워터마크’ 등 눈에 보이지 않는 표기 방식도 허용한다는 방침이다. 다만 실존 인물을 기반으로 한 딥페이크 생성물에는 가시적 표시가 있어야 한다.
산업 현장에서는 AI 기본법에 대응할 준비가 미처 다 되지 못한 상황이다. 스타트업얼라이언스가 지난달 국내 AI 스타트업 101곳을 대상으로 실시한 조사에 따르면 응답 기업 중 실질적 대응 체계를 수립한 기업은 2%에 불과했다. 정부는 법 위반이 의심될 경우 진행되는 사실조사와 과태료 부과에 1년 이상의 계도기간을 두고, 기업의 적응을 돕는 ‘AI 지원데스크’를 운영하는 등 법안 연착륙을 유도한다는 방침이다.
박선영 기자 pomme@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
