정부가 내년 1월 시행되는 인공지능(AI) 기본법의 하위법령 제정 방향을 공개했다. AI 산업 파이를 키우기 위해 규제보다는 산업진흥에 무게를 두되, 생명·신체·기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 ‘고영향 AI’에 대해서는 별도의 위험 관리와 투명성 확보 의무를 부여할 계획이다.
과학기술정보통신부는 17일 서울 중구에서 설명회를 열고 AI 기본법 하위법령 추진 현황을 소개했다. 하위법령은 크게 산업 진흥과 규제 분야로 나뉜다. AI 분야 육성을 지원하기 위해 현 국가AI위원회를 국가AI전략위원회로 확대하고 연구·개발(R&D), 데이터 구축, AI 도입·활용을 위한 지원 근거 규정을 마련했다.
업계가 민감하게 반응하는 규제와 관련해 과기정통부는 잠재적인 AI의 위협으로부터 이용자 안전을 지키면서도 기업의 부담과 불확실성을 완화하는 데 주력했다. 우선 생성형·고영향 AI 이용자에 대한 사전 고지와 결과물 표시(워터마크)가 의무화된다. AI로 만든 사진이나 영상은 AI로 만들었다는 사실을 반드시 드러내야 한다는 것이다. 다만 내부 업무용이거나 AI 기반 생성물임이 명백할 경우엔 이런 의무가 면제될 수 있다.
이와 함께 누적 학습량이 일정 수준(10의 26제곱 부동소수점 연산) 이상인 프로그램을 ‘고성능 AI’로 규정하고, 해당 AI 구분 기준과 의무 이행 방식을 시행령·고시로 별도 지정하기로 했다. 김경만 과기정통부 인공지능기반정책관은 “고영향 AI는 생명·신체에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 시스템”이라며 “사용 영역, 기본권에 대한 위험의 영향과 중대성, 특수성 등을 종합적으로 고려해 판단하겠다”고 말했다.
실질적으로 ‘규제 회색지대’에 있던 해외 AI 사업자도 법령 영향권에 들게 된다. 매출액 1조원(본사 기준) 이상, AI 서비스 매출액 100억원 이상, 일평균 국내 이용자 수 100만명 이상 조건을 충족하는 사업자는 반드시 국내에 대리인을 지정해야 한다. 구글(제미나이)·오픈AI(챗GPT) 등 글로벌 AI 업체들이 모두 해당될 것으로 예상된다. AI 기본법이 유럽연합이나 미국 등 해외에서 적용되는 최소한의 규정을 반영했기 때문에 해외 빅테크 등이 자국 규범을 이유로 수용을 거부하기는 어려울 것이라는 게 정부 설명이다.
정부는 AI 기본법 시행 초기 기업들의 혼란을 줄이기 위한 완충지대도 설정했다. 시정명령 미이행 등 행위에 대해 3000만원 이하의 과태료가 부과되지만, 최소 1년 이상의 계도기간을 두는 방안이 검토되고 있다. 정부의 사실조사 권한도 제한적으로 설정했다. 이미 충분한 증거가 확보돼 있거나 부당한 목적의 신고·민원에 대해서는 사실조사를 실시하지 않도록 한 것이다. 김 국장은 “AI 기본법 운용 취지는 벌주기가 아닌 AI와 관련한 길라잡이를 만들려는 취지”라고 말했다.
과기정통부는 관계부처와 산업계, 학계 등의 의견수렴과 입법예고를 거쳐 연내에 하위법령을 확정할 예정이다.
김지훈 기자 germany@kmib.co.kr