EU 세계 첫 ‘AI법’ 가결… 국내도 ‘금지 입법’ 추진되나

Է:2024-03-18 04:04
ϱ
ũ

범용 AI ‘투명성 의무’ 강화 등 명시
연말발효… 위반땐 매출 7% 과징금
일부 금지 검토하되 지원 고려해야

유럽연합(EU) 의회 의원들이 지난 13일(현지시간) 프랑스 스트라스부르에서 열린 본회의에서 인공지능(AI) 법안 표결에 참여하고 있다. 이 법안은 찬성 523표, 반대 46표, 기권 49표로 가결됐다. AP연합뉴스
유럽연합(EU)이 세계 최초의 인공지능(AI) 규제법을 마련해 단계적으로 시행키로 했다. 국내 AI 규제 논의는 이 법안의 영향을 적잖게 받을 전망이다. 다른 국가에서도 EU 법안을 검토해 이를 일부 반영한 AI법을 내놓을 가능성이 크기 때문이다.

EU의 AI법에는 조작 기능이나 인권 침해 위험이 있는 ‘유해한(harmful)’ AI 시스템에 관한 금지 규정이 있다. 이와 달리 국내 논의 중인 주요 AI 법안에는 특정 AI 기능을 금지하는 조항이 없다. 전문가들은 EU의 AI법과 비슷한 규제를 일부 받아들이되 AI 산업 지원을 아울러 고려하는 방향으로 입법이 추진돼야 한다고 지적한다.

17일 EU 의회에 따르면 지난 13일(현지시간) 가결된 EU의 AI법에는 위험 수준별 AI 규제가 명시돼 있다. 이 법은 조작이나 기만 기술 등을 사용하거나 나이와 장애 또는 사회적 취약성을 이용하는 AI 시스템을 금지한다. 또 공공기관에서 사회적 점수 매기기(social scoring)를 목적으로 사용하는 AI 시스템뿐 아니라 공공장소에서의 실시간 원격 생체인식 기능(일부 범죄 대응 목적은 제외)도 금지한다. 이른바 ‘금지된 AI’라고 불리는 규제 조항이다. EU AI법은 EU 회원국 승인 과정을 거쳐 올해 말부터 2027년까지 단계적으로 시행될 예정이다.


현재 한국 국회에서 논의 중인 AI 법안에 ‘고위험 AI’에 관한 규정은 있지만 특정 AI 시스템을 금지하는 내용은 없다. 국내 법안은 의료기기에 사용하는 AI, 생체정보를 분석·활용하는 데 사용하는 AI 등을 고위험 영역에서 활용하는 AI로 규정한다. 고위험 AI를 이용한 제품이나 서비스에 대해선 ‘고위험 AI를 기반으로 운용된다’는 사실을 이용자에게 사전 고지하도록 하고 있다. AI 서비스나 제품이 국민 생명이나 안전 등에 위해가 될 경우 출시를 제한하는 원론적 규정도 있다.

다만 EU 법처럼 AI 금지 규정이나 이를 위반했을 경우 적용하는 벌금 부과 조항은 없다. EU의 AI법은 법 위반 시 연간 전 세계 매출의 최대 7%에 해당하는 과징금을 부과할 수 있도록 했다. 과학기술정보통신부 관계자는 “국내 법안은 AI 산업이 위축되지 않도록 관련 사업자들의 책무를 규정하면서도 처벌 조항은 나중에 보완하는 방향으로 논의가 이뤄질 것으로 보인다”고 말했다.

EU AI법은 범용(general-purpose) AI 모델에 관한 규제도 포함한다. EU의 저작권법에 따라 AI 학습 과정에 활용한 콘텐츠나 데이터를 요약해 공개하도록 했다. GPT-4 같은 이전보다 향상된 AI 모델에 대해선 철저한 평가를 거치도록 했으며 심각한 사고 발생 시 EU 집행위원회에 보고하도록 했다.

EU AI법은 또 AI를 활용해 정교하게 만든 영상과 이미지 등 딥페이크 생성물에 대해 AI로 만든 것이라는 사실을 알 수 있는 표시를 하도록 했다. 딥페이크 대응 기술에 관한 내용은 국내 법안에도 상당 부분 반영될 전망이다. AI 학습과 관련한 국내 콘텐츠 저작권 보호에 대해선 구체적 방향 설정이 이뤄지지 않았다.

김명주 서울여대 정보보호학과 교수는 “국내에서도 일부 금지 규정을 포함시키는 논의는 필요해 보인다. 다만 앞으로 규제 시행 이후 AI 학습과 관련해 들어가는 추가 비용에 대해선 정부가 어느 정도 지원하는 방안이 뒷받침돼야 할 것”이라고 말했다.

김경택 기자 ptyx@kmib.co.kr

GoodNews paper Ϻ(www.kmib.co.kr), , , AIн ̿
Ŭ! ̳?
Ϻ IJ о
õ
Ϻ Ź