유럽연합(EU)의 입법기구인 유럽의회가 사상 첫 인공지능(AI) 규제 법안을 가결했다.
법안은 AI를 활용해 시민을 감시하거나 이를 통해 얻은 정보를 수사에 활용하는 것을 불허했다.
구체적으로는 실시간 안면인식을 금지했고, 챗GPT 같은 생성형 AI로 제작된 콘텐츠의 경우 창작자가 인간이 아님을 명확히 표기하도록 의무화했다.
법안은 EU 집행위원회와 이사회가 참여하는 제3자 협상이 타결되면 효력이 발생한다.
다만 협상 과정에서 법안 내용이 일부 수정될 여지도 있다.
EU는 연말 내 3자 협상 타결을 목표로 하고 있다. 계획대로 될 경우 법안 시행 유예 기간 등을 고려하면 실제 규제가 적용되는 시점은 2026년쯤이 될 전망이다.
로이터 등 주요 외신에 따르면 유럽의회는 14일(현지시간) 본회의 표결에서 AI 규제 법안을 찬성 488표, 반대 28표, 기권 93표로 가결했다.
유럽의회는 이날 통과된 법안을 통해 챗GPT와 같은 생성형 AI에 높은 투명성을 요구하기로 했다.
AI의 데이터 학습에 사용된 자료를 모두 공개하고, AI가 생성한 콘텐츠에는 창작자가 인간이 아님을 명시하는 방식이다.
아울러 AI의 위험도를 구분해 규제를 차등 부여하기로 했다.
위험도는 ‘잘못된 정보를 제공하는가’ ‘생체 정보를 활용하는가’ ‘차별적 언어를 포함하는가’ 등의 평가 항목에 따라 ‘최소’ ‘제한’ ‘높음’ ‘허용 불가’ 순으로 분류되는 것으로 알려졌다.
법안은 또 중국에서처럼 일반 시민들의 행동 패턴을 AI로 분석해 ‘대출 상환 능력이 있는지’ ‘범죄를 일으킬 가능성은 없는지’ 등 사회적 신용 점수를 매기는 행위를 엄격히 금지했다.
규제 대상은 EU 회원국과 역내 기업이다. 법 위반 시 최대 3000만 유로(약 415억원), 연 매출의 6%까지 과징금이 부과된다.
다만 법률 제정 이후 2년간의 유예기간을 두어 당사자들이 관련 규정을 준수할 수 있도록 계도할 방침이다.
유럽의회는 행정부 격인 EU 집행위원회와 27개국을 대표하는 EU 이사회로 구성된 3자 협상에 돌입한다.
이 과정에서 ‘실종 아동 찾기와 테러 예방을 위해 생체인식 기술 사용의 예외를 둬야 한다’는 식의 주장이 나올 것으로 예상된다.
유럽의회와 집행위, 이사회 모두 생성형 AI로 제작된 콘텐츠와 관련된 명확한 정보를 표기하는 방안에 대해서는 이견이 없는 것으로 알려졌다.
유럽의회는 2021년 AI 규제를 위한 입법 절차에 착수했다. 법안 논의 2년 만에 포괄적 규제안이 마련된 것이다.
오주환 기자 johnny@kmib.co.kr