인공지능(AI) 산업의 건전한 발전을 지원하는 ‘AI 기본법’ 제정안이 국회 과학기술정보방송통신위원회(과방위) 전체회의를 통과한 가운데 AI안전연구소가 개소했다. 연구소는 딥페이크(영상 조작물)와 사이버 공격 등 AI 기술 악용으로 나타나는 잠재적 위험에 대응하는 전담 조직으로 AI 안전 확보를 위한 기틀 마련의 역할을 맡게 된다.
과학기술정보통신부는 27일 경기 성남시 판교글로벌R&D센터에서 AI안전연구소 개소식을 열었다. 연구소는 AI의 기술적 한계, 인간의 AI 기술 오용, AI 통제력 상실 등으로 일어날 수 있는 위험에 체계적·전문적으로 대응하는 것을 목표로 한다. 연구소 개소는 지난 5월 AI 서울정상회의에서 모인 10개국 정상이 AI안전연구소 설립과 안전한 AI에 대한 글로벌 협력을 맺은 것의 연장선이다. 당시 윤석열 대통령은 “대한민국 AI안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것”이라는 의지를 밝혔다.
이날 개소식에 참석한 류광준 과기정통부 혁신본부장은 “국내 기업이 AI 안전을 확보할 수 있도록 기술 지원을 확대하고 AI 안전 정책을 개발하는 데 필요한 기반 연구를 수행할 것”이라고 말했다. 김명주 AI안전연구소장은 “국내 AI 기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험 요소를 최소화하도록 지원하는 협력 기관 역할을 할 것”이라며 등반가들이 에베레스트라는 정상에 설 수 있도록 돕는 셰르파를 연구소에 비유했다.
앞서 AI 기본법 제정안이 전날 국회 과방위 전체회의를 통과하면서 AI 안전을 보장하고, AI 산업의 발전을 지원할 근거와 기준이 마련됐다. AI 기본법은 과기정통부가 3년마다 대통령 직속 국가인공지능위원회 의결을 거쳐 AI 정책 방향과 전문 인력 양성 등의 내용을 담은 ‘AI 기본계획’을 수립하도록 명시했다. 아울러 사람의 생명과 신체 안전에 위험을 미칠 수 있는 AI 시스템을 ‘고영향 AI’로 규정하고 정부가 해당 사업자에 책임 있는 조치를 요구할 수 있게 했다. 해외 AI 사업자가 국내에서 사업 할 때는 국내 대리인을 지정해 정부와 소통하도록 했고, AI 기반 영상물에는 워터마크 등을 넣어 AI를 사용해 만든 것임을 명확히 알리도록 하는 내용을 담았다. 해당 법안은 국회 법제사법위원회 전체회의를 거쳐 이르면 28일 본회의에 상정·의결될 전망이다.
나경연 기자 contest@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
1452
