챗GPT 등 생성형 인공지능(AI)을 이용하는 도중 발생할 수 있는 폭력·성범죄 등 위험 사례를 제보할 창구가 마련됐다.
방송미디어통신위원회와 한국정보통신진흥협회는 31일 ‘생성형 인공지능 이용자 참여 플랫폼’을 개설·운영한다고 밝혔다.
이 플랫폼의 핵심 기능은 생성형 AI 이용 과정에서 겪을 수 있는 위험과 불편사항을 제보하는 것이다. 관련 정보는 사업자·이용자와 공유할 수 있다.
방미통위는 “최근 챗지피티·클로드·제타 등 생성형 AI 서비스의 급속한 확산과 함께 서비스 이용 중 폭력이나 성범죄·성희롱 등 다양한 위험이 발생함에 따라 이러한 역기능을 신속히 인지하고 이를 해당 사업자에 통보함으로써 사업자의 자율적 개선을 유도하기 위해 플랫폼을 개설했다”며 플랫폼 개설 배경을 설명했다.
이 플랫폼은 이용자 참여 기반 소통 창구로 제작됐다. 이용자가 경험한 위험성·역기능 등 제보, 위험성 관련 통계 등 분석자료 주기적 제공, 유형별 생성형 AI 서비스 이용 방법과 특성 안내 등 기능을 제공한다.
제보자는 해당 내용의 처리 상황과 결과를 직접 확인할 수 있다. 해당 내용은 AI 위험성 관련 통계와 경향성 분석 자료로 활용된다.
방미통위는 앞으로 플랫폼을 통해 수집된 제보를 통해 AI 서비스 위험성을 분석, 제도 개선 등 정책에 반영할 계획이다.
김지훈 기자 germany@kmib.co.kr