오픈AI가 오는 12월부터 챗GPT를 사용하는 성인을 대상으로 성적인 대화나 성인용 콘텐츠를 허용하겠다는 방침을 공개했다. 성인 이용자는 성인답게 대하겠다는 것이다. 오픈AI는 청소년 접근을 막기 위해 연령 제한 기능을 강화한다는 입장이지만, 현실적으로 다양한 우회 방식 등이 공유될 것으로 예상돼 우려가 커지고 있다.
샘 올트먼 오픈AI 최고경영자(CEO)는 14일(현지시간) 엑스(X·옛 트위터)를 통해 새로운 버전의 챗GPT 출시 계획을 알렸다. 그는 “몇 주 내로 사람들이 GPT-4o에서 좋아했던 특성을 더 잘 반영하는 새로운 버전의 챗GPT를 출시할 계획”이라며 “12월에는 연령 제한 기능을 더욱 전면적으로 시행하고 ‘성인 이용자는 성인답게 대하자’는 원칙에 따라 (연령이) 인증된 성인에게 성적인(erotica) 콘텐츠 등 더 많은 기능을 허용할 예정”이라고 말했다.
그는 이어 “기존에는 정신 건강 문제를 신중히 다루기 위해 챗GPT를 제한적으로 만들었지만 정신 건강 문제가 없는 많은 이용자에게는 유용성과 즐거움이 떨어진다는 점을 깨달았다”며 “심각한 문제를 경감할 수 있는 새로운 기술을 갖추게 돼 제한을 안전하게 완화할 수 있게 됐다”고 설명했다.
인공지능(AI) 업계는 챗GPT의 성인 콘텐츠 허용이 정체된 유료 구독자 증대를 위한 선택이라고 해석한다. 챗GPT는 출시 이후 현재까지 생성형 AI 시장에서 압도적인 1위 자리를 유지하고 있지만 다양한 AI 챗봇의 등장으로 위협을 느끼는 상황이다. 경쟁자인 구글 제미나이의 지난달 월간 방문자 수는 전월 대비 46% 증가한 11억명을 기록하는 등 폭발적인 성장세를 보이고 있다.
오픈AI가 연령 제한 기능 강화 방침을 밝혔지만 청소년 접근을 원천 차단하는 것이 가능할 지는 미지수다. 현재도 선정적인 콘텐츠를 제공하는 플랫폼에 가입할 수 있도록 대리 성인인증을 해주겠다는 홍보글 등을 쉽게 찾아볼 수 있다. 최근 일론 머스크의 AI 기업 xAI가 출시한 ‘그록’의 ‘매운맛(Spicy)’ 모드를 이용해 최대한 노출이 심한 이미지를 만들 수 있는 검열 우회 팁도 활발히 공유되는 실정이다.
한국 정부의 청소년 보호 정책에도 여전히 허점이 많다는 지적이 나온다. 현행법상 청소년 유해매체물 지정은 청소년보호위원회의 주관 하에 이뤄지는데, 각종 심의·의결 절차를 거쳐야 하는 탓에 신속한 대처에 어려움이 있다. 인공지능기본법 역시 생성형 AI가 고영향(고위험) AI에 포함되지 않아 규제 수준에 한계가 있다.
김일우 가톨릭대 연구교수는 “청소년 유해매체물 심의 기준에서 ‘그 밖에 청소년의 정신적·신체적 건강에 명백히 해를 끼칠 우려가 있는 것’의 ‘명백히’ 부분을 삭제해 기준을 완화함으로써 청소년을 적극적으로 보호해야 한다”며 “청소년 연령대를 보다 세부적인 단계로 구분해 각각의 가이드라인을 만들고 유해매체물 모니터링을 확대·강화하는 것도 필요하다”고 제언했다.
양윤선 기자 sun@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
