챗GPT 개발사 오픈AI가 10대 사용자를 대상으로 챗GPT 사용을 일부 제한하는 ‘부모 통제(Parental Controls)’ 기능을 새롭게 도입했다. 이는 미국 캘리포니아주에서 한 10대 부모가 아들이 챗GPT의 조언을 받은 뒤 극단적 선택을 했다는 이유로 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기한 지 한 달 만이다.
오픈AI는 29일(현지시간) 부모가 자녀의 챗GPT 이용을 관리할 수 있는 기능을 적용했다고 밝혔다. 챗GPT가 10대 사용자가 심리적 위기에 처했을 가능성을 감지하면 부모에게 알림을 보내는 기능도 포함됐다. 알림은 이메일, 문자, 푸시 알림 등을 통해 전달된다.
로렌 조나스 오픈AI 청소년 복지 책임자는 “이 문제의 심각성을 오래전부터 인식하고 있었다”며 “부모 통제 기능과 같은 도구를 최대한 신속하게 마련하기 위해 노력해왔다”고 말했다.
부모 통제 기능은 부모와 자녀의 계정을 연결해야 활성화 된다. 한쪽이 연결 요청을 보내면 다른 한쪽이 이를 수락하는 방식으로 이뤄진다. 연결된 이후 부모는 자녀 계정의 음성 모드와 이미지 생성 기능 사용 여부를 선택할 수 있으며, 다이어트·성·증오 발언 등 민감한 주제의 콘텐츠 노출을 최소화한 ‘제한 버전’ 챗봇으로 전환할 수 있다. 또 자녀의 사용 시간을 제한하거나 특정 시간대 접속을 차단할 수도 있다.
다만 오픈AI는 부모 통제 기능이 강화되더라도 10대 사용자의 대화 내용 자체는 부모와 공유하지 않는다고 밝혔다. 조나스는 “부모가 자녀의 상태를 파악하고 대화를 시작할 수 있도록 충분한 정보를 제공하면서도, 자녀의 사생활과 자율성을 존중하기 위한 조치”라고 설명했다.
조승현 기자 chosh@kmib.co.kr