미국 스타트업 오픈AI가 자사 대화형 인공지능(AI) 챗GPT 이용 연령을 18세 이상, 부모의 승인을 얻어도 13세 이상으로 제한하는 방안을 검토하고 있다.
오픈AI는 5일(현지시간) 홈페이지에 올린 ‘AI 안전에 대한 우리의 접근 방식’이라는 제목의 공지에서 “강력한 AI를 안전하고 광범위하고 이로운 도구로 유지하기 위해 최선을 다하고 있다. 안전이 시스템에 내장되도록 노력하고 있다”고 적었다.
그러면서 더 안전한 AI 시스템 구축, 실사용을 통한 안전장치 개선 학습, 어린이 보호, 사생활 보호, 사실 정확도 향상, 지속적인 연구 및 참여의 6가지 항목으로 나눠 AI 안전에 대한 자사의 입장을 정리했다.
그중 주목을 끄는 대목은 ‘어린이 보호’ 항목에서 연령 제한과 관련한 검토 사항이다. 오픈AI는 “안전에 대한 우리의 노력에서 중요하게 여기는 한 가지는 어린이 보호”라며 “AI 도구 사용에 18세 이상, 혹은 부모의 승인을 받은 13세 이상의 검증 옵션을 검토하고 있다”고 밝혔다.
또 “증오, 괴롭힘, 폭력, 성인용 콘텐츠 생성에 우리의 기술이 사용되는 것을 허용하지 않는다”며 “최신 모델인 GPT-4는 GPT-3.5보다 이런 콘텐츠에 응답할 가능성이 82% 낮다. 악용 여부를 모니터링하는 시스템을 구축했다”고 덧붙였다.
오픈AI는 “어린이에게 해로운 콘텐츠를 생성할 가능성을 최소화하기 위해 상당한 노력을 기울였다. 예컨대 이용자가 이미지 도구에 아동성범죄 자료를 업로드하면 우리는 이를 차단하고 국립실종학대아동센터에 신고한다”고 설명했다.
오픈AI의 이런 입장은 최근 정보기술(IT) 업계에서 불거진 최첨단 AI의 유해성 논란에 대답한 것으로 볼 수 있다. 미국 비영리단체 ‘삶의 미래 연구소(FLI)’는 지난달 28일 1000여명의 서명을 모아 공개한 서한에서 오픈AI의 최신형 거대언어모델(LLM) GPT-4를 능가하는 AI 시스템의 개발을 6개월간 중단하자고 요구했다.
미국 전기차 기업 테슬라의 일론 머스크 최고경영자(CEO), 애플 공동창업자 스티브 워즈니악, 이미지 생성형 AI ‘스테이블 디퓨전’ 개발사 스테빌리티AI의 에마드 모스타크 CEO 같은 IT 기업 경영자들이 서명에 참여했다.
다만 마이크로소프트 창업자 빌 게이츠, 페이스북·인스타그램 운영사인 메타 플랫폼스의 앤드루 보즈워스 최고기술책임자(CTO)는 최첨단 AI 개발 일시 중단론에 대한 반대 의사를 밝혔다. 마이크로소프트는 오픈AI에 100억 달러를 투자한 뒤 자사 검색엔진 빙에 챗GPT 기능을 장착했다.
김철오 기자 kcopd@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
2057
