네이버는 다음 달 11~12일 열리는 ‘생성형 인공지능(AI) 레드팀 챌린지’에 대표 파트너사로 참여한다고 밝혔다. 이 행사는 과학기술정보통신부가 주최하고 한국정보통신기술협회(TTA)와 초거대AI추진협의회가 주관한다.
생성형 AI 레드팀 챌린지는 거대언어모델(LLM)의 안전성과 신뢰성, 보안 강화 방법을 모색하는 자리다. 참가자들은 실제 서비스되고 있는 LLM에 프롬프트 공격을 하는 방식으로 안전성을 검증한다.
네이버는 자체 개발한 생성형 AI ‘하이퍼클로바X’를 행사에 제공한다. 참가자들은 하이퍼클로바X의 안전성을 직접 검증·실험할 수 있다. 하이퍼클로바X는 한국판 AI 성능 평가 체계인 ‘KMMLU’에서 오픈AI의 GPT-3.5 터보, 구글의 제미나이 프로보다 높은 종합 점수를 기록했다.
이번 행사에선 네이버를 비롯한 국내외 AI 기술 리더들이 안전한 AI 개발을 주제로 발표할 예정이다. 하정우 네이버 퓨처 AI 센터장은 12일 ‘AI 안전 콘퍼런스’에 키노트 연사로 참여한다. 에이단 고메즈 코히어 공동창업자, 크리스 메세롤 프런티어모델포럼 대표이사, 댄 헨드릭스 AI안전센터 총괄, 에마드 모스타크 스태빌리티AI 최고경영자(CEO) 등은 콘퍼런스 연사로 나선다. 초거대AI추진협의회 회장사 대표인 김유원 네이버클라우드 대표는 축사를 진행한다.
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
