KT가 초거대 인공지능(AI) ‘믿음’(Mi:dm)을 출시하며 기업간거래(B2B) 시장을 정조준했다. 생성형 AI의 최대 문제점으로 꼽히는 환각 현상(할루시네이션·거짓을 사실처럼 답하는 현상)을 줄이고 비용 부담도 최소화한 것을 강점으로 내세웠다.
KT는 2026년까지 초거대 AI 부문에서 1000억원 이상의 매출을 달성하겠다는 목표다.
KT는 31일 서울 서초구 KT 연구개발센터에서 기자설명회를 열어 국내 최초로 1조 토큰(데이터에서 의미를 가지는 최소한의 덩어리) 이상 데이터를 학습한 거대언어모델(LLM) 믿음을 공개했다.
KT는 기업 규모와 사용 목적에 맞는 ‘완전 맞춤형’ 서비스를 제공하기 위해 매개변수 규모에 따라 모델을 구분했다. 매개변수 70억개 수준의 경량 모델부터 오픈AI의 GPT-3(1750억개)보다 매개변수가 250억개 이상 많은 초대형까지 4종이다.
KT는 개방·신뢰·효율을 글로벌 빅테크와의 차별화 전략으로 내세운다. KT는 초거대 AI를 사용하고 싶지만, 모델을 직접 구축하기 어려운 기업에 소스코드까지 제공한다. 누구나 미세조정을 거쳐 원하는 AI 응용 서비스를 만들 수 있도록 한다는 것이다. 메타가 초거대 AI ‘라마’의 모델을 공개했지만, 한국어 데이터가 부족해 국내 기업들이 사용을 꺼리고 있는 한계점을 공략하겠다는 의미다. 최준기 KT AI·빅데이터사업본부장(상무)은 “간단한 몇 번의 클릭만으로 원하는 거대 AI 모델을 개발하거나 자사의 데이터로 파인튜닝(미세조정)할 수 있다”고 말했다.
생성형 AI의 한계점으로 ‘그럴듯하지만, 사실과 다른 답변’을 내놓는 환각 현상이 꼽힌다. KT는 이를 해결하기 위해 검색, 추론, 답변 모든 단계에서 신뢰성을 높이는 기술을 적용했다. 도식화된 복잡한 문서도 모델이 정확히 이해할 수 있도록 변환하는 도큐먼트 AI, 목표 도메인과 문서에 최적화된 최신 정보를 찾아내는 딥러닝 기술 서치 AI, 원문에 근거한 응답만 생성하도록 강화 학습을 적용한 팩트가드 AI 등이다.
AI를 사용하는 데 들어가는 비용도 더 저렴하게 설계했다. KT는 “그래픽처리장치(GPU) 학습 비용은 KT클라우드의 하이퍼스케일 AI 컴퓨팅(HAC) 서비스를 통해 기존 대비 약 27% 절감할 수 있다. 추론 비용의 경우 리벨리온의 신경망처리장치(NPU) 인프라를 통해 약 50% 저렴해진다”고 설명했다. KT는 초거대 AI 부문에 1조5000억원 이상을 투자할 계획이다.
전성필 기자 feel@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
