기기 자체에 인공지능(AI)을 장착해 네트워크 연결 없이 활용할 수 있는 ‘온디바이스 AI’가 국내 AI 기술 경쟁의 격전지로 떠오르고 있다. 삼성전자가 온디바이스 AI 스마트폰 출시로 포문을 열자, LG전자는 경량화언어모델(sLLM)을 개발하는 등 기술 고도화에 나섰다.
클라우드 AI 서비스를 이용하려면 인터넷에 연결하기 위해 특정 사이트에 접속하거나 앱을 설치해야 하는 번거로움이 있다. 반면 온디바이스 AI는 클라우드를 거치지 않는다. 기기 자체에서 AI가 구동되기 때문에 통신 연결을 하지 않고도 언제 어디서든 자유롭게 사용할 수 있다. 스마트폰뿐 아니라 노트북과 PC, 가전, 자동차, 보안, 헬스케어 등 다양한 분야에서 온디바이스 AI 기술력이 필수로 여겨진다.
국내에서는 삼성전자와 LG전자가 온디바이스 AI 기술 경쟁력을 높이기 위한 경쟁에 돌입했다. 삼성전자는 최근 갤럭시 S24 시리즈를 통해 온디바이스 AI 기술력을 과시했다. 갤럭시 S24 시리즈에는 퀄컴의 애플리케이션 프로세서인 스냅드래곤 8 3세대와 삼성전자의 엑시노스 2400이 들어갔는데, 온디바이스 AI 기능을 위해 특화 설계됐다. 네트워크 없이도 실시간 통역과 번역, 요약 등의 AI 기반 서비스를 제공한다.
PC와 노트북은 온디바이스 AI가 집중적으로 활용되는 제품 영역이다. 삼성전자는 지난해 12월 ‘AI 노트북’인 갤럭시북4 시리즈를 내놓고 시장 선점에 나섰다. 인텔의 차세대 프로세서 ‘코어 울트라’가 탑재됐는데, 기계학습(머신러닝)과 딥러닝 등 AI 작업을 지원하는 신경망처리장치(NPU)를 내장했다. 삼성전자는 가전과 TV 등으로 온디바이스 AI 기능을 확대 적용할 계획이다.
LG전자는 2024년형 LG그램에 차세대 AI 프로세서를 탑재했다. 온디바이스 AI 기술 고도화를 통해 사용성을 높이겠다는 계획도 세웠다. 사용자의 음성 명령을 인식하고 문서나 웹페이지를 번역·요약해주고 검색도 알아서 해주는 서비스를 개발하는 식이다. LG전자는 국내 스타트업 업스테이지와 손잡고 온디바이스 기반의 sLLM을 개발한다는 방침이다. 여기에는 업스테이지의 ‘솔라’ 모델을 활용할 예정이다. 솔라는 세계 최초로 107억 매개변수로 구성된 사전학습 모델이다. 지난달 공개와 동시에 글로벌 AI 플랫폼 허깅페이스 거대언어모델(LLM) 순위에서 성능 평가 점수 74.2점을 받아 1위를 차지했다. GPT-3 대비 10분의 1도 되지 않는 작은 크기인데도 추론 속도는 더 빠르다고 한다. 기기 성능과 전력 소모에 영향을 미치지 않으면서도 다양한 언어 관련 AI 기능을 제공할 수 있어 온디바이스 AI 최적의 모델로 불린다.
7일 글로벌 시장조사업체 글로벌마켓인사이트(GMI)에 따르면 온디바이스 AI 시장은 지난해 50억 달러에서 연평균 20%씩 성장해 2032년에는 700억 달러 규모로 커질 전망이다.
전성필 기자 feel@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
