지난해부터 고조된 AI 열풍의 최신 키워드는 ‘온디바이스 AI’다. 온디바이스 AI는 AI 연산이 기기에서 수행되는 기술을 뜻한다. 클라우드나 원격 서버에 의존하지 않고 스마트폰, PC 등 디바이스에 AI 연산이 가능한 칩을 설치한다. 기존의 서버 방식에 비해 연산 처리 능력은 다소 떨어지지만 외부 통신 없이 연산을 처리할 수 있기 때문에 보안성이 상대적으로 뛰어나고 인터넷이 불필요하다는 장점이 있다.
온디바이스 AI이 주목받는 건 당장 내년 상용화 제품이 출시될 예정이기 때문이다. 내년 1월 데뷔를 앞둔 삼성 갤럭시S24 시리즈는 세계 최초의 온 디바이스 AI 탑재 스마트폰이 될 것으로 보인다. 갤럭시북4에도 삼성전자가 자체 개발한 생성형 AI 모델 ‘삼성 가우스’를 활용한 온디바이스 AI 기술이 적용될 전망이다. 구글도 지난 6일 생성형 AI 제미나이를 공개하면서 지난 10월 출시한 스마트폰 ‘픽셀8’에 ‘제미나이 나노’ 모델을 온디바이스 AI로 탑재하겠다고 예고했다. 애플은 내년 공개할 OS(운영체제)인 ‘iOS18’을 통해 온디바이스 AI 기능을 추가할 것으로 알려졌다.
온디바이스 AI 경쟁은 메모리 반도체 수요를 자극할 전망이다. 김동원 KB증권 연구원은 “향후 온디바이스 AI의 D램과 낸드플래시 탑재량이 현재 대비 2배 이상 증가할 것”이라고 내다봤다.
이미 AI 서버 출하량이 급증할 것이란 전망 속에 반도체 수요는 급증하고 있다. 13일 시장조사기관 트렌드포스는 내년 AI 서버 출하량이 168만대로 올해(122만대) 대비 38% 증가할 것으로 전망했다. 전체 서버에서 차지하는 AI 서버 비중도 올해 9%에서 내년 12%까지 확대될 것으로 내다봤다. 2027년까지 AI 서버 출하 성장률은 연평균 36%에 달할 것으로 예측됐다. 일반 서버 성장률(10%)을 3배 이상 상회하는 수준이다.
AI 서버 출하량이 늘면 고대역폭메모리(HBM)도 그만큼 늘어야 한다. AI의 딥러닝(컴퓨터가 스스로 외부 데이터를 조합·분석)을 위해 설계된 고성능 하이엔드 AI 그래픽처리장치(GPU)에는 HBM이 사용된다. HBM는 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 대폭 끌어올린 고성능 메모리 반도체다. 빅테크 기업들은 급격하게 늘어나는 데이터를 빠르게 처리하기 위해 기존 D램 대비 성능을 현격하게 높인 HBM을 채택하는 추세다.
특히 현재 AI 시장의 주요 제품인 엔비디아 H100에는 4개의 고대역폭메모리(HBM)가 사용되고 있는데, 내년 출시될 엔비디아 H200, B100 및 AMD의 MI300에는 각각 6개, 8개 HBM이 탑재된다. 김 연구원은 “내년 삼성전자, SK하이닉스의 HBM은 가격과 출하가 동시에 상승할 것으로 예상된다”고 설명했다.
임송수 기자 songsta@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
