구글의 최신 인공지능(AI) 모델 ‘제미나이 3’의 월등한 성능이 주목받으면서 구글의 AI 전용 칩 텐서처리장치(TPU)도 동반 급부상했다. TPU는 딥러닝 연산에 최적화된 구글의 AI 칩으로, 범용 작업이 가능한 그래픽처리장치(GPU)와는 차이가 있다. 엔비디아 GPU가 수요 급증으로 품귀 현상까지 빚어지는 상황에서 TPU가 AI 칩 생태계에서 엔비디아 독주를 흔들 대항마 역할을 할 수 있다는 전망이 나온다.
25일(현지시간) 월스트리트저널(WSJ) 등 외신에 따르면 페이스북·인스타그램 운영사 메타가 구글의 TPU를 구매해 AI 모델을 훈련하는 방안을 검토 중인 것으로 알려졌다. 앞서 AI 모델 ‘클로드’를 개발한 앤트로픽은 구글의 TPU 100만개를 탑재한 클라우드 이용 계약을 체결했다. 구글이 내부에서 자사 모델 학습용으로 쓰던 TPU를 광범위하게 판매하기 시작하면 AI 컴퓨팅 시장에서 엔비디아의 독점적 위치를 위협할 수 있다는 관측이 제기된다.
AI 칩 시장의 지각 변동을 예상하는 목소리들이 커지자 엔비디아는 진화에 나섰다. 엔비디아는 엑스(X·옛 트위터) 공식 계정을 통해 “우리는 업계보다 한 세대 앞서 있다. 모든 AI 모델을 구동하고 컴퓨팅이 이뤄지는 모든 곳에서 이를 수행하는 것은 우리 플랫폼뿐”이라며 “엔비디아 제품은 특정한 AI 구조나 기능을 위해 설계된 주문형 반도체(ASIC)보다 뛰어난 성능과 다용성과 호환성을 제공한다”고 밝혔다. 앞서 젠슨 황 엔비디아 최고경영자(CEO)는 TPU에 대해 “구글은 여전히 엔비디아 GPU 고객이며, 제미나이도 엔비디아 기술로 구동된다”고 언급했다.
대형언어모델(LLM)은 대부분 엔비디아의 GPU를 활용해 훈련을 진행한다. GPU는 당초 게임 등 그래픽 작업에 활용됐지만 AI 시대가 본격화하면서 고성능 컴퓨팅의 핵심 장치로 떠올랐다. GPU가 AI 컴퓨팅에 필수 요소가 되자 엔비디아 기업가치도 급성장했다. 최근 젠슨 황 CEO가 방한했을 때 귀빈 대접을 받으며 26만장의 GPU 공급을 공언하는 장면은 승승장구하는 GPU의 위상을 단적으로 보여준다. 엔비디아의 전 세계 AI 칩 점유율은 90%를 웃도는 상황이다.
엔비디아 의존이 심화하자 빅테크 기업들은 AI 칩 다변화를 꾀하고 있다. 컴퓨팅 작업에 특화된 주문형 반도체(ASIC)를 설계하기 시작한 것이다. 구글은 AI 학습과 추론이 가능한 TPU를, 아마존은 AI 학습 전용 칩 ‘트레이니엄’을, 마이크로소프트는 ‘애저 마이엄’을 각기 내놨다. 이중 TPU가 제미나이 3의 훈련과 추론에 활용되면서 엔비디아 GPU를 위협할 만한 존재로 떠올랐다.
김정회 한국반도체산업협회 부회장은 “TPU와 같은 특화 AI 칩이 부상하면 GPU와 경쟁 구도를 만들고 고공 행진하던 AI 칩 가격에도 조정이 있을 수 있다”며 “AI 모델 학습에 쓰이는 비용이 줄어들면 오히려 AI 기술이 더 빠르게 발전할 수 있는 기반이 될 수 있다”고 말했다.
심희정 기자 simcity@kmib.co.kr