인공지능(AI) 경쟁에 뛰어든 빅테크들이 직접 설계한 ‘AI 반도체’ 개발에 무게를 싣고 있다. 엔비디아의 AI 반도체를 계속 쓰면 비용이 감당 못할 정도로 커질 수 있다는 게 가장 큰 이유다. 또 AI 솔루션 전반의 경쟁력을 높이려면 반도체부터 소프트웨어까지 ‘맞춤형’으로 가지고 있어야 할 필요가 있다.
24일 업계에 따르면 메타는 최근 AI 인프라 구축에 필요한 자체 설계 반도체를 처음으로 공개했다. ‘MSVP’는 고화질 동영상 재생시 대기 시간 및 처리 시간을 줄여주는 역할을 한다. ‘MTIA’는 이미 훈련된 AI 모델이 예측하거나 행동을 취할 때 추론을 지원한다. 메타는 “일반 중앙처리장치(CPU)로도 동영상이나 추론 처리를 할 수 있지만, AI의 미래를 고려하면 성능과 효율성 측면에서 전용 반도체가 최고의 솔루션이다”라고 강조했다. 메타는 AI 시대에 대비해 AI에 최적화한 데이터센터를 설계했고, 1만6000개의 그래픽처리장치(GPU)를 탑재한 2단계 슈퍼컴퓨터를 구축했다고 설명했다.
오픈AI와 손잡고 ‘반격’을 꾀하는 마이크로소프트(MS)도 자체 반도체 개발에 나섰다. MS에서 코드명 ‘아테나’라는 이름으로 자체 반도체를 만들고 있다고 로이터통신 등이 보도했다. 특히, 반도체 제작을 AMD와 함께 하고 있는 것으로 알려져 관심이 쏠린다.
구글도 일찌감치 자체 반도체 개발에 뛰어들어 데이터센터용 반도체 텐서 프로세스 유닛(TPU)과 스마트폰용 텐서를 사용하고 있다. 구글은 지난달에 ‘TPU v4’로 구동하는 슈퍼컴퓨터의 성능이 엔비디아 반도체로 만든 것보다 빠르고 효율성이 뛰어나다고 주장하기도 했다.
아마존은 데이터센터용 반도체 그래비톤, AI 추론용 반도체 인퍼런시아 등을 자체 개발하며 경쟁에 뛰어들었다. 그래비톤은 클라우드 서비스인 아마존웹서비스(AWS)에, 인퍼런시아는 에코, 안면인식서비스 등 아마존의 다양한 기능에 활용 중이다. 테슬라도 2021년 자율주행 기능 고도화를 위해 AI 반도체 D1을 직접 개발했다고 발표했다.
현재 AI 반도체 시장은 엔비디아에서 90% 이상의 점유율로 독식 중이다. CPU 강자인 인텔, AMD가 아닌 그래픽카드 1위 업체인 엔비디아가 AI 반도체 시장을 장악한 것은 GPU가 AI의 연산 처리에 더 적합하기 때문이다. GPU는 여러 작업을 동시에 하는 병렬처리에 적합한데, AI의 딥러닝 등도 비슷한 방식이다.
생성형 AI 구동에 필요한 데이터센터 비용은 기하급수적으로 많아지고 있다. 더 높은 사양의 AI 반도체와 D램, 낸드플래시 등이 필요하고, 소모되는 전력도 더 많기 때문이다. 리서치회사 세미애널리틱스에 따르면 챗GPT의 하루 운용 비용은 70만 달러에 달한다. 엔비디아 A100은 대당 1만 달러, 최고 사양인 H100은 3만6000달러에 달한다. 이마저도 최근 수요가 폭등해서 웃돈을 주고 사야 하는 상황이다. 오픈AI의 GPT-4에는 A100 1만개가 사용됐다.
여기에다 엔비디아의 AI 반도체는 ‘범용 제품’이다. 불특정 다수가 주로 사용하는 기능이 실행되도록 만들어졌다. 때문에 AI를 개발하는 업체 입장에서 불필요한 기능을 줄이고, 자신이 원하는 기능만 특화한 맞춤형 제품을 갖는 게 훨씬 유리하다. 불필요한 구매 비용도 낮추고, 성능은 높이면서 전력 소모도 낮출 수 있어서다.
김준엽 기자 snoopy@kmib.co.kr