지난 21일 광주광역시 북구에 위치한 NHN클라우드의 국가 인공지능(AI) 데이터센터. 그래픽처리장치(GPU)가 있는 핵심 시설인 ‘전산실2’에 들어서자 자연스럽게 귀마개부터 찾게 됐다. GPU 장비에서 나오는 열기를 식히기 위해 팬이 빠르게 돌아가면서 요란한 굉음을 내고 있었다.
전산실 내부엔 현존 최고 사양의 상용 GPU라는 엔비디아의 최신 AI 가속기 H100 랙(장비 보관 틀)과 전작인 A100 랙이 빼곡히 늘어서 있었다. GPU 서버 장비 뒤쪽 공간을 지날 때는 뜨거운 바람이 얼굴을 강하게 때렸다. 불과 10초도 안되는 시간이었지만 한여름 낮에나 보일 법한 표정을 짓게 됐다.
이는 초고사양 컴퓨팅 자원이 집적된 영향이다. GPU 성능이 좋으면 전력 사용량과 발열량이 높을 수밖에 없다. 국가 AI 데이터센터는 엔비디아 H100를 약 1000개를 사용하고 있다. 국내 최대 규모다.
이 센터는 과학기술정보통신부와 광주시가 추진하는 ‘AI 중심 산업융합 집적단지 조성 사업’에 따라 기업, 연구기관, 대학 등에 AI 연구개발을 지원하고 있다. AI 데이터센터는 컴퓨팅 연산 능력 88.5페타플롭스(PF), 저장 용량 107페타바이트(PB) 규모의 인프라를 갖췄다. 일반 노트북 50만대의 연산처리량을 1초 만에 수행할 수 있는 수준이다. 저장 용량은 1테라바이트(TB) 하드디스크 10만7000개의 저장 용량과 같다. 지난해 10월 개소 후 11월부터 정식 운영을 시작해 현재 470여 곳의 기업·기관이 데이터센터를 이용하고 있다.
초고사양 장비에 걸맞는 설비 투자도 이뤄졌다. 전산실2의 경우 15kW 랙으로 구성해 GPU 서버가 안정적으로 작동할 수 있도록 했다. 이는 국내 데이터센터의 랙당 평균 전력밀도 4.8kW보다 3배가량 높다. H100은 이미 서버당 전력밀도가 10kW까지 나오는 상황이다. 윤용수 NHN클라우드 기술리더는 “최근 연 데이터센터도 10kW 정도를 제공한다”며 “우리는 이에 앞서 GPU 서버를 위해 고밀도의 전력을 제공할 수 있도록 설계했다”고 설명했다.
NHN클라우드는 국내 최고의 수준의 인프라를 갖춘 AI 데이터센터를 거점으로 AI 인프라 시장을 공략할 계획이다. 김동훈 NHN클라우드 대표는 이날 광주 서구 김대중컨벤션센터에서 ‘NHN클라우드 2.0 전략 발표회’를 개최했다. 김 대표는 “NHN클라우드의 기술적 강점은 AI에 특화된 데이터센터 설계 역량과 GPU의 성능을 100% 활용하는 최적화”라고 말했다.
광주=임송수 기자 songsta@kmib.co.kr