국내 최대 ‘GPU 농장’…인류 미래 바꿀 AI 기술 자란다

국내 첫 AI 연구 특화 ‘NHN 국가 AI 데이터센터’ 가보니

광주 북구 오룡동에 자리 잡은 NHN 국가 AI 데이터센터. NHN클라우드 제공

엔비디아 GPU 1000개 이상 확보
1초 안에 8경8500조번 연산 처리
노트북 약 50만대 동시 계산 수준

현재 470여개 기업에 R&D 지원
국내 AI 산업 핵심 클라우드 목표

광주 북구에는 생성형 인공지능(AI)을 위한 ‘농장’이 있다. 이름은 ‘NHN 국가 AI 데이터센터’. 광주과학기술원(GIST)과 길 하나를 사이에 둔 AI 집적단지에 가장 먼저 자리 잡은 이곳은 국내 최초로 문을 연 AI 특화 데이터센터다.

지난 21일 방문한 AI 데이터센터는 연면적 3200㎡, 지상 2층의 상자형 건물이었다. 내부에는 오픈AI의 챗GPT를 신호탄으로 1년여 만에 전 산업을 뒤흔들어놓은 생성형 AI 연구를 뒷받침하는 국내 최대 ‘GPU 팜(Farm)’이 있다.

엔비디아의 H100을 비롯한 최신형 GPU로 구성된 전산실. NHN클라우드 제공

‘GPU 팜’은 생성형 AI 연산에 필수적인 그래픽처리장치(GPU) 여러 대를 하나의 시스템으로 연결해 대규모 데이터를 처리하는 컴퓨팅 시스템이다. GPT-3를 1장의 GPU로 훈련하면 335년이 걸린다는 조사 결과가 있을 만큼, AI 진화 속도에 맞춰 GPU 수요도 기하급수적으로 커지고 있다.

문제는 비용이다. 엔비디아의 고성능 GPU ‘H100’의 개당 가격이 4만달러(약 5300만원)에 달하는 것으로 알려져 있다. NHN 데이터센터는 품귀 현상을 빚고 있는 H100을 1000개 이상 확보했다.

김동훈 NHN클라우드 대표는 “모 통신사에서 H100을 (자사에) 팔라고 했을 정도로 국내에선 큰 규모”라면서도 “글로벌 기준으로는 부족하기 때문에 더 많은 투자가 필요하다”고 했다.

“입장하면서 덧신 착용 부탁드립니다.” 신원 확인 절차를 거쳐 건물에 들어섰다. 핵심인 전산실은 눈으로만 훑으면 서가가 놓인 도서관 같다. 정연하게 서 있는 유리 진열장 안에 책처럼 GPU가 가지런히 꽂혀 있다.

콘서트장의 대형 스피커 앞에 서 있는 것처럼 엄청난 소음이 귓가를 때린다. 전기 장비 특유의 냄새가 뿜어져 나오는 내부를 걷노라면, 장비가 내뿜는 열풍과 이를 식히려는 냉풍이 온몸을 휘감는다.

“GPU의 소음이랑 풍량이 크니까 귀마개를 착용하시는 게 좋을 겁니다.”

안내하는 직원의 목소리조차 잘 들리지 않았다.

이 시설에서 수행할 수 있는 연산처리 횟수는 88.5PF(페타플롭스), 1초에 8경8500조번 계산을 할 수 있다. 노트북 약 50만대가 있어야 처리할 수 있는 수준이다. 저장 용량은 107PF로, 1TB(테라바이트) 하드디스크 10만7000개 용량이라고 한다. 이런 능력으로도 한참을 학습해야 사람들이 사용하는 AI 서비스가 된다니, 첨단산업의 지경이 어디까지인지 새삼 놀라웠다.

건물·전기·공조·설비 전체를 새롭게 구성해야 했다. GPU 칩 크기는 x86 CPU보다 5배 정도 큰데, 소비전력 및 요구풍량은 30~50배 늘어난다고 한다.

각 랙의 공급 전력을 의미하는 전력 밀도도 기존 국내 데이터센터 평균이 4.8㎾인데 AI 데이터센터는 15㎾로 끌어올렸다. GPU에서 발생하는 어마어마한 열에 대응하기 위해 전산실 층고를 7.5m로 높이고, 외부의 자연 바람을 이용한 기기 냉각 시스템을 도입했다.

NHN클라우드는 현재 470개 이상의 AI 기업에 서비스를 제공하고 있다. AI 데이터센터를 통해 국산 AI 반도체, AI 서비스 기업을 위한 클라우드 환경 제공을 목표로 하고 있다.

김동훈 대표는 “(고객) 스타트업들이 비용을 아끼는 것은 물론 대규모 인프라를 바로 사용해 학습시간 단축도 가능할 것으로 본다”면서 “이번에 얻은 노하우를 통해 AI 인프라 시장을 선도하겠다”고 말했다.