AI 데이터센터 냉각기술이 저온의 공기와 냉수를 공급하는 방식에서 서버의 열을 고온의 액체로 직접 회수하는 방식으로 전환되고 있다. 특히 고밀도 AI서버의 발열량이 급증하면서 액체냉각은 선택형 고효율설비를 넘어 AI인프라 구축을 위한 필수조건으로 자리 잡는 분위기다.

 

냉각수 공급온도를 높여 칠러와 냉각탑 의존도를 낮추고 데이터센터 전력과 용수사용량을 줄이려는 시도도 본격화되고 있다. 이러한 가운데 엔비디아의 차세대 AI플랫폼 ‘베라 루빈(Vera Rubin)’이 생산·출하단계에 진입하면서 AI 데이터센터의 ‘45℃ 온수냉각’ 전환이 더욱 빨라질 전망이다.

 

엔비디아는 7월21일(현지시각) 베라 루빈 NVL72 생산을 확대하고 있으며 코어위브(CoreWeave), 구글클라우드, 마이크로소프트 애저, 오라클클라우드인프라스트럭처(OCI) 등 주요 클라우드사업자에서 실제 시스템 가동이 시작됐다고 밝혔다.

 

베라 루빈 NVL72는 CDU(Coolant Distribution Unit)에서 서버 랙으로 최대 45℃의 냉각수를 공급하는 직접액체냉각(DLC) 시스템을 적용한다. GPU와 CPU뿐만 아니라 네트워크와 주요 전력계통 구성요소까지 액체로 냉각하는 100% 리퀴드쿨링 구조가 특징이다.

 

엔비디아는 앞서 블랙웰 기반 GB200·GB300 NVL72에도 45℃ 냉각수 공급조건을 적용했다. 베라 루빈은 이를 전체 AI시스템으로 확대하고 글로벌 클라우드사업자와 서버제조사를 통해 대규모 양산·배치한다는 점에서 고온수 액체냉각시장 확대의 분기점으로 평가된다. 이에 따라 베라 루빈 출하는 45℃ 액체냉각기술의 첫 등장이 아니라 고온수 기반 열관리기술이 글로벌 AI인프라의 표준설계로 확산되는 계기가 될 것으로 보인다.

 

 

로드맵 넘어 실제 배치단계 진입

엔비디아는 2025년 10월 OCP 글로벌서밋을 계기로 베라 루빈 NVL72의 45℃ 액체냉각 랙 설계를 공개했다. 이어 올해 1월 베라 루빈 플랫폼을 공식 발표했으며 5월31일에는 전 세계 공급망이 본격적인 양산단계에 들어갔다고 밝혔다.

 

엔비디아에 따르면 델테크놀로지스, HPE, 레노버, 슈퍼마이크로를 비롯한 글로벌 시스템제조사들이 베라 루빈 시스템을 생산하고 있다. 관련 공급망은 30개국 350여개 제조거점에 걸쳐 있으며 이중 대만에서만 약 150개 협력사가 참여한다. 7월21일 발표는 이러한 양산체계가 실제 AI클라우드 배치로 이어지고 있음을 보여준다.

 

코어위브는 실물 베라 루빈 NVL72 시스템에서 딥시크-R1 벤치마크를 수행했으며 엔비디아 그레이스 블랙웰 NVL72대비 MW당 토큰처리량이 10배 증가했다. 구글클라우드에서는 베라 루빈 NVL72 기반 A5X 인스턴스가 영국 AI기업 이네퍼블 인텔리전스(Ineffable Intelligence)를 위해 가동되고 있다. 다만 이 수치는 냉각만의 효과가 아니라 GPU·CPU·메모리·인터커넥트·네트워크와 냉각을 통합한 플랫폼 전체의 성능개선 결과다.

 

 

45℃ 공급·약 55℃ 환수

베라 루빈 NVL72는 45℃ 냉각수를 랙에 공급하는 단상 직접액체냉각방식을 적용한다. 여기서 45℃는 서버실 실내온도나 반도체 소자온도가 아니라 CDU(Coolant Distribution Unit)에서 서버랙으로 공급되는 냉각유체 온도를 뜻한다.

 

냉각유체는 프로세서 표면에 밀착된 콜드플레이트를 통과하며 열을 흡수한 뒤 약 55℃로 회수된다. 냉각수가 상대적으로 높은 온도로 공급되더라도 콜드플레이트가 반도체 접합부온도를 허용범위 안에서 유지하기 때문에 연산성능을 저하시키지 않는다는 것이 엔비디아의 설명이다.

 

엔비디아가 제시한 대표적인 기술냉각시스템(TCS) 유체는 물 75%와 프로필렌글리콜 25%를 혼합한 PG25다. 실제 시설에서는 동파조건과 부식관리, 재질적합성, 펌프동력 등을 고려해 글리콜농도와 시설측 냉각유체 구성이 달라질 수 있다.

 

기존 DLC서버는 GPU와 CPU 등 고발열부품만 액체로 냉각하고 메모리, 전원장치, 네트워크장비 등은 팬으로 냉각하는 하이브리드구조가 일반적이었다.

 

반면 엔비디아는 베라 루빈 세대가 GPU·CPU와 네트워크 구성요소까지 액체로 냉각하는 폐쇄루프구조를 채택했다. 컴퓨트 트레이 내부의 케이블과 팬, 호스를 제거해 조립과 유지보수도 단순화했다. 엔비디아는 이를 세계 최초의 100% 액체냉각 AI인프라로 소개하고 있다.

 

다만 ‘팬리스’는 기본적으로 서버와 IT랙 내부를 의미한다. 외기와 열을 교환하는 드라이쿨러에는 송풍팬이 필요하기 때문에 전체 냉각설비의 팬동력까지 사라지는 것은 아니다.

 

드라이쿨러 활용… 무칠러 가능지역 확대

냉각수 공급온도를 45℃로 높이면 외기와 냉각유체간 온도차를 크게 확보할 수 있다. 이에 따라 외기조건이 적합한 지역에서는 냉동기를 거치지 않고 드라이쿨러와 펌프, 열교환기만으로 서버에서 발생한 열을 외부에 방출할 수 있다.

 

기존 저온냉수방식은 여름철뿐만 아니라 중간기에도 냉동기 운전이 필요한 경우가 많다. 반면 45℃ 공급조건에서는 외기만으로 열을 방출할 수 있는 프리쿨링 운전시간이 늘어나며 냉동기 압축기동력과 냉각수 사용량을 줄일 수 있다.

 

알리 헤이다리 엔비디아 DC 냉각·인프라 담당 디렉터는 “DSX AI팩토리 레퍼런스디자인에 드라이쿨러 기반 폐쇄루프를 적용하면 증발식 냉각수를 사용하지 않을 수 있으며 일부 기후에서도 연간 약 1%의 시간만 보조냉동기가 필요할 수 있다”고 밝혔다.

 

엔비디아는 기후조건이 유리한 지역에서 기존 냉각탑시스템의 연간 MW당 약 260만갤런에 이르는 냉각용수를 거의 ‘0’까지 줄일 수 있다고 밝히고 있다. 또한 50MW급 하이퍼스케일 DC가 액체냉각으로 전환하면 냉각관련 에너지·용수비용을 연간 400만달러 이상 절감할 수 있다고 제시했다.

 

그러나 ‘무칠러·무수사용’은 모든 지역에서 동일하게 달성되는 절대적인 성능이 아니다. 드라이쿨러의 열방출능력은 외기 건구온도와 설계 접근온도에 영향을 받으며 냉각루프의 초기 충수와 유지관리용 보충수도 필요하다.

 

또한 용수사용량 ‘제로’는 증발식 냉각탑을 사용하지 않는다는 의미에 가깝다. 사무공간과 위생설비 등 DC 전체의 물사용량까지 ‘0’이 된다는 뜻은 아니다. 엔비디아 역시 무칠러운전에는 적합한 지역과 시스템설계가 필요하며 고온지역에서는 일부 시간대에 보조냉동기가 필요하다고 설명한다.

 

 

55℃ 회수열, 폐열사업성 높여

냉각수 환수온도가 약 55℃까지 높아지는 것도 베라 루빈 열관리 아키텍처의 주요 특징이다. 기존 공랭식 DC에서 배출되는 저온열은 직접 활용가치가 낮지만 55℃ 수준의 회수열은 건물 난방과 급탕예열, 저온 산업공정 등에 활용할 수 있다. 더 높은 공급온도가 필요하면 회수열을 열원으로 사용하는 히트펌프를 결합할 수 있다.

 

다만 폐열회수의 경제성은 DC 인근에 연중 안정적인 열수요처가 있는지, 열수요처까지의 배관거리는 어느 정도인지, 여름철 잉여열을 어떻게 처리할지 등에 따라 좌우된다. 향후 AI DC는 입지선정단계부터 지역난방망, 산업단지, 주거단지 등과의 연계성을 검토해야 할 것으로 보인다.