HPE는 5월23일 전체 AI수명주기를 지원하며 다양한 고객요구를 충족하는 ‘HPE기반 엔비디아 AI컴퓨팅(NVIDIA AI Computing by HPE)’솔루션 포트폴리오를 강화한다고 발표했다.

 

이번 업데이트는 엔비디아 AI엔터프라이즈(NVIDIA AI Enterprise)와 통합을 강화한다. 가속컴퓨팅을 통해 HPE 프라이빗 클라우드 AI(HPE Private Cloud AI)에 대한 지원을 확대했다. 또한 엔비디아 AI 데이터플랫폼(NVIDIA AI Data Platform)용 HPE 알레트라 스토리지 MP X10000(HPE Alletra Storage MP X10000)소프트웨어 개발키트 SDK를 새롭게 출시했다.

 

이와 함께 HPE는 엔비디아 RTX PRO™ 6000 블랙웰 서버 에디션(NVIDIA RTX PRO™ 6000 Blackwell Server Edition) GPU 및 엔비디아 엔터프라이즈 AI 팩토리(NVIDIA Enterprise AI Factory) 검증설계기반 컴퓨팅 및 소프트웨어 제품도 출시했다.

 

안토니오 네리 HPE CEO는 “엔비디아와 협업을 통해 고객에게 지속적인 혁신과 실질적인 성과를 제공하고 있다”라며 “HPE는 강력한 솔루션을 기반으로 공동개발한 첨단 AI기술을 통해 기업들이 AI도입 어느 단계에 있든 기업전반에서 그 잠재력을 효과적으로 실현할 수 있도록 지원하고 있으며 HPE는 오늘날 요구를 충족하는 동시에 AI중심 미래를 함께 만들어가고 있다"고 밝혔다.

 

젠슨 황 엔비디아 창립자 겸 CEO는 “기업들은 HPE시스템을 활용해 최첨단 엔비디아 AI 팩토리를 구축함으로써 생성형 및 에이전틱 AI시대에 최적화된 IT인프라를 준비할 수 있다”라며 “엔비디아와 HPE는 데이터센터부터 클라우드 엣지에 이르기까지 인텔리전스를 확장가능한 새로운 산업자원으로 활용할 수 있도록 기업을 위한 기반을 함께 만들어가고 있다”고 말했다.

 

HPE 프라이빗 클라우드 AI 피쳐브랜치 지원 추가

엔비디아와 공동개발한 턴키방식 클라우드기반 AI팩토리 ‘HPE 프라이빗 클라우드 AI’는 통합된 AI전략을 비즈니스 전반에 확산한다. 수익성 높은 워크로드를 지원하며 리스크를 대폭 줄일 수 있도록 지원하는 전용 개발자 솔루션을 포함한다. 또한 이는 엔비디아 AI 엔터프라이즈 피쳐브랜치(Feature Branch)모델 업데이트를 지원할 예정이다. 해당 업데이트는 △AI 프레임워크 △사전훈련모델을 위한 엔비디아 NIM 마이크로서비스(NVIDIA NIM microservices) △SDK를 포함한다.

 

피쳐브랜치 모델 지원을 통해 개발자는 AI 워크로드를 위한 소프트웨어기능과 최적화 사항을 테스트하고 검증할 수 있다. 가드레일이 내장된 프로덕션 브랜치모델에 대한 기존 지원과 더불어 HPE 프라이빗 클라우드 AI는 모든 규모 기업이 개발자시스템을 구축한다.

 

이를 프로덕션레디 에이전틱 및 생성형 AI애플리케이션으로 확장하는 한편 기업전반에 걸쳐 안전한 다계층 접근방식을 도입할 수 있도록 지원한다. 에이전틱 및 생성형 AI워크로드를 위한 풀스택솔루션인 HPE 프라이빗 클라우드 AI는 엔비디아 엔터프라이즈 AI 팩토리 검증설계를 지원한다.

 

엔비디아 AI 데이터플랫폼 지원 최신 스토리지 공개

HPE 알레트라 스토리지 MP X10000은 엔비디아 AI 데이터플랫폼 레퍼런스설계와 연동되는 SDK를 선보일 예정이다. HPE의 최신 데이터플랫폼과 엔비디아 맞춤형 레퍼런스설계를 연결함으로써 고객은 에이전틱 AI구현 위한 가속화된 성능과 인텔리전트 파이프라인 오케스트레이션을 활용할 수 있다. 이번 X10000 SDK는 HPE 데이터인텔리전스 전략 확대의 일환이다. 컨텍스트기반 AI레디 데이터를 엔비디아 AI생태계에 직접 통합할 수 있도록 지원한다. 이를 통해 기업은 엔비디아 가속인프라 전반에서 △수집 △추론 △훈련 △지속적인 학습을 위한 비정형 데이터파이프라인을 간소화할 수 있다.

 

SDK 통합은 데이터가치 극대화 효율성 향상 구축최적화 등 주요이점을 제공한다. 먼저 유연한 인라인 데이터프로세싱 벡터인덱싱 메타데이터강화 데이터관리 기능을 통해 데이터가치를 극대화한다. 다음으로 GPU메모리 시스템메모리 및 X10000 간 RDMA 즉 원격직접메모리접근(Remote Direct Memory Access) 전송을 통해 데이터경로를 가속화하고 AI데이터플랫폼 효율을 향상시킨다.

 

또한 X10000의 모듈식 컴포저블 빌딩블록으로 구축규모를 적절하게 조정한다. 고객이 워크로드 요구사항에 맞게 용량 및 성능을 독립적으로 확장가능하게 한다. 고객은 RDMA 전송을 통해 스토리지 및 인텔리전스계층을 유기적으로 통합한다. 원시 엔터프라이즈데이터를 기반으로 에이전틱 AI애플리케이션 및 툴을 보다 효율적으로 활용할 수 있다. HPE는 엔비디아와 협력해 엣지에서 코어 및 클라우드까지 전 영역에서 실시간 인텔리전트 데이터액세스가 가능한 새로운 시대를 열어가고 있다. 이번 통합에 대한 자세한 내용은 2025년 HPE 디스커버 라스베이거스 2025에서 공개될 예정이다.

 

엔비디아 RTX PRO 6000 블랙웰 지원

NVIDIA H100 NVL H200 NVL 및 L40S GPU를 탑재한 HPE 프로라이언트 컴퓨트 DL380a Gen12 서버는 최근 MLPerf Inference: Datacenter v5.0 벤치마크 10개 테스트에서 최고성능을 기록했다. 해당 테스트는 △GPT-J △Llama2-70B △ResNet50 △RetinaNet을 포함한다. 업계 최고수준에 해당하는 AI서버는 곧 최대 10개 엔비디아 RTX PRO 6000 블랙웰 서버 에디션 GPU를 탑재해 출시될 예정이다. 이를 통해 향상된 기능과 함께 △에이전틱 멀티모달 AI추론 △피지컬 AI △모델 미세조정뿐 아니라 △디자인 △그래픽 △비디오 애플리케이션을 포함한 엔터프라이즈 AI워크로드를 위한 탁월한 성능을 제공할 예정이다.

 

이 서버는 첨단냉각옵션을 제공한다. HPE 프로라이언트 컴퓨트 DL380a Gen12는 공랭식과 직접수냉방식 DLC로 제공된다. HPE 업계 최고수준 수냉 전문성을 기반으로 과중한 워크로드에서도 최적성능을 유지한다. 또한 HPE 프로라이언트 컴퓨트 Gen12 포트폴리오에 탑재된 HPE iLO(Integrated Lights Out) 7은 실리콘 RoT(Root of Trust)기반의 내장된 보호기능을 갖췄다. 또한 양자내성암호(Post-Quantum Cryptography)를 지원한다. 높은 수준 암호화 보안표준인 FIPS 140-3 레벨 3 인증 요구사항을 충족하는 최초서버를 구현한다.

 

HPE 컴퓨트 옵스 매니지먼트(HPE Compute Ops Management)는 사전알림 기능 및 예측적 AI기반 인사이트를 통해 에너지효율성 향상 및 전반적인 시스템상태 정보를 제공한다. 서버환경을 위한 안전하고 자동화된 수명주기관리를 지원한다.

 

MLPerf Inference v5.0 벤치마크에서 두 대 추가서버들이 최고성능을 기록했다. HPE AI팩토리의 뛰어난 역량을 입증하고 AI혁신분야에서 HPE 리더십을 제3자 통해 검증받았다. 또한 HPE 프로라이언트 컴퓨트 DL380a Gen12와 함께 이 시스템들은 50개 이상 시나리오에서 선두를 달리고 있다. HPE 프로라이언트 컴퓨트 DL384 Gen12는 듀얼소켓 NVIDIA GH200 NVL2를 탑재했다. Llama2-70B와 Mixtral-8x7B 포함한 4개 테스트에서 1위를 기록했다. HPE 크레이 XD670(HPE Cray XD670)은 8개 NVIDIA H200 SXM GPU를 장착했다. 대규모언어모델 LLM 및 컴퓨터비전 작업 등 총 30개 시나리오에서 최고 성능을 달성했다.

 

새로운 가속컴퓨팅 최적화로 AI인프라 발전

HPE 옵스램프 소프트웨어(HPE OpsRamp Software)는 AI워크로드 모니터링을 위한 솔루션이다. 차세대 엔비디아 RTX PRO 6000 블랙웰 서버 에디션 GPU까지 지원할 수 있도록 AI 인프라 최적화 솔루션으로 확장됐다. HPE 그린레이크 플랫폼(HPE GreenLake Platform) SaaS(Software-as-a-Service) 방식으로 구성되는 이 솔루션은 기업 내 IT팀이 하이브리드환경 전반에 분산된 AI인프라를 모니터링한다. 최적화를 통해 AI인프라 운영을 효율적으로 관리 지원한다.

 

HPE 옵스램프는 풀스택 AI 워크로드에서 △인프라 옵저버빌리티 △워크플로우 자동화 △AI기반 분석 △이벤트관리를 가능하게 한다. 엔비디아의 모든 인프라를 정밀하게 모니터링하며 △엔비디아 가속컴퓨팅 △NVIDIA BlueField △NVIDIA Quantum InfiniBand △Spectrum-X Ethernet 네트워킹 △NVIDIA Base Command Manager를 포함한다. 또한 솔루션통합을 통해 AI인프라성능과 복원력을 모니터링할 수 있는 세분화된 측정지표들을 제공한다.

 

HPE 옵스램프는 IT팀에게 GPU온도 사용률, 메모리사용량, 전력소비량, 클럭속도, 팬속도 등 모니터링기능을 제공한다. 이를 통해 AI인프라의 전반적인 운영상태와 성능지표를 파악할 수 있다. 클러스터 전반 GPU 및 CPU사용률을 추적해 작업스케줄링 및 리소스 최적화를 지원한다. 손상방지를 위한 클럭속도 조정과 GPU 전원차단 등 특정 이벤트에 대한 응답도 자동화한다. 과거성능 및 사용률데이터 분석을 통해 AIOps기반으로 미래 리소스 수요를 예측한다. 추가리소스 할당을 위한 운영최적화도 수행한다. 대규모 AI배포 시 전력소비량 및 리소스사용률을 모니터링하고 비용을 최적화하기 위한 다양한 지표 역시 제공한다.

 

HPE 프라이빗 클라우드 AI는 여름까지 엔비디아 AI 엔터프라이즈를 위한 피쳐브랜치 지원을 추가할 예정이다. HPE 알레트라 스토리지 MP X10000 SDK 및 엔비디아 가속컴퓨팅 인프라 대한 다이렉트메모리액세스 DMA는 2025년 여름부터 제공될 예정이며 엔비디아 RTX PRO 6000 서버 에디션을 탑재한 HPE 프로라이언트 컴퓨트 DL380a Gen12는 2025년 6월4일부터 주문 가능하다. HPE 옵스램프 소프트웨어는 엔비디아 RTX PRO 6000 서버 에디션 출시시점에 함께 제공될 예정이다.