슈퍼마이크로컴퓨터가 최신 AMD 인스팅트(Instinct) MI350 시리즈 GPU를 기반 AI 솔루션을 공개했다.

새롭게 발표된 슈퍼마이크로 H14세대 GPU 최적화 솔루션은 수랭식과 공랭식 냉각옵션 모두 지원하며 탁월한 성능과 최대 확장성, 효율성을 제공하도록 설계됐다. 해당 서버는 AMD 인스팅트 MI350 시리즈 GPU와 듀얼 AMD EPYC 9005 시리즈 CPU를 함께 탑재해 대규모 환경에서도 높은 성능을 유지하면서 총소유비용(TCO) 절감을 추구하는 기업에 이상적이다.

찰스 리앙(Charles Liang) 슈퍼마이크로 CEO는 “슈퍼마이크로는 AI 및 HPC 애플리케이션을 위한 고성능 시스템분야를 설계하고 제공해 온 풍부한 경험을 바탕으로 업계를 지속적으로 선도하고 있다”라며 “슈퍼마이크로의 데이터센터(DC) 빌딩블록 솔루션(DCBBS)은 엔드투엔드 솔루션을 신속하게 시장에 제공할 수 있게 해주고 가장 까다로운 애플리케이션에도 최신기술을 적용할 수 있도록 지원한다”고 말했다.

이어 “슈퍼마이크로 GPU 서버라인업에 새로운 MI350 시리즈 GPU를 추가함으로써 AI 솔루션을 한층 강화하고 확장했다”라며 “이를 통해 고객은 차세대 DC를 설계하고 구축하는 데 더욱 폭넓은 선택지와 향상된 성능을 누릴 수 있게 됐다”고 덧붙였다.

슈퍼마이크로의 H14 세대 DC 솔루션은 AI, HPC, 클라우드, 엔터프라이즈 워크로드 전반에 걸쳐 탁월한 성능과 유연성을 제공한다. 슈퍼마이크로의 검증된 빌딩 블록 아키텍처를 기반으로 설계돼 엔터프라이즈 고객이 워크로드를 효율적으로 업그레이드하고 확장할 수 있도록 지원한다. 최신 AMD EPYC CPU와 AMD Instinct GPU를 모두 탑재한 신규서버는 AI 기능을 갖춘 강력한 서버제품군을 구성하며 슈퍼마이크로의 DCBBS을 통해 컨설팅부터 현장 구축, 사후지원까지 전 과정에 걸쳐 고객의 성공을 돕는다.

리사 수(Lisa Su) AMD 회장 겸 CEO는 “최신 AMD 인스팅트 MI350 시리즈는 OEM 인프라와의 호환을 위해 업계표준 폼팩터를 유지하면서도 경쟁제품 대비 달러당 토큰 처리량이 최대 40% 더 높은 성능을 제공한다”라며 “해당 GPU를 슈퍼마이크로의 검증된 플랫폼과 결합하면 고객은 AMD 기술기반의 완전 통합형 수랭식 또는 공랭식 랙을 구축할 수 있으며 이를 통해 어떤 규모에서도 유연하고 효율적으로 강력한 AI 솔루션을 구현할 수 있다”고 설명했다.

슈퍼마이크로는 검증된 수랭식 및 공랭식 고성능 패브릭 8GPU 시스템을 확장하고 있으며 업계표준 개방형 멀티 아키텍처인 OCP 가속기 모듈(OAM)을 활용해 최신 AMD 인스팅트 MI350 시리즈 GPU를 지원하고 있다. AMD 인스팅트 MI355X GPU를 탑재한 4U 수랭식 시스템은 슈퍼마이크로가 새롭게 향상시킨 직접 수랭식 냉각(DLC) 아키텍처를 채택해 고집적도 환경에 적합하다. 이 DLC 아키텍처는 다양한 서버 구성요소의 열을 효과적으로 제어하며 전력소비를 최대 40%까지 절감할 수 있다. 또한 이는 랙당 성능을 극대화하고 대규모 냉각인프라 환경을 지원하는 데 기여한다. 고객은 고집적도 랙 스케일 구축을 위한 4U 수랭식 옵션과 공랭식 환경에 적합한 8U 옵션 중 선택할 수 있다.

슈퍼마이크로의 이 가속화 GPU 서버는 보다 전력 효율적인 AI 추론을 지원하기 위해 컴퓨팅 처리량, 메모리 대역폭 활용도, 에너지효율성을 극대화하도록 설계됐다. AMD 인스팅트 MI350 시리즈를 탑재함으로써 GPU당 288GB의 HBM3e를 제공하며 이는 기존 AMD 인스팅트 가속기보다 메모리 용량이 1.5배 증가한 수치다. 또한 대역폭은 8TB/s, FP16/FP8 기준 페타플롭스 성능은 AMD 인스팅트 MI325X 대비 1.8배 향상됐다. 이를 통해 고객은 AI 워크로드에서 더 많은 데이터를 더 빠르게 처리할 수 있다.

폴 셸(Paul Schell) ABI 리서치(ABI Research) 산업분석가는 “AI 모델은 단순히 규모가 커지는 데 그치지 않는다”라며 “실제 환경에서도 안정적으로 구축 가능한 보다 빠르고 효율적인 인프라를 요구한다”고 강조했다.

이어 “슈퍼마이크로가 최신 H14세대 시스템에 AMD MI350 시리즈 GPU를 추가한 것은 AI 학습과 추론 모두에 최적화된 확장 가능한 고성능 메모리 솔루션을 제공하려는 강력한 의지를 보여주는 사례”라며 “수랭식과 공랭식을 모두 지원하는 이 시스템은 CSP, 네오 클라우드, 엔터프라이즈 환경에서 차세대 AI 성장을 견인할 유연성과 효율성을 제공한다”고 덧붙였다.

이번에 발표된 GPU 솔루션은 클라우드 서비스 공급업체와 엔터프라이즈 고객이 대규모 AI를 안정적으로 구동할 수 있도록 설계됐다. 4세대 AMD CDNA 아키텍처를 기반으로 구축된 AMD 인스팅트 MI350 시리즈는 AI 학습 및 추론부터 복잡한 과학 시뮬레이션까지 다양한 워크로드에 대해 뛰어난 성능과 에너지효율성을 제공하며 FP6 및 FP4와 같은 새로운 데이터 유형을 통해 대규모 AI 모델 처리에 필요한 강력한 기능을 지원한다.