Microsoft는 최근 최신 ND H100V5 가상 머신 시리즈를 출시했으며, 여기에는 최첨단 NVIDIA H100 텐서 코어 GPU 및 NVIDIA Quantum-2 Infiniband 네트워킹 기술이 장착되어 있습니다. 가장 복잡한 AI 및 기계 학습 작업을 처리하도록 설계된이 가상 머신은 전례없는 컴퓨팅 성능 및 효율성을 제공합니다.
ND H100V5 시리즈의 핵심에는 AI 슈퍼 컴퓨팅 GPU가 있으며, 각 가상 머신은 8 개의 NVIDIA H100 텐서 코어 GPU가 장착되어 있으며, 여기에는 PCIE GEN5 인터페이스를 통해 호스트에 연결된 8 개의 NVIDIA H100 텐서 코어 GPU가 장착되어 있으며 각 GPU는 최대 64GB/S의 대역폭을 갖습니다.
또한이 시리즈는 4 세대 Intel Xeon 확장 가능한 프로세서를 사용하여 최대의 처리 속도 및 컴퓨팅 전력을 보장합니다. DDR5 메모리와 결합하여 ND H100V5 가상 머신은 대규모 데이터 세트를 처리 할 때 잘 작동하여 거대한 메모리 대역폭 및 용량을 제공합니다.
네트워크 측면에서, NVIDIA Quantum-2 ConnectX-7 인피니본 기술의 적용은 데이터 전송에 대한 낮은 대기 시간과 높은 처리량을 보장하며, 이는 많은 양의 데이터를 신속하게 처리 해야하는 AI 애플리케이션에 중요합니다.
성능 측면에서, ND H100V5 가상 머신은 매트릭스 곱셈을 위해 새로운 8 비트 FP8 플로팅 포인트 데이터 유형을 사용할 때 이전 세대의 FP16보다 빠르게 6 배 빠릅니다. 이 개선은 Bloom175B 엔드 투 엔드 모델과 같은 대형 언어 모델을 다룰 때 특히 중요합니다.
Microsoft의 이러한 혁신은 클라우드 컴퓨팅 및 AI 기술 분야에서 리더십을 보여줄뿐만 아니라 기업 및 연구 기관에 AI 기술의 개발 및 적용을 촉진하는 강력한 도구를 제공합니다. AI 기술의 지속적인 발전으로 ND H100V5 가상 머신 시리즈는 의심 할 여지없이 미래 AI SuperComputing의 중요한 초석이 될 것입니다.