A Microsoft lançou recentemente sua mais recente série de máquinas virtuais do ND H100V5, equipada com GPU NVIDIA H100 Tensor Core de ponta H100 e tecnologia de rede infinibra e NVIDIA Quantum-2. Projetados para lidar com as tarefas de AI e aprendizado de máquina mais complexas, essas máquinas virtuais fornecem poder e eficiência de computação sem precedentes.
No centro da série ND H100V5 está sua GPU de supercomputação de AI, cada máquina virtual está equipada com oito GPUs do NVIDIA H100 Tensor Core, que estão conectados ao host através da interface PCIE Gen5, e cada GPU tem uma eficiência de banda de até 64 GB/s, muito otimizando a transmissão dos dados da transmissão da transmissão da transmissão da transmissão.
Além disso, a série também usa o processador escalável Intel Xeon de quarta geração, garantindo a velocidade máxima de processamento e a potência de computação. Combinado com a memória DDR5, a máquina virtual ND H100V5 tem um bom desempenho ao lidar com conjuntos de dados em larga escala, fornecendo enorme largura de banda de memória e capacidade.
Em termos de redes, a aplicação da tecnologia NVIDIA Quantum-2 ConnectX-7 InfiniBand garante baixa latência e alta taxa de transferência para transmissão de dados, o que é crucial para aplicativos de IA que precisam processar grandes quantidades de dados rapidamente.
Em termos de desempenho, a máquina virtual ND H100V5 é seis vezes mais rápida ao usar o novo tipo de dados de ponto flutuante de 8 bits FP8 para multiplicação de matriz, mais rápido que a geração anterior de FP16. Essa melhoria é particularmente significativa ao lidar com grandes modelos de linguagem, como o modelo Bloom175b de ponta a ponta, atingindo até o dobro do aumento da velocidade no raciocínio.
Essa inovação da Microsoft não apenas demonstra sua liderança nas áreas de computação em nuvem e tecnologia de IA, mas também fornece a empresas e instituições de pesquisa poderosas ferramentas para promover o desenvolvimento e aplicação da tecnologia de IA. Com o avanço contínuo da tecnologia de IA, a série de máquinas virtuais do ND H100V5 se tornará, sem dúvida, uma importante pedra angular do futuro supercomputação da IA.