Microsoft a récemment publié sa dernière série Virtual Machine ND H100V5, qui est équipée d'une technologie de réseautage Infiniband Nvidia H100 Core GPU et NVIDIA Quantum-2 Infiniband. Conçus pour gérer les tâches d'IA et d'apprentissage automatique les plus complexes, ces machines virtuelles fournissent une puissance de calcul et une efficacité sans précédent.
Au cœur de la série ND H100V5 se trouve son GPU AI Supercomputing, chaque machine virtuelle est équipée de huit GPU de base tensor NVIDIA H100, qui sont connectés à l'hôte via l'interface PCIE GEN5, et chaque GPU a une bande passante de 64 Go / s, optimisant grandement l'efficacité de transmission des données de l'hôte-GPU.
De plus, la série utilise également le processeur évolutif Intel Xeon de quatrième génération, garantissant une vitesse de traitement et une puissance de calcul maximales. Combiné avec la mémoire DDR5, la machine virtuelle ND H100V5 fonctionne bien lors de la gestion des ensembles de données à grande échelle, offrant une bande passante et une capacité de mémoire énormes.
En termes de réseaux, l'application de la technologie infiniband NVIDIA Quantum-2 ConnectX-7 garantit une faible latence et un débit élevé pour la transmission des données, ce qui est crucial pour les applications d'IA qui doivent traiter rapidement de grandes quantités de données.
En termes de performances, la machine virtuelle ND H100V5 est six fois plus rapide lors de l'utilisation du nouveau type de données à virgule flottante FP8 8 bits pour la multiplication matricielle, plus rapidement que la génération précédente de FP16. Cette amélioration est particulièrement importante lors de la gestion de modèles de langage importants tels que le modèle de bout en bout Bloom175B, atteignant jusqu'à deux fois l'augmentation de la vitesse du raisonnement.
Cette innovation de Microsoft démontre non seulement son leadership dans les domaines du cloud computing et de la technologie de l'IA, mais fournit également aux entreprises et aux institutions de recherche avec des outils puissants pour promouvoir le développement et l'application de la technologie d'IA. Avec l'avancement continu de la technologie de l'IA, la série virtuelle ND H100V5 deviendra sans aucun doute une pierre angulaire importante du futur supercalculement d'IA.