Microsoft lanzó recientemente su última serie de máquinas virtuales ND H100V5, que está equipada con GPU Core Tensor Tensor de vanguardia y tecnología NVIDIA Quantum-2 Infiniband Networking. Diseñadas para manejar las tareas más complejas de AI y aprendizaje automático, estas máquinas virtuales proporcionan potencia informática y eficiencia sin precedentes.
En el núcleo de la serie ND H100V5 está su GPU de supercomputación de IA, cada máquina virtual está equipada con ocho GPU NVIDIA H100 Tensor Core, que están conectadas al host a través de la interfaz PCIe Gen5, y cada GPU tiene un ancho de banda de hasta 64 GB/s, optimizando en gran medida la eficiencia de la transmisión de datos del host a GPU.
Además, la serie también utiliza el procesador escalable Intel Xeon de cuarta generación, asegurando la máxima velocidad de procesamiento y potencia informática. Combinado con la memoria DDR5, la máquina virtual ND H100V5 funciona bien al manejar conjuntos de datos a gran escala, proporcionando un gran ancho de banda de memoria y capacidad.
En términos de redes, la aplicación de la tecnología Nvidia Quantum-2 ConnectX-7 Infiniband garantiza una baja latencia y un alto rendimiento para la transmisión de datos, lo cual es crucial para aplicaciones de IA que necesitan procesar grandes cantidades de datos rápidamente.
En términos de rendimiento, la máquina virtual ND H100V5 es seis veces más rápida cuando se usa el nuevo tipo de datos de punto flotante FP8 de 8 bits para la multiplicación de matriz, más rápido que la generación anterior de FP16. Esta mejora es particularmente significativa cuando se trata de modelos de idiomas grandes como el modelo Bloom175B de extremo a extremo, logrando hasta el doble del aumento de la velocidad en el razonamiento.
Esta innovación de Microsoft no solo demuestra su liderazgo en los campos de la computación en la nube y la tecnología de IA, sino que también proporciona a las empresas e instituciones de investigación herramientas poderosas para promover el desarrollo y la aplicación de la tecnología de IA. Con el avance continuo de la tecnología AI, la serie de máquinas virtuales ND H100V5 sin duda se convertirá en una importante piedra angular de la futura supercomputación de IA.