Microsoft hat kürzlich seine neueste ND H100v5 Virtual Machine-Serie veröffentlicht, die mit der hochmodernen NVIDIA H100 Tensor Core GPU und NVIDIA Quantum-2 Infiniband Networking-Technologie ausgestattet ist. Diese virtuellen Maschinen wurden entwickelt, um die komplexesten KI- und maschinellen Lernaufgaben zu erledigen, und bieten beispiellose Rechenleistung und Effizienz.
Im Kern der ND H100V5-Serie steht die AI-Supercomputations-GPU. Jede virtuelle Maschine ist mit acht Nvidia H100 Tensor Core GPUs ausgestattet, die über die PCIe-Gen5-Schnittstelle mit dem Host verbunden sind, und jede GPU hat eine Bandbreite von bis zu 64GB/s, und die Datenübertragung der Datenübertragung der Datenübertragung von Host-to-GPU.
Darüber hinaus verwendet die Serie den skalierbaren Intel Xeon -Prozessor der vierten Generation, um die maximale Verarbeitungsgeschwindigkeit und die Rechenleistung zu gewährleisten. In Kombination mit dem DDR5-Speicher spielt die virtuelle ND H100V5-Maschine bei der Umstellung großer Datensätze eine gute Leistung und bietet eine enorme Speicherbandbreite und -kapazität.
In Bezug auf Netzwerke sorgt die Anwendung der NVIDIA Quantum-2 Connectx-7 Infiniband-Technologie für eine geringe Latenz und einen hohen Durchsatz für die Datenübertragung, was für AI-Anwendungen von entscheidender Bedeutung ist, die große Datenmengen schnell verarbeiten müssen.
In Bezug auf die Leistung ist die virtuelle ND H100v5-Maschine bei der Verwendung des neuen 8-Bit-FP8-Floating-Punkt-Datentyps für die Matrixmultiplikation schneller als die vorherige Generation von FP16. Diese Verbesserung ist besonders wichtig, wenn sie mit großartigen Modellen wie dem Bloom175b-End-to-End-Modell umgehen und bis zu einer doppelten Geschwindigkeitserhöhung des Argumentierens erreicht werden.
Diese Innovation von Microsoft zeigt nicht nur seine Führung in den Bereichen Cloud Computing und KI -Technologie, sondern bietet auch Unternehmen und Forschungsinstitutionen leistungsstarke Tools zur Förderung der Entwicklung und Anwendung der KI -Technologie. Mit der kontinuierlichen Weiterentwicklung der KI -Technologie wird die ND H100v5 Virtual Machine Series zweifellos zu einem wichtigen Eckpfeiler des zukünftigen KI -Supercomputings.