Microsoft baru-baru ini merilis seri mesin virtual ND H100V5 terbaru, yang dilengkapi dengan GPU inti Tensor Tensor Core Cutting-Edge NVIDIA H100 dan Teknologi Jaringan NVIDIA Quantum-2 Infiniband. Dirancang untuk menangani tugas pembelajaran AI dan mesin yang paling kompleks, mesin virtual ini memberikan daya komputasi dan efisiensi yang belum pernah terjadi sebelumnya.
Inti dari seri ND H100V5 adalah GPU superkomputer AI-nya, masing-masing mesin virtual dilengkapi dengan delapan GPU inti Tensor NVIDIA H100, yang terhubung ke host melalui antarmuka PCIe Gen5, dan setiap GPU memiliki bandwidth hingga 64GB/s, sangat mengoptimalkan host-ke-gpu host-gpu.
Selain itu, seri ini juga menggunakan prosesor Intel Xeon Scalable generasi keempat, memastikan kecepatan pemrosesan maksimum dan daya komputasi. Dikombinasikan dengan memori DDR5, mesin virtual ND H100V5 berkinerja baik saat menangani dataset skala besar, memberikan bandwidth dan kapasitas memori yang sangat besar.
Dalam hal jaringan, penerapan teknologi NVIDIA Quantum-2 ConnectX-7 Infiniband memastikan latensi rendah dan throughput tinggi untuk transmisi data, yang sangat penting untuk aplikasi AI yang perlu memproses sejumlah besar data dengan cepat.
Dalam hal kinerja, mesin virtual ND H100V5 enam kali lebih cepat saat menggunakan tipe data floating-point 8-bit FP8 baru untuk multiplikasi matriks, lebih cepat dari generasi FP16 sebelumnya. Peningkatan ini sangat signifikan ketika berhadapan dengan model bahasa besar seperti model Bloom175b end-to-end, mencapai hingga dua kali peningkatan kecepatan dalam penalaran.
Inovasi oleh Microsoft ini tidak hanya menunjukkan kepemimpinannya di bidang komputasi awan dan teknologi AI, tetapi juga menyediakan perusahaan dan lembaga penelitian dengan alat yang kuat untuk mempromosikan pengembangan dan penerapan teknologi AI. Dengan kemajuan teknologi AI yang berkelanjutan, seri mesin virtual ND H100V5 tidak diragukan lagi akan menjadi landasan penting dari superkomputer AI di masa depan.