Microsoft เพิ่งเปิดตัวซีรีย์เครื่องเสมือน ND H100V5 ล่าสุดซึ่งติดตั้ง Nvidia H100 Tensor Core GPU และ Nvidia Quantum-2 Infiniband Networking Technology ออกแบบมาเพื่อจัดการงาน AI ที่ซับซ้อนที่สุดและงานการเรียนรู้ของเครื่องจักรเครื่องเสมือนเหล่านี้ให้กำลังและประสิทธิภาพการคำนวณที่ไม่เคยเกิดขึ้นมาก่อน
ที่แกนกลางของซีรี่ส์ ND H100V5 คือ GPU Supercomputing AI เครื่องเสมือนจริงแต่ละเครื่องจะติดตั้ง Nvidia H100 Tensor Core GPU แปดตัวซึ่งเชื่อมต่อกับโฮสต์ผ่านอินเตอร์เฟส PCIe Gen5 และ GPU แต่ละตัวมีแบนด์วิดท์สูงถึง 64GB/s
นอกจากนี้ซีรีส์ยังใช้โปรเซสเซอร์ที่ปรับขนาดได้ในยุคที่สี่ของ Intel Xeon เพื่อให้มั่นใจว่าความเร็วในการประมวลผลสูงสุดและกำลังการคำนวณ เมื่อรวมกับหน่วยความจำ DDR5 เครื่องเสมือน ND H100V5 ทำงานได้ดีเมื่อจัดการชุดข้อมูลขนาดใหญ่ให้แบนด์วิดท์และความจุหน่วยความจำขนาดใหญ่
ในแง่ของเครือข่ายการประยุกต์ใช้เทคโนโลยี NVIDIA Quantum-2 ConnectX-7 InfiniBand ทำให้มั่นใจได้ว่าเวลาแฝงต่ำและปริมาณงานสูงสำหรับการส่งข้อมูลซึ่งเป็นสิ่งสำคัญสำหรับแอปพลิเคชัน AI ที่จำเป็นต้องประมวลผลข้อมูลจำนวนมากอย่างรวดเร็ว
ในแง่ของประสิทธิภาพเครื่องเสมือน ND H100V5 นั้นเร็วขึ้นหกเท่าเมื่อใช้ประเภทข้อมูลจุดลอยตัว 8 บิต FP8 ใหม่สำหรับการคูณเมทริกซ์เร็วกว่ารุ่นก่อนหน้าของ FP16 การปรับปรุงนี้มีความสำคัญอย่างยิ่งเมื่อจัดการกับแบบจำลองภาษาขนาดใหญ่เช่นโมเดล end-to-end ของ Bloom175b ซึ่งทำให้การใช้เหตุผลเพิ่มขึ้นเป็นสองเท่า
นวัตกรรมนี้โดย Microsoft ไม่เพียง แต่แสดงให้เห็นถึงความเป็นผู้นำในด้านของคลาวด์คอมพิวติ้งและเทคโนโลยี AI เท่านั้น แต่ยังให้องค์กรและสถาบันการวิจัยด้วยเครื่องมือที่มีประสิทธิภาพเพื่อส่งเสริมการพัฒนาและการประยุกต์ใช้เทคโนโลยี AI ด้วยความก้าวหน้าอย่างต่อเนื่องของเทคโนโลยี AI ซีรีย์เสมือนจริงของ ND H100V5 จะกลายเป็นรากฐานสำคัญที่สำคัญของ Supercomputing AI ในอนาคต