Nvidia ร่วมมือกับ Xai เพื่อเปิดตัวกลุ่มการฝึกอบรม AI ที่แข็งแกร่งที่สุดในโลกอย่างเป็นทางการซึ่งประกอบด้วย GPU Nvidia Hopper 100,000 Nvidia และมีการวางแผนที่จะขยายไปถึง 200,000 ในอนาคต Colossus ส่วนใหญ่ใช้ในการฝึกอบรมรูปแบบภาษาขนาดใหญ่ของ XAI และให้บริการ Chatbot สำหรับผู้ใช้ XPremium ความเร็วในการก่อสร้างที่มีประสิทธิภาพนั้นน่าประทับใจและเสร็จสมบูรณ์ในเวลาเพียง 122 วันซึ่งสะท้อนให้เห็นถึงผลลัพธ์ของเทคโนโลยีขั้นสูงและการทำงานร่วมกันของทีมที่มีประสิทธิภาพ ประสิทธิภาพที่ทรงพลังของ Colossus ได้รับการสนับสนุนโดยแพลตฟอร์มเครือข่าย NVIDIA Spectrum-X Ethernet ซึ่งให้แบนด์วิดธ์สูงถึง 400Gbps ปรับปรุงอัตราการส่งข้อมูลอย่างมีนัยสำคัญและมุ่งเน้นไปที่การพัฒนาที่ยั่งยืนและลดการใช้พลังงานในศูนย์ข้อมูล
วันนี้ NVIDIA ประกาศว่ากลุ่ม SuperComputer Colossus ที่สร้างขึ้นโดยความร่วมมือกับ XAI ได้รับการเปิดตัวอย่างเป็นทางการ
เหตุผลที่ Behemoth นี้มาถึงระดับนี้เกิดจากการสนับสนุนของแพลตฟอร์มเครือข่าย Nvidia Spectrum-X Ethernet แพลตฟอร์มนี้ได้รับการออกแบบมาโดยเฉพาะสำหรับโรงงาน AI ที่มีขนาดใหญ่และมีขนาดใหญ่เป็นพิเศษและสามารถเข้าถึงการเข้าถึงหน่วยความจำโดยตรงจากระยะไกลผ่าน Ethernet มาตรฐานให้ประสิทธิภาพที่ยอดเยี่ยม
Colossus ส่วนใหญ่ใช้ในการฝึกอบรมซีรีส์ Grok ของรุ่นภาษาขนาดใหญ่ของ XAI และยังให้บริการ Chatbot สำหรับผู้ใช้ X Premium สิ่งที่น่าตื่นเต้นยิ่งกว่านั้นคือ Xai กำลังวางแผนที่จะเพิ่มขนาดของ Colossus เป็นสองเท่าซึ่งจะสูงถึง 200,000 Nvidia Hopper GPU ในตอนนั้น
Gilad Shainer รองประธานอาวุโสของ Nvidia กล่าวว่า AI ได้กลายเป็นข้อกำหนดที่สำคัญสำหรับทุกอุตสาหกรรมดังนั้นข้อกำหนดสำหรับประสิทธิภาพการรักษาความปลอดภัยความสามารถในการปรับขนาดและประสิทธิภาพของต้นทุนก็เพิ่มขึ้นเช่นกัน การเกิดขึ้นของแพลตฟอร์ม Spectrum-X ให้นวัตกรรมเช่น XAI ด้วยการประมวลผลข้อมูลที่เร็วขึ้นการวิเคราะห์และความสามารถในการดำเนินการซึ่งจะช่วยเร่งการพัฒนาการปรับใช้และเวลาในการตลาดโซลูชั่น AI
Elon Musk ยังยกย่องสิ่งนี้เรียก Colossus ว่าเป็นระบบการฝึกอบรมที่ทรงพลังที่สุดในโลกชื่นชมความพยายามของทีม Xai, Nvidia และหุ้นส่วนมากมายของพวกเขา เป็นมูลค่าการกล่าวขวัญว่ากระบวนการก่อสร้างของยักษ์ใหญ่มีประสิทธิภาพค่อนข้างมากและใช้เวลาเพียง 122 วันในการดำเนินการโดยทั่วไป กระบวนการทั้งหมดใช้เวลาเพียง 19 วันจากการเข้าสู่ชั้นวางแรกจนถึงจุดเริ่มต้นของการฝึกอบรม
ด้วยการสนับสนุนของซูเปอร์คอมพิวเตอร์นี้แพลตฟอร์ม Spectrum-X สามารถให้แบนด์วิดท์สูงถึง 400Gbps ปรับปรุงอัตราการถ่ายโอนข้อมูลอย่างมีนัยสำคัญและลดเวลาแฝง คุณลักษณะนี้มีความสำคัญสำหรับองค์กรที่ต้องใช้การประมวลผลข้อมูลที่รวดเร็วและการวิเคราะห์แบบเรียลไทม์ นอกจากนี้ Spectrum-X ยังได้รับการปรับให้เหมาะสมเพื่อรองรับแอปพลิเคชัน AI ทำให้การกำหนดเส้นทางข้อมูลและการจัดการอย่างชาญฉลาดซึ่งจะเป็นการปรับปรุงประสิทธิภาพของระบบโดยรวม
สถาปัตยกรรม Colossus ได้รับการออกแบบมาเพื่อปรับขนาดอย่างมีประสิทธิภาพเพื่อรับมือกับข้อมูลจำนวนมหาศาลที่สร้างขึ้นโดยแอปพลิเคชันที่ทันสมัย ในขณะเดียวกัน Spectrum-X ยังมุ่งเน้นไปที่การพัฒนาที่ยั่งยืนมุ่งมั่นที่จะลดการใช้พลังงานในศูนย์ข้อมูลในขณะที่รักษาประสิทธิภาพสูงและช่วยให้องค์กรลดการปล่อยก๊าซคาร์บอนไดออกไซด์
ประเด็นสำคัญ:
Colossus Supercomputer ประกอบด้วย 100,000 Nvidia Hopper GPUs คือการฝึกอบรมรูปแบบภาษาขนาดใหญ่และวางแผนที่จะขยายไปถึง 200,000 GPU
แพลตฟอร์มเครือข่าย Spectrum-X ให้แบนด์วิดท์สูงถึง 400Gbps เพิ่มประสิทธิภาพการส่งข้อมูลและความสามารถในการวิเคราะห์แบบเรียลไทม์
แพลตฟอร์มนี้มุ่งเน้นไปที่ความยั่งยืนและมีจุดมุ่งหมายเพื่อลดการใช้พลังงานในศูนย์ข้อมูลในขณะที่รักษาประสิทธิภาพสูง
การเปิดตัว Colossus ถือเป็นเหตุการณ์สำคัญใหม่ในพลังการคำนวณ AI และแนวคิดการออกแบบที่มีประสิทธิภาพปรับขนาดได้และยั่งยืนให้ทิศทางใหม่สำหรับการพัฒนา AI ในอนาคต การทำงานร่วมกันระหว่าง XAI และ NVIDIA ยังได้ฉีดแรงผลักดันที่แข็งแกร่งในนวัตกรรมในสาขาของ AI