NVIDIA bekerja sama dengan XAI untuk secara resmi meluncurkan cluster pelatihan AI terkuat di dunia, Colossus, yang terdiri dari 100.000 NVIDIA HOPPER GPU dan direncanakan akan berkembang menjadi 200.000 di masa depan. Colossus terutama digunakan untuk melatih model bahasa skala besar XAI dan menyediakan layanan chatbot untuk pengguna Xpremium. Kecepatan konstruksinya yang efisien sangat mengesankan dan selesai hanya dalam 122 hari, mencerminkan hasil teknologi canggih dan kolaborasi tim yang efisien. Kinerja kuat Colossus didukung oleh platform jaringan Ethernet NVIDIA Spectrum-X, yang menyediakan bandwidth hingga 400Gbps, secara signifikan meningkatkan tingkat transmisi data, dan berfokus pada pengembangan berkelanjutan dan mengurangi konsumsi energi di pusat data.
Hari ini, Nvidia mengumumkan bahwa cluster superkomputer Colossus yang dibuat bekerja sama dengan XAI telah secara resmi diluncurkan.
Alasan mengapa raksasa ini telah mencapai skala ini adalah karena dukungan platform jaringan Ethernet NVIDIA Spectrum-X. Platform ini dirancang khusus untuk pabrik AI multi-penyewa, ultra-besar, dan dapat mencapai akses memori langsung jarak jauh melalui Ethernet standar, memberikan kinerja yang sangat baik.
Colossus terutama digunakan untuk melatih serangkaian grok model bahasa besar XAI, dan juga menyediakan layanan chatbot untuk pengguna X premium. Yang lebih menarik adalah bahwa XAI berencana untuk menggandakan ukuran Colossus, yang akan mencapai 200.000 NVIDIA HOPPER GPU saat itu.
Gilad Shainer, wakil presiden senior NVIDIA, mengatakan AI telah menjadi persyaratan utama untuk semua industri, sehingga persyaratan untuk kinerja, keamanan, skalabilitas, dan efisiensi biaya juga meningkat. Munculnya platform Spectrum-X memberikan inovator seperti XAI dengan pemrosesan data, analisis, dan kemampuan eksekusi yang lebih cepat, sehingga mempercepat pengembangan, penyebaran, dan waktu untuk memasarkan solusi AI.
Elon Musk juga memuji ini, menyebut Colossus sistem pelatihan paling kuat di dunia, memuji upaya tim XAI, Nvidia dan banyak mitra mereka. Perlu disebutkan bahwa proses konstruksi colossus cukup efisien dan hanya membutuhkan waktu 122 hari untuk diselesaikan. Seluruh proses hanya memakan waktu 19 hari dari masuknya rak pertama hingga awal pelatihan.
Dengan dukungan superkomputer ini, platform Spectrum-X dapat memberikan bandwidth hingga 400Gbps, secara signifikan meningkatkan laju transfer data dan mengurangi latensi. Fitur ini sangat penting untuk perusahaan yang membutuhkan pemrosesan data cepat dan analisis waktu-nyata. Selain itu, Spectrum-X juga dioptimalkan untuk mendukung aplikasi AI, membuat perutean data dan manajemen lebih pintar, sehingga meningkatkan kinerja sistem secara keseluruhan.
Arsitektur Colossus dirancang untuk skala secara efisien untuk mengatasi sejumlah besar data yang dihasilkan oleh aplikasi modern. Sementara itu, Spectrum-X juga berfokus pada pembangunan berkelanjutan, berusaha untuk mengurangi konsumsi energi di pusat data sambil mempertahankan kinerja tinggi dan membantu organisasi mengurangi jejak karbon mereka.
Poin -Poin Kunci:
Superkomputer Colossus terdiri dari 100.000 NVIDIA HOPPER GPU, sedang melatih model bahasa besar dan rencana untuk memperluas 200.000 GPU.
Platform jaringan Spectrum-X menyediakan bandwidth hingga 400Gbps, mengoptimalkan transmisi data dan kemampuan analisis waktu-nyata.
Platform ini berfokus pada keberlanjutan dan bertujuan untuk mengurangi konsumsi energi di pusat data sambil mempertahankan kinerja tinggi.
Peluncuran Colossus menandai tonggak baru dalam kekuatan komputasi AI, dan konsep desainnya yang efisien, terukur, dan berkelanjutan memberikan arah baru untuk pengembangan AI di masa depan. Kolaborasi antara XAI dan NVIDIA juga telah menyuntikkan dorongan kuat ke dalam inovasi di bidang AI.