Nvidia coopère avec XAI pour lancer officiellement le cluster de formation IA le plus fort du monde Colossus, qui se compose de 100 000 GPU Nvidia Hopper et devrait s'étendre à 200 000 à l'avenir. Colossus est principalement utilisé pour former des modèles linguistiques à grande échelle de XAI et fournit des services Chatbot pour les utilisateurs de Xpremium. Sa vitesse de construction efficace est impressionnante et achevée en seulement 122 jours, reflétant les résultats de la technologie de pointe et de la collaboration efficace d'équipe. Les performances puissantes de Colossus sont soutenues par la plate-forme de réseautage Ethernet NVIDIA Spectrum-X, qui fournit une bande passante jusqu'à 400 Gbit / s, améliore considérablement les taux de transmission des données et se concentre sur le développement durable et réduit la consommation d'énergie dans les centres de données.
Aujourd'hui, Nvidia a annoncé que le cluster Colossus Supercomputer créé en collaboration avec XAI a été officiellement lancé.
La raison pour laquelle ce géant a atteint cette échelle est due au support de la plate-forme réseau Ethernet NVIDIA Spectrum-X. Cette plate-forme est conçue spécifiquement pour les usines d'IA multi-locataires multi-locataires, et peut obtenir un accès à la mémoire directe à distance via Ethernet standard, offrant d'excellentes performances.
Colossus est principalement utilisé pour former la série Grok de modèles de grande langue de XAI, et fournit également des services de chatbot pour les utilisateurs de X Premium. Ce qui est encore plus excitant, c'est que Xai prévoit de doubler la taille de Colossus, qui atteindra 200 000 GPU Nvidia Hopper d'ici là.
Gilad Shainer, vice-président directeur de NVIDIA, a déclaré que l'IA est devenue une exigence clé pour toutes les industries, de sorte que les exigences de performance, de sécurité, d'évolutivité et de rentabilité augmentent également. L'émergence de la plate-forme Spectrum-X offre aux innovateurs comme XAI des capacités de traitement, d'analyse et d'exécution plus rapides, accélérant ainsi le développement, le déploiement et le temps de commercialisation des solutions d'IA.
Elon Musk a également salué cela, appelant Colossus le système de formation le plus puissant au monde, louant les efforts de l'équipe XAI, NVIDIA et de leurs nombreux partenaires. Il convient de mentionner que le processus de construction de Colossus est assez efficace et ne prend que 122 jours. L'ensemble du processus n'a pris que 19 jours à partir de l'entrée du premier rack au début de la formation.
Avec le support de ce supercalculateur, la plate-forme Spectrum-X peut fournir une bande passante jusqu'à 400 Gbit / s, améliorer considérablement les taux de transfert de données et réduire la latence. Cette fonctionnalité est cruciale pour les entreprises qui nécessitent un traitement rapide des données et une analyse en temps réel. De plus, Spectrum-X est également optimisé pour prendre en charge les applications d'IA, rendant le routage des données et la gestion plus intelligente, améliorant ainsi les performances globales du système.
L'architecture Colossus est conçue pour évoluer efficacement pour faire face à la quantité massive de données générées par les applications modernes. Pendant ce temps, Spectrum-X se concentre également sur le développement durable, s'efforçant de réduire la consommation d'énergie dans les centres de données tout en maintenant des performances élevées et aidez les organisations à réduire leur empreinte carbone.
Points clés:
Le supercalculateur Colossus se compose de 100 000 GPU Nvidia Hopper, forment des modèles de grandes langues et prévoit d'étendre à 200 000 GPU.
La plate-forme réseau Spectrum-X fournit une bande passante jusqu'à 400 Gb
La plate-forme se concentre sur la durabilité et vise à réduire la consommation d'énergie dans les centres de données tout en conservant des performances élevées.
Le lancement de Colossus marque une nouvelle étape dans la puissance de l'informatique de l'IA, et ses concepts de conception efficaces, évolutifs et durables fournissent de nouvelles directions pour le développement futur de l'IA. La collaboration entre XAI et NVIDIA a également injecté un fort élan dans l'innovation dans le domaine de l'IA.