Nvidia kooperiert mit XAI, um den weltweit stärksten AI -Training Cluster Colossus offiziell zu starten, der aus 100.000 Nvidia Hopper -GPUs besteht und in Zukunft auf 200.000 expandieren soll. Colossus wird hauptsächlich verwendet, um groß angelegte Sprachmodelle von XAI zu trainieren, und bietet Chatbot-Dienste für Xpremium-Benutzer an. Die effiziente Konstruktionsgeschwindigkeit ist beeindruckend und in nur 122 Tagen abgeschlossen, was die Ergebnisse fortschrittlicher Technologie und effizienter Teamzusammenarbeit widerspiegelt. Die leistungsstarke Leistung von Colossus wird durch die NVIDIA-Spektrum-X-Ethernet-Netzwerkplattform unterstützt, die eine Bandbreite von bis zu 400 Gbit / s bietet, die Datenübertragungsraten erheblich verbessert und sich auf eine nachhaltige Entwicklung konzentriert und den Energieverbrauch in Datenzentren verringert.
Heute kündigte Nvidia an, dass der in Zusammenarbeit mit XAI erstellte Colossus -Supercomputer -Cluster offiziell gestartet wurde.
Der Grund, warum dieser Gigant diese Skala erreicht hat, ist die Unterstützung der NVIDIA-Spektrum-X-Ethernet-Netzwerkplattform. Diese Plattform wurde speziell für AI-Fabriken mit mehreren Tenanten, ultra-largen im Maßstab konzipiert und kann über Standard-Ethernet einen Remote-Direktspeicherzugriff erreichen, der eine hervorragende Leistung bietet.
Colossus wird hauptsächlich verwendet, um die GROK -Reihe von großsprachigen Modellen von XAI zu trainieren, und bietet Chatbot -Dienste für X Premium -Benutzer an. Noch aufregender ist, dass XAI plant, die Größe von Colossus zu verdoppeln, was bis dahin 200.000 Nvidia Hopper -GPUs erreichen wird.
Gilad Shainer, Senior Vice President von NVIDIA, sagte, die KI sei zu einer wichtigen Voraussetzung für alle Branchen geworden, sodass auch die Anforderungen an Leistung, Sicherheit, Skalierbarkeit und Kosteneffizienz zunehmen. Die Entstehung der Spectrum-X-Plattform bietet Innovatoren wie XAI eine schnellere Datenverarbeitung, Analyse- und Ausführungsfunktionen und beschleunigt dadurch die Entwicklung, Bereitstellung und Zeit für den Markt von AI-Lösungen.
Elon Musk lobte dies auch und nannte Colossus das mächtigste Trainingssystem der Welt und lobte die Bemühungen des XAI -Teams Nvidia und ihrer zahlreichen Partner. Es ist erwähnenswert, dass der Bauprozess von Colossus ziemlich effizient ist und nur 122 Tage dauert. Im Allgemeinen können Systeme mit ähnlicher Skala Monate oder sogar Jahre dauern. Der gesamte Prozess dauerte nur 19 Tage vom Einstieg des ersten Racks zum Beginn des Trainings.
Mit der Unterstützung dieses Supercomputers kann die Spectrum-X-Plattform eine Bandbreite von bis zu 400 Gbit / s bieten, wodurch die Datenübertragungsraten erheblich verbessert und die Latenz verringert werden. Diese Funktion ist für Unternehmen von entscheidender Bedeutung, die eine schnelle Datenverarbeitung und Echtzeitanalyse erfordern. Darüber hinaus ist Spectrum-X für die Unterstützung von AI-Anwendungen optimiert, wodurch Datenrouting und Management intelligenter gestaltet werden und damit die Gesamtsystemleistung verbessert werden.
Die Colossus -Architektur ist so konzipiert, dass sie effizient so skalieren, dass sie mit der massiven Datenmenge, die von modernen Anwendungen erzeugt werden, umzugehen. In der Zwischenzeit konzentriert sich Spectrum-X auch auf eine nachhaltige Entwicklung, die den Energieverbrauch in Rechenzentren verringert, gleichzeitig eine hohe Leistung aufrechterhalten und Unternehmen helfen, ihren CO2-Fußabdruck zu reduzieren.
Schlüsselpunkte:
Der Colossus -Supercomputer besteht aus 100.000 Nvidia Hopper -GPUs, schult große Sprachmodelle und plant, auf 200.000 GPUs zu expandieren.
Die Spectrum-X-Netzwerkplattform bietet eine Bandbreite von bis zu 400 Gbit / s und optimiert die Funktionen der Datenübertragung und in Echtzeit-Analysefunktionen.
Die Plattform konzentriert sich auf Nachhaltigkeit und zielt darauf ab, den Energieverbrauch in Rechenzentren zu verringern und gleichzeitig eine hohe Leistung aufrechtzuerhalten.
Der Start von Colossus markiert einen neuen Meilenstein in der AI -Computerleistung, und seine effizienten, skalierbaren und nachhaltigen Designkonzepte bieten neue Richtungen für die zukünftige KI -Entwicklung. Die Zusammenarbeit zwischen XAI und Nvidia hat ebenfalls starke Impulse in Innovationen auf dem Gebiet der KI eingebracht.