NvidiaはXaiと協力して、100,000のNvidia Hopper GPUで構成される世界最強のAIトレーニングクラスターColossusを正式に発売し、将来200,000に拡大する予定です。 Colossusは、主にXaiの大規模な言語モデルをトレーニングするために使用され、Xpremiumユーザーにチャットボットサービスを提供しています。その効率的な建設速度は印象的であり、わずか122日で完了し、高度な技術と効率的なチームコラボレーションの結果を反映しています。 Colossusの強力なパフォーマンスは、最大400Gbpsまでの帯域幅を提供し、データ送信レートを大幅に改善し、持続可能な開発に焦点を当て、データセンターのエネルギー消費を削減するNVIDIA Spectrum-X Ethernet Networkingプラットフォームによってサポートされています。
本日、Nvidiaは、Xaiと共同で作成されたColossus Supercomputerクラスターが正式に発売されたことを発表しました。
この巨人がこのスケールに到達した理由は、NVIDIA Spectrum-X Ethernet Networkプラットフォームのサポートによるものです。このプラットフォームは、マルチテナントの超大型スケールAI工場向けに特別に設計されており、標準のイーサネットを介してリモートの直接メモリアクセスを実現し、優れたパフォーマンスを提供します。
Colossusは、主にXaiの大規模な言語モデルのGROKシリーズをトレーニングするために使用され、Xプレミアムユーザー向けのチャットボットサービスも提供しています。さらにエキサイティングなのは、XaiがColossusのサイズを2倍にすることを計画していることです。
Nvidiaの上級副社長であるGilad Shainerは、AIがすべての業界にとって重要な要件になっているため、パフォーマンス、セキュリティ、スケーラビリティ、コスト効率の要件も増加していると述べました。 Spectrum-Xプラットフォームの出現により、Xaiなどのイノベーターがデータ処理、分析、実行機能を高速化するため、AIソリューションの開発、展開、市場への時間を加速させます。
また、Elon Muskはこれを称賛し、Colossusを世界で最も強力なトレーニングシステムと呼び、Xaiチーム、Nvidia、およびその多数のパートナーの努力を称賛しました。 Colossusの建設プロセスは非常に効率的であり、一般的に完了するまでに122日しかかからないことに言及する価値があります。プロセス全体は、最初のラックの入場からトレーニングの開始まで19日しかかかりませんでした。
このスーパーコンピューターのサポートにより、Spectrum-Xプラットフォームは最大400gbpsまで帯域幅を提供し、データ転送速度を大幅に改善し、遅延を削減できます。この機能は、高速データ処理とリアルタイム分析を必要とする企業にとって非常に重要です。さらに、Spectrum-XはAIアプリケーションをサポートするように最適化されており、データルーティングと管理をよりスマートにし、それによりシステム全体のパフォーマンスを改善します。
Colossus Architectureは、最新のアプリケーションによって生成された膨大な量のデータに対処するために効率的にスケーリングするように設計されています。一方、Spectrum-Xは持続可能な開発に焦点を当てており、高性能を維持しながらデータセンターのエネルギー消費を削減し、組織が二酸化炭素排出量を減らすのに役立ちます。
キーポイント：
Colossus Supercomputerは、100,000のNvidia Hopper GPUで構成されており、大規模な言語モデルをトレーニングしており、200,000 GPUに拡大する計画です。
Spectrum-X Networkプラットフォームは、最大400Gbpsの帯域幅を提供し、データ送信とリアルタイム分析機能を最適化します。
このプラットフォームは、持続可能性に焦点を当てており、高性能を維持しながらデータセンターのエネルギー消費を削減することを目指しています。
Colossusの発売は、AIコンピューティングパワーにおける新しいマイルストーンを示しており、その効率的でスケーラブルで持続可能な設計コンセプトは、将来のAI開発のための新しい方向性を提供します。 XaiとNvidiaのコラボレーションは、AIの分野での革新に強い推進力を注入しました。