Microsoftは最近、最新のND H100V5仮想マシンシリーズをリリースしました。これには、最先端のNVIDIA H100テンソルコアGPUおよびNVIDIA Quantum-2インフィニバンドネットワーキングテクノロジーが装備されています。最も複雑なAIおよび機械学習タスクを処理するように設計されたこれらの仮想マシンは、前例のないコンピューティングパワーと効率を提供します。
ND H100V5シリーズのコアには、AIスーパーコンピューティングGPUがあり、各仮想マシンには8つのNVIDIA H100テンソルコアGPUが装備されており、PCIEGEN5インターフェイスを介してホストに接続されており、各GPUは64GB/sまでの帯域幅を持ち、ホストからGPUのデータ伝送効果を最適化しています。
さらに、このシリーズでは、第4世代のIntel Xeonスケーラブルプロセッサも使用し、最大処理速度とコンピューティングパワーを確保しています。 DDR5メモリと組み合わせることで、ND H100V5仮想マシンは、大規模なデータセットを処理するときにうまく機能し、巨大なメモリ帯域幅と容量を提供します。
ネットワークの観点から、NVIDIA Quantum-2 ConnectX-7インフィニバンドテクノロジーを適用すると、データ送信のための遅延と高スループットが保証されます。これは、大量のデータを迅速に処理する必要があるAIアプリケーションにとって重要です。
パフォーマンスに関しては、ND H100V5仮想マシンは、前世代のFP16よりも速く、マトリックス増殖に新しい8ビットFP8フローティングポイントデータ型を使用する場合、6倍高速です。 Bloom175Bエンドツーエンドモデルなどの大規模な言語モデルを扱う場合、この改善は特に重要です。
Microsoftによるこの革新は、クラウドコンピューティングとAIテクノロジーの分野でのリーダーシップを実証するだけでなく、AIテクノロジーの開発と応用を促進するための強力なツールを企業や研究機関に提供します。 AIテクノロジーの継続的な進歩により、ND H100V5仮想マシンシリーズは、間違いなく将来のAIスーパーコンピューティングの重要な基礎になります。