NVIDIA est sur le point de lancer une nouvelle génération de serveur AI GB300, dont la sortie est prévue au deuxième trimestre 2023 et la production d'essai au troisième trimestre. Le serveur présente des améliorations significatives en termes de conception thermique, de performances de la puce, de spécifications de mémoire et de technologie d'interconnexion. Il sera équipé d'une super puce basée sur le dernier GPU B300, avec une configuration de mémoire allant jusqu'à 288 Go, et utilise une nouvelle génération de ConnectX-. 8 SuperNIC et module optique 1,6 Tbps Destiné à libérer une puissance de calcul IA plus puissante. Cependant, l'introduction d'une solution de dissipation thermique entièrement refroidie par eau peut également entraîner une augmentation significative des coûts, et le prix de la configuration supérieure devrait être bien plus élevé que celui du serveur GB200NVL72 existant.
L'un des points forts du serveur GB300 est sa conception de dissipation thermique. Par rapport aux produits de la génération précédente, les besoins en refroidissement du serveur GB300 ont considérablement augmenté et le nombre de ventilateurs utilisés sur la carte mère sera réduit. Cela signifie que la nouvelle génération de serveurs s'appuiera davantage sur des systèmes de refroidissement par eau pour mieux faire face aux défis thermiques posés par le calcul haute performance. Les améliorations apportées au système de refroidissement affecteront directement les performances et la stabilité du serveur, lui permettant de maintenir de bonnes conditions de fonctionnement dans des conditions de charge élevée.
Selon les rapports, le serveur GB300 de NVIDIA, qui devrait être lancé mi-2025, fera l'objet d'une mise à niveau complète de sa conception, couvrant tous les aspects, des puces aux périphériques, afin de libérer une puissance de calcul IA plus puissante. En termes de puces, le serveur GB300 sera équipé d'une super puce basée sur le dernier GPU B300. Ses performances FP4 seront grandement améliorées, et la consommation électrique passera également de 1 000 W du B200 à 1 400 W, atteignant le double de celle du premier. génération B100. Ce changement signifie que le serveur GB300 disposera de capacités plus puissantes pour gérer des tâches informatiques complexes.
En termes de mémoire, les spécifications de mémoire HBM du GB300 seront également mises à niveau à 288 Go, en utilisant la technologie 8-stack 12Hi HBM3E. Cela augmentera encore la vitesse de traitement des données et améliorera les performances globales. De plus, le B300GPU pourrait adopter une conception de slot, ce qui devrait améliorer le rendement de production et simplifier la maintenance après-vente, tandis que le CPU Grace utilisera des modules de mémoire LPCAMM pour remplacer la mémoire LPDDR5 existante, améliorant ainsi les performances.
En termes de technologie d'interconnexion, le serveur GB300 sera équipé d'une nouvelle génération de ConnectX-8SuperNIC et de modules optiques jusqu'à 1,6 Tbps, ce qui augmentera considérablement la vitesse de transmission des données et assurera l'efficacité du serveur lors du traitement de données massives. Cependant, l’introduction de solutions complètes de refroidissement par eau augmentera également le coût des serveurs. Selon WccfTech, le prix haut de gamme du serveur GB300 devrait être beaucoup plus élevé que celui du serveur GB200NVL72 actuel, qui s'élève à environ 3 millions de dollars américains, consolidant ainsi davantage son positionnement sur le marché haut de gamme.
Points forts:
Le serveur GB300AI devrait être commercialisé au deuxième trimestre 2023 et entrer en phase de production d'essai au troisième trimestre.
Le nouveau serveur adoptera une conception de dissipation thermique refroidie par eau, avec un nombre réduit de ventilateurs de carte mère et une augmentation significative des exigences de dissipation thermique.
Le prix du serveur GB300 haut de gamme devrait être bien plus élevé que celui du serveur GB200NVL72 actuel, le positionnant ainsi sur le marché haut de gamme.
La mise à niveau du serveur NVIDIA GB300AI améliorera considérablement les capacités informatiques de l'IA, mais des performances élevées signifient également un coût élevé. Son positionnement sur le marché haut de gamme et ses futures applications dans le domaine de l’IA méritent une attention continue.