英伟达即将发布新一代AI服务器GB300，预计2023年第二季度发布，第三季度试产。该服务器在散热设计、芯片性能、内存规格和互联技术方面均有显著提升，将搭载基于最新B300 GPU的超级芯片，内存配置高达288GB，并采用新一代ConnectX-8 SuperNIC和1.6Tbps光模块，旨在释放更强大的AI算力。然而，全水冷散热方案的引入也可能导致成本大幅增加，预计顶配价格将远超现有的GB200NVL72服务器。
GB300服务器最大的亮点之一在于其散热设计。与前代产品相比，GB300服务器的散热需求显著提升，主板上使用的风扇数量将减少。这意味着，新一代服务器将更多依赖水冷散热系统，以更好地应对高性能计算所带来的热量挑战。散热系统的改进将直接影响到服务器的性能和稳定性，使其在高负载情况下依然能够保持良好的工作状态。
根据报道，英伟达预计于2025年中推出的 GB300服务器将进行全面的设计升级，涵盖从芯片到外围设备的各个方面，以此释放更强大的 AI 算力。在芯片方面，GB300服务器将搭载基于最新 B300GPU 的超级芯片，其 FP4性能将大幅提升，功耗也将从 B200的1000W 提升至1400W，达到初代 B100的两倍。这一变化意味着 GB300服务器在处理复杂计算任务时将具备更强的能力。
在内存方面，GB300的 HBM 内存规格也将进行升级，配置达到288GB，采用8堆栈的12Hi HBM3E 技术。这将进一步提高数据处理速度，提升整体性能。此外，B300GPU 可能采用插槽设计，有望提高生产良率，简化售后维护，而 Grace CPU 将使用 LPCAMM 内存条，取代现有的 LPDDR5内存，从而提升性能。
在互联技术上，GB300服务器将配备新一代 ConnectX-8SuperNIC 和高达1.6Tbps 的光模块，这将使得数据传输速度显著提升，确保服务器在处理海量数据时的高效性。然而，全水冷散热方案的引入也将增加服务器的成本。根据 WccfTech 的消息，GB300服务器的顶配价格预计将远超当前约300万美元的 GB200NVL72服务器，进一步巩固其高端市场的定位。
划重点:
GB300AI 服务器预计在2023年第二季度发布，第三季度进入试产阶段。
新服务器将采用水冷散热设计，主板风扇数量减少，散热需求显著增加。
顶配 GB300服务器的价格预计将远超当前 GB200NVL72服务器，定位更高端市场。
英伟达GB300AI服务器的升级将显著提升AI计算能力，但高性能也意味着高成本。其在高端市场的定位，以及未来在AI领域的应用，值得持续关注。