英伟达即将发布新一代AI服务器GB300，预计2023年第二季度发布，第三季度试产。该服务器在散热设计、芯片性能、内存规格和互联技术方面均有显着提升，将搭载基于最新B300 GPU的超级芯片，内存配置高达288GB，并采用新一代ConnectX-8 SuperNIC和1.6Tbps光模块，旨在释放更强大的AI算力。然而，全水冷散热方案的引入也可能导致成本大幅增加，预计顶配价格将远超现有的GB200NVL72服务器。
GB300服务器最大的亮点之一在于其散热设计。与前代产品相比，GB300服务器的散热需求显着提升，主板上使用的风扇数量将减少。这意味着，新一代服务器将更多依赖水冷散热系统，以更好地应对高性能计算所带来的热量挑战。散热系统的改进将直接影响到服务器的性能和稳定性，使其在高负载情况下依然能够保持良好的工作状态。
根据报道，英伟达预计于2025年中推出的GB300服务器将进行全面的设计升级，涵盖从芯片到外围设备的各个方面，以此释放更强大的AI 算力。在芯片方面，GB300服务器将搭载基于最新B300GPU 的超级芯片，其FP4性能将大幅提升，功耗也将从B200的1000W 提升至1400W，达到初代B100的两倍。这一变化意味着GB300服务器在处理复杂计算任务时将具备更强的能力。
在内存方面，GB300的HBM 内存规格也将进行升级，配置达到288GB，采用8堆栈的12Hi HBM3E 技术。这将进一步提高数据处理速度，提升整体性能。此外，B300GPU 可能采用插槽设计，有望提高生产良率，简化售后维护，而Grace CPU 将使用LPCAMM 内存条，取代现有的LPDDR5内存，从而提升性能。
在互联技术上，GB300服务器将配备新一代ConnectX-8SuperNIC 和高达1.6Tbps 的光模块，这将使得数据传输速度显着提升，确保服务器在处理海量数据时的高效性。然而，全水冷散热方案的引入也将增加服务器的成本。根据WccfTech 的消息，GB300服务器的顶配价格预计将远超当前约300万美元的GB200NVL72服务器，进一步巩固其高端市场的定位。
划重点:
GB300AI 服务器预计在2023年第二季度发布，第三季度进入试产阶段。
新服务器将采用水冷散热设计，主板风扇数量减少，散热需求显着增加。
顶配GB300服务器的价格预计将远超当前GB200NVL72服务器，定位更高端市场。
英伟达GB300AI服务器的升级将显着提升AI计算能力，但高性能也意味着高成本。其在高端市场的定位，以及未来在AI领域的应用，值得持续关注。