英伟达推出GB200 NVL4，明年推出GB300 AI服务器

　　英伟达推出的GB200 NLV4，填补了关键的市场需求。与专为大规模部署设计、并具有边缘连接器以支持主干配置的NVL72相比，GB200 NVL4为中型规模或注重能源效率的组织提供了一个更紧凑、更注重能源效率的替代方案。

　　GB200 NVL4的核心优势在于其平衡的性能与能源效率。它配备了基于Arm架构的Grace CPU，每颗CPU拥有72个Arm Neoverse V2核心，两颗CPU合计提供144个核心，为高性能任务提供了强大的计算能力。此外，它还搭配了四个Blackwell GPU，这一配置特别适合AI、高性能计算（HPC）和其他数据密集型应用。

　　除了强大的性能外，GB200 NVL4还在每颗CPU下方配备了六个MCIO连接器，确保提供快速的PCIe连接，从而支持无缝的数据传输。这些连接器支持网络接口卡（NIC）、固态硬盘（SSD）和其他关键组件的集成，使系统具备灵活性和可扩展性。在内存方面，GB200 NVL4提供了最多1.3 TB的联合内存，专为内存密集型工作负载的组织设计，确保了数据的高效处理。

　　能源效率是GB200 NVL4的另一大亮点。英伟达预计，完全配置的服务器将消耗约6kW的电力，虽然这一功耗不容小觑，但相比英伟达早期的系统，如DGX-1或HGX-1，其功耗仅为一半左右。

　　与此同时，英伟达还计划在2025年3月17日至20日的GTC大会上发布其下一代GB300 AI服务器平台。该平台将搭载新款B300 AI GPU，功率高达1400W，FP4性能是B200的1.5倍。据透露，GB300将使用288GB HBM3E内存，采用12层堆叠配置，这一技术由SK hynix开发。此外，GB300 AI服务器平台的快速连接组件和网络卡也得到了升级，光模块的速度从800G提升到了1.6T。