英伟达推出2款AI硬件

　　近日，英伟达在SC24超算大会上震撼发布了两款全新的AI硬件——H200 NVL PCIe GPU和GB200 NVL4超级芯片。

　　H200 NVL PCIe GPU是英伟达针对数据中心推出的又一力作。这款GPU能够在更小的空间中装入更多的计算能力，从而加速AI和HPC（高性能计算）应用。

　　与前代产品H100 NVL相比，H200 NVL在性能上有了显著提升。其内存容量提高了1.5倍，带宽增加了1.2倍，这使得大语言模型推理的性能最高可提升1.7倍。

　　据悉，搭载H200 NVL的平台将于12月开始由NVIDIA的全球系统合作伙伴提供，包括戴尔科技、惠普企业、联想和超微等公司在内的众多厂商都将提供支持H200 NVL的广泛配置。

　　另一款新品GB200 NVL4则是一款单服务器解决方案，它在单个主板上集成了2个Grace CPU和4个Blackwell GPU。这款超级芯片利用NVLink互连技术实现CPU和GPU的高效通信，同时搭载了768GB的HBM3E和960GB的LPDDR5X内存，提供了高达32TB/s的组合内存带宽。这使得GB200 NVL4能够为要求苛刻的AI工作负载提供强大的动力源。

　　与上一代产品GH200 NVL4相比，GB200 NVL4在性能上有了显著的提升。它提供了2.2倍的模拟性能、1.8倍的AI训练性能和1.8倍的AI推理性能。