兴中资讯

头条

AI战略聚焦性价比,NVIDIA算力集群展现优势

时间:2024-12-17 16:26

  随着生成式AI发展进入缓慢阶段,科技大厂对高端AI芯片的需求仍强劲。NVIDIA作为AI芯片领先厂商,其机架型系统产品备受瞩目,性能优势明显。据市调数据显示,微软、Meta等大厂大量购买NVIDIA的H100 GPU。

  当前,AI训练和推论任务均需高性能GPU和大规模集群算力支撑。NVIDIA的产品形态涵盖芯片、服务器和机架系统三个层级,其中GB200 NVL72机架系统可实现576个GPU互连的大型算力集群,凸显其算力集群优势。

  超微作为竞争对手,虽在追赶NVIDIA,但尚未推出集群算力产品。外界期待超微能够加速追赶CUDA软件生态,并推出超大规模算力产品。

  然而,超微的客户群以微软为主,抗衡CUDA生态系统的软件建置仍面临考验。

  在AI战略上,科技大厂更加重视性价比。NVIDIA的算力集群能够降低AI应用推论运行门槛,促进AI应用和产品研发使用。

  随着单芯片性能提升和算力集群整体运行效率增强,单位算力成本下降,有望为AI算力带来持续需求。这些考量成为科技大厂AI战略性价比取舍的关键因素。