兴中资讯

热点

NVIDIA Mellanox面临反垄断调查,AI组网技术成焦点

时间:2024-12-19 15:31

  NVIDIA收购InfiniBand龙头厂商Mellanox后,其GPU+Infiniband全套方案在AI发展初期备受青睐,但也被外界质疑为捆绑销售。

  随着AI技术的快速发展,降低延迟成为关键,而NVIDIA互连技术被视为最佳选择。然而,中国当局可能对NVIDIA展开反垄断调查,质疑其是否刻意降低第三方网络方案效能,以促使客户购买GPU与Infiniband组合方案。

  尽管NVIDIA的AI服务器方案高度整合AI芯片与InfiniBand,但出于供应链安全考虑,以及客户搭建集群能力逐渐成熟,AI芯片与网络有望实现逐渐解绑,非NVIDIA的以太网渗透率有望提升。

  未来,随着AI集群规模不断提升,以太网相较Infiniband的优势将更加明显,有望成为大规模NVIDIA GPU集群的主流方案。

  在AI集群组网方面,以太网具备更高兼容性、更高的线缆带宽与更高的埠速率,因此被超微(AMD)的AI芯片以及CSP大厂ASIC所采用。

  预计未来以太网将在AI集群组网中发挥更大作用,包括NVIDIA GPU大规模AI训练集群组网、NVIDIA GPU AI推论组网以及非NVIDIA GPU及ASIC的训练和推论集群组网。