兴中资讯

热点

DeepSeek引领推理集群发展,华为昇腾受青睐

时间:2025-03-18 15:42

  自2025年初,DeepSeek在中国AI应用领域掀起热潮,众多企业纷纷试用。然而,不到一个月时间,这些企业已快速从尝鲜阶段转向大规模专家并行推理集群的应用,以满足高并发、低时延的需求。

  华为昇腾大规模跨节点专家并行方案因对DeepSeek模型的支持和技术契合,成为中国企业的首选。中国多家厂商也密集发布DeepSeek一体机,实现AI高效部署。这些一体机通过预先整合硬件、预置模型及优化框架,提供全栈解决方案。

  随着DeepSeek大模型的广泛应用,企业推理需求持续急剧扩大。DeepSeek借助混合专家模型技术,降低对高算力单卡的依赖,推动产业进入新阶段。企业应用上量后,对推理部署提出了高性价比、稳定的要求,算力扩容迫在眉睫。

  目前,市场上使用者推理算力的规模正在快速扩展,从早期的一两台一体机到一两百卡,甚至千卡算力卡规模。客户对AI的认知也发生彻头彻尾的变化,从难以说服到主动要求更多AI应用落地。

  中国这一波AI应用落地热潮中,DeepSeek引领推理集群发展,企业加速AI部署,华为昇腾等国产芯片因本地化服务和团队的优势,受到广泛青睐。