兴中资讯

热点

亚马逊放弃推理芯片Inferentia芯片开发

时间:2024-12-07 23:15

  在人工智能芯片领域,亚马逊正调整战略,决定停止进一步开发其推理芯片Inferentia,转而专注于训练芯片Trainium的发展。亚马逊云服务(AWS)的计算总监Rahul Kulkarni表示,未来将把资源集中在Trainium上,以优化推理和训练性能,从而提升与Nvidia的竞争力。

  自2018年进入AI芯片市场以来,亚马逊的云部门推出了Inferentia和Trainium芯片,为AI公司提供定制化的计算解决方案。然而,随着生成式AI需求的急剧增加,Trainium芯片的优势逐渐显现。相比Inferentia,Trainium具备更大内存、更强的处理能力,并支持更高效的数据计算和通信机制,这让推理和训练在同一平台上更具成本效益。

  在亚马逊发布Trainium2芯片后,AWS加大了对低成本、高效能的推广力度,强调Trainium的成本优势。据悉,苹果和美国AI初创公司Anthropic已经开始大规模采购Trainium2芯片,以推动AI开发。