业界
亚马逊Trainium芯片获高通试用,将整合Inferentia产品线
时间:2025-02-12 08:52
亚马逊CEO Andy Jassy透露,自研芯片Trainium2已受到越来越多用户青睐,高通也加入早期测试。该系列已展望至Trainium4,并计划整合Inferentia产品线,以满足AI推论需求。
自2018年发布首款自研芯片Graviton以来,亚马逊已迭代至Graviton4,并推出AI训练和推论用的Trainium和Inferentia系列,支持AWS云端平台。此举旨在降低对GPU业者的依赖,优化云端运算成本效益。
Jassy指出,Trainium2在2024年底普遍开放,性价比优于其他GPU支持的运算实例。Adobe、Databricks、poolside及高通等已加入测试,对成果表示满意。AWS还为Anthropic开启Project Rainier,打造含成千上万颗Trainium2 Ultra芯片的服务器系统。
此外,AWS正努力开发Trainium3,计划2025年稍晚开放预览,并定义Trainium4规格。这一系列迭代计划再次印证Trainium和Inferentia产品线合并发展的方向。AWS运算与AI/ML产品管理总监Rahul Kulkarni曾表示,团队将专注于Trainium芯片。
AWS集中火力推进Trainium系列,但不忽视推论应用。Jassy认为,未来每项应用程序都可能内建生成式AI技术,推论将成为打造应用的核心积木。