兴中资讯

要闻

谷歌Trillium TPU正式上市,打造100,000芯片AI超级计算机

时间:2024-12-12 16:57

  谷歌发布了其第六代人工智能加速器芯片Trillium,这款定制处理器为Gemini 2.0 AI模型的训练提供动力,训练性能是前代产品的四倍,同时功耗大幅降低。谷歌已将超过100,000个Trillium芯片连接到一个网络结构中,创造了相当于世界上最强大的AI超级计算机之一。

  Trillium的峰值计算性能提高了4.7倍,高带宽内存容量和芯片间互连带宽增加了一倍,能源效率提高了67%。谷歌声称,与上一代芯片相比,Trillium每美元的训练性能提高了2.5倍,可能重塑人工智能开发的经济性。Trillium的早期客户AI21 Labs已经报告了显著的改进。

  谷歌将Trillium部署在其AI超级计算机架构中,展示了公司对AI基础设施的综合方法。该系统将超过100,000个Trillium芯片与每秒13PB带宽的Jupiter网络结构相结合,使单个分布式训练作业能够扩展到数十万个加速器上。Trillium的发布加剧了人工智能硬件领域的竞争,谷歌的定制硅片方法可以为特定工作负载带来优势,特别是在训练非常大的模型方面。

  行业分析师认为,谷歌对定制芯片开发的大规模投资反映了对人工智能基础设施日益增长的重要性的战略押注。谷歌决定向云客户提供Trillium,表明其希望在云人工智能市场上展开更积极的竞争。