聚焦
AWS推出Trainium2系列AI服务器,旨在成为最强AI服务器
时间:2024-12-04 15:15
AWS在拉斯维加斯推出Trainium2系列服务器,旨在成为最强AI服务器,并分享了芯片设计与封装细节。AWS表示,其Graviton芯片已支持过去两年50%的新增CPU运算。
AWS CEO Matt Garman即将登场,团队在此次技术发表中增加了硬件相关内容,彰显AWS对数据中心相关元件的重视。AWS为了克服AI发展的挑战,宣布推出Trainium2和Trainium2 Ultra服务器。
Trainium2服务器密集算力达20.8 PFLOPS,稀疏算力为83.2 PFLOPS,HBM带宽达每秒46TB。而Trainium2 Ultra服务器密集算力更高达83.2 PFLOPS,稀疏算力为332.8 PFLOPS,HBM带宽达每秒185TB。
Trainium2芯片由亚马逊旗下Annapurna开发,比Trainium1拥有2.2倍多的晶体管,含有2颗运算芯片、4个HBM模块,采用先进封装技术,电压控制器加装在底版部分,提升能源效率。AWS还开发了芯片间互连技术NeuronLink,带宽每秒2TB,延迟度仅1微秒。
AWS运算及网通服务副总监Dave Brown强调,定制芯片是基础设施技术升级的重要基础,Graviton芯片的采用已达到重要里程碑,未来将持续升级技术。