当前位置:主页 > 快讯 >

ARM架构CPU实现AI任务处理,无需GPU或NPU

时间:2024-12-22 21:36:07

  随着AI技术迅速发展,GPU与NPU需求不断增长。然而,ARM架构CPU如今已逐渐具备处理AI任务的能力,无需依赖GPU或NPU。

  据Android Authority报道,使用ARM v8、v9、Cortex-A、Cortex-X或Neoverse技术的CPU,因支持强大的矩阵乘法效能,能够加速ML工作。ARM处理器整合Neon技术、SVE和SME,使CPU可执行矩阵运算,无需GPU或NPU辅助。

  此外,ARM的Kleidi技术为移动设备和服务器提供AI处理能力,涵盖高效能机器学习核心数据库KleidiAI,优化采用硬件加速器的ARM架构CPU,支持从传统机器学习到生成式AI的各种任务。

  ARM已将Kleidi技术整合至PyTorch和ExecuTorch等AI架构,为开发人员提供高达12倍的效能提升。

  使用ARM架构CPU运行AI任务,开发人员可轻松将大型语言模型部署至手机或其他边缘装置,无需GPU、NPU或云端辅助。ARM架构AI模型具备可移动、可扩充的特性,只需一次优化,即可部署至不同平台,为开发人员带来便利。

  


 

热点推荐
1 QCAD与TD银行合作推动加拿大稳定币采用

消息,QCAD宣布与TD银行建立合作关系,作为其储备保管人,以促进加拿大稳定币的采用。此举...

2 原油价格突破85美元,美国库存快速下降

消息,随着美国原油库存快速下降,原油价格在周三交易时段突破85美元,北海布伦特原油价格...

3 美国制药类ETF IHE本周资金流入约2.82亿美

消息,iShares美国制药ETF本周资金流入约2.817亿美元,较上周增长24.8%。此外,VTRS、RPRX和ZTS等...

4 ASML上调2026年销售预期至492亿至515亿美元

消息,荷兰芯片设备制造商ASML因强劲订单上调了2026年销售预期,预计净销售额将达到492亿至...

5 通胀再次见顶,为牛市增添动力

消息,通胀再次见顶,这为牛市的进一步上涨铺平了道路。特朗普在不到24小时内意识到,他对...

6 加拿大金融监管机构警告:Anthropic Claud

消息,加拿大金融监管机构发出警告,称Anthropic的Claude Mythos AI模型可能对银行构成网络威胁。...

7 ICF vs. HAUZ:投资美国REIT还是国际房地产

消息,ICF与HAUZ的比较显示,iShares Select U.S. REIT ETF专注于30家美国REIT,而Xtrackers International Re...

8 凯投宏观:欧元区工业面临结构性失衡

消息,凯投宏观分析师Jack Allen-Reynolds在一份报告中指出,尽管自伊朗冲突爆发以来,欧元区工...

9 SpaceX:向投资者展示智能手机原型,IPO在

消息,SpaceX最近向投资者展示了一款智能手机原型,预计其IPO将对资本流动产生影响,可能会...

10 支付宝不想做AI时代的配角

消息,支付宝在其首页调出AI界面,用户可以通过对话框与阿宝互动,完成查找附近奶茶优惠券...

成都来彰科技 蜀ICP备2025134723号-1

资讯来源互联网,如有版权问题请联系管理员删除。