当前位置:主页 > 推荐 >

ARM架构CPU实现AI任务处理,拓展AI应用新领域

时间:2024-12-19 15:30:34

  随着人工智能技术的快速发展,GPU与NPU的需求日益增长。然而,ARM架构CPU如今已逐渐具备处理AI工作任务的能力,无需搭配GPU和NPU。

  据Android Authority报道,使用ARM v8、v9、Cortex-A、Cortex-X或Neoverse技术的CPU,因支持更强大的矩阵乘法效能,已具备运行加速机器学习工作的能力。

  此外,ARM的Neon技术、可扩充矢量扩充(SVE)以及可扩充矩阵扩充(SME)等指令集,也让CPU能够执行加入矩阵运算的工作。

  ARM的Kleidi技术进一步提升了移动设备和服务器用ARM平台的AI处理能力。该技术涵盖一系列资源与合作协定,包括高效能的机器学习核心数据库KleidiAI,可协助优化采用各类硬件加速器的ARM架构CPU,支持从传统机器学习到生成式AI的各种任务。

  如今,开发人员只需使用ARM架构CPU,就能将大型语言模型轻松部署至手机或其他边缘装置上,无需GPU、NPU或云端辅助。

  ARM架构运行的AI模型还具备可移动、可扩充的特性,只需进行一次优化,即可部署至各类不同平台,无需另行修改设定,为开发人员带来了更多便利。

热点推荐
1 摩根士丹利支持的加密货币股票获得 86

Arete Research首次对TeraWulf Inc.进行评级,给予买入评级,目标价为30美元,这意味着较其近期16...

2 Google TV 的全新 Gemini 功能让球迷随时了解

Google TV 通过 Gemini 平台推出三项全新人工智能功能,包括实时体育赛事比分和食谱教程的视觉...

3 沉默的牛市:这种加密货币正在稳步积累

尽管市场整体呈熊市趋势,以太坊却经历了显著的增持。Santiment 的数据显示,过去两天内,持...

4 比特币有麻烦了吗?尽管价格上涨,但战

随着美国10年期国债收益率攀升至4.50%-4.60%的危险区域,比特币面临结构性压力。收益率上涨约...

5 若比特币跌破6.8万美元,主流CEX累计多单

消息,3 月 24 日,据 Coinglass 数据,若比特币跌破 6.8 万美元,主流 CEX 累计多单清算强度将达...

6 美联储加息预期升温但障碍重重

消息,据彭博社发推称:投资者提高对美联储即将加息的预期,但劳动力市场持续疲软及油价...

7 CIMG宣布与Bedrock签署谅解备忘录,共同探

CIMG Inc. 已与 Bedrock 签署一份不具约束力的谅解备忘录,旨在探索在合规的机构 DeFi 解决方案方...

8 年轻人与加密货币:新一代真的能改变英

Coinbase研究所的一项调查显示,65%的英国16至25岁选民了解比特币,这一比例高于任何传统储蓄...

9 以色列担心特朗普为宣布胜利而妥协

消息,针对美国总统特朗普昨天所谓正在与伊朗谈判的相关言论,以色列媒体分析称,特朗普...

10 慢雾发布 Agent Security Skill,可识别钱包、

消息,慢雾创始人余弦在 X 平台发文表示 Agent Security Skill 已正式发布,其不仅可以发现常规的...

成都来彰科技 蜀ICP备2025134723号-1

资讯来源互联网,如有版权问题请联系管理员删除。