当前位置:主页 > 热点 >

AI推论新竞争:Sagence AI以类比技术革新芯片

时间:2024-12-06 16:19:49

  随着AI技术与应用的发展,市场对处理器效能的需求已转向实际部署的推论应用。美国新创Sagence AI利用类比存储器内计算架构,打造全新AI处理器,挑战NVIDIA GPU在AI市场的地位。

  Sagence AI的推论芯片技术关键在于使用非挥发性快闪存储器芯片,储存AI权重数值,使推论工作在几乎不消耗电流的情况下进行。这种技术能减少电力消耗并降低成本。

  同时,将上亿个运算单位放在同一块芯片上平行运作,即使时脉速度不高,也能获得高效能表现。

  据Fierce Electronics报导,以每秒处理66.6万个词元的要求运行700亿参数的Llama 2时,NVIDIA的H100 GPU需要944个机架和625千瓦电力,成本约3,900万美元。

  Sagence AI的存储器内运算类比推论技术仅需23.6个机架、10.6千瓦电力和200万美元,即可完成同样工作。

  目前,Sagence AI的这项全新类比解决方案尚未取得基准测试的佐证,实际结果仍有待观察。

热点推荐
1 “Rockets vs. Lakers”24H 成交量达到 $5M

消息,4 月 23 日,预测市场数据显示,「Rockets vs. Lakers」过去 24 小时成交量达到 $6.5M,市场参...

2 Eric Trump:孙宇晨起诉World Liberty“荒谬”

消息,特朗普之子 Eric Trump 在 X 平台发文表示,孙宇晨对 World Liberty Financial 提起的诉讼十分荒...

3 伊高官:公然违反停火的情况下,重开霍

消息,4 月 23 日,伊朗议会议长卡利巴夫表示,全面停火只有在不被海上封锁和「挟持世界经...

4 OpenAI发布开源模型OpenAI Privacy Filter,可检

消息,OpenAI 今日发布开源模型 OpenAI Privacy Filter,旨在检测和红线处理文本中的个人身份信息。...

5 635枚比特币从匿名钱包转至Robinhood

消息,据Whale Alert发推称:635 枚比特币从未知钱包转移至 Robinhood 平台。...

6 BNB 现报价 651.6 美元, 24H涨幅达 3.1%

消息,4 月 22 日,据 CoinMarketCap 行情数据显示,BNB 现报价 651.6 美元, 24H涨幅达 3.1%。...

7 打脸特朗普美军沙特基地列装乌克兰反无

消息,美军在沙特苏丹王子空军基地部署乌克兰Sky Map反无人机系统,以应对伊朗无人机袭击。...

8 Strive股价月涨55%达16.40美元

消息,据BitcoinTreasuries发推称:比特币国债公司Strive $ASST过去一个月涨幅超55%,达16.40美元。...

9 Robinhood Ventures向OpenAI投资7500万美元

Robinhood Ventures 向 OpenAI 投资 7500 万美元。...

10 General Reasoning开源Firehorse,统一对接多种

消息,4 月 22 日,据 动察 Beating 监测,AI 基础设施公司 General Reasoning 开源 Firehorse,一个 Pyt...

成都来彰科技 蜀ICP备2025134723号-1

资讯来源互联网,如有版权问题请联系管理员删除。