当前位置:主页 > 业界 >

中国赤兔AI推论架构,助力AI芯片自主化

时间:2025-03-17 19:21:55

  北京清程极智科技有限公司,由清华大学电脑系团队孵化,近日发布了开源AI推论引擎“赤兔”及全场景解决方案。该引擎可在本土芯片上运行,减少对NVIDIA芯片的依赖,推动技术自主。

  赤兔引擎支持大型语言模型(LLM),如DeepSeek R1,并在NVIDIA A800 GPU上运行DeepSeep R1时,推论速度提升315%,GPU使用率降低50%。

  其加速效果来自算力系统和代码优化,实现模型无损前提下的效能大幅提升。赤兔已兼容ComfyUI,支持多生成场景。

  赤兔还支持阿里通义千问、Meta LlaMA 3等热门模型及用户自定义模型,满足各国多元算力平台需求。

  清程极智由翟季冬教授发起,核心团队多毕业于QS排名前50名校,其中清华电脑系博士占3成。公司已获多家机构投资,并与摩尔线程、燧原科技等达成合作。

  鉴于美国对中国AI芯片出口管制,中国AI企业正寻求替代方案,如DeepSeek和字节跳动研究团队通过系统优化提升LLM训练效率,节省GPU使用量。

热点推荐
1 伊朗最高领袖重申将考虑开辟新战线

消息,伊朗最高领袖穆杰塔巴哈梅内伊的社交媒体账号18日再次摘发其上任后首份声明,重申将...

2 ZEC最大空头:TON空单新开仓515,969.50枚

消息,TON空单新开仓515,969.50枚,开仓价为2.25美元,目前币价为1.95美元,清算价为21.60美元,持...

3 Loracle:CBRS空单止盈,持仓规模463.45万美

消息,知名交易员Loracle在其活跃的Hyperliquid生态中,减持CBRS空单1,807.85枚,约合334,149.05美元,...

4 NYDIG:美国加密市场结构法案若错过8月窗

消息,数字资产投资公司NYDIG警告称,如果美国国会在8月休会前未能推动加密市场结构法案的...

5 Coinbase将上线Wrapped Ronin(WRON)现货交易

消息,Coinbase Markets在X平台发文表示,Wrapped Ronin现货交易将于2026年5月18日上线。若流动性条件...

6 Tether与Trafigura洽谈USDT支付试点项目

全球大宗商品交易商Trafigura正与Tether洽谈一项试点项目,拟在其燃料分销子公司Puma Energy位于萨...

7 BNB Chain推出BNBAgent SDK,支持AI代理链上身

消息,BNB Chain宣布BNBAgent SDK已正式登陆BSC主网,为AI代理提供身份、商务托管、支付与记忆存储...

8 余烬监测:pumpfun调整回购比例后向Krake

消息,据链上分析师余烬监测,pumpfun在宣布未来一年将100%收入用于代币回购调整为50%收入用于...

9 麻吉黄立成:ETH多单增持至475枚

消息,麻吉黄立成在HyperLiquid平台上增持ETH多单475枚,约合987,035美元。当前持仓规模为5,712,1...

10 京东:今年京东体系的AI相关研发投入增

消息,京东在618启动发布会上宣布,今年京东体系的AI相关研发投入将增长超过200%。此次618将...

成都来彰科技 蜀ICP备2025134723号-1

资讯来源互联网,如有版权问题请联系管理员删除。