罗福莉解密MiMo降本底牌：预填充注意力计算量降至10层全局GQA级别

时间：2026-05-27 22:46:08

　　消息，罗福莉在X平台公布了自研大模型MiMo-v2.5系列实施API永久性降价后的算法降本机制。她透露，在API价格对齐DeepSeek后，小米的高负载推理引擎仍能保持盈亏平衡，成本降低主要来自混合注意力架构与层次化KV缓存优化。针对缓存命中成本降低99%的设计目标，小米推理框架实现了针对滑动窗口注意力SWA的层次化KV缓存优化，生产测试显示，层次化优化将缓存的token容量提升至5倍，降低了80%的缓存成本。罗福莉表示，低成本的推理服务有利于激发终端智能需求，大模型企业应当避免盲目的价格战，通过算法与推理系统的底层协同设计，将实际运行开销控制在盈亏平衡线以下。

上一篇：DTCC计划将代币化资产引入Stellar 返回首页

下一篇：Robinhood推出AI代理交易与信用卡服务

热点推荐

1 ETHWomen将于7月22日在多伦多举办，聚焦女

消息，ETHWomen将于2026年7月22日在多伦多举行，汇聚来自Web3和AI行业的女性，作为加拿大加密周...

2 美联储理事：稳定币等数字资产影响美元

美联储理事Christopher Waller在第五届美元国际角色会议开幕致辞中表示，今年会议将讨论稳定币...

3 比特币波动率看起来便宜，10亿美元期权

消息，随着周五105亿美元季度期权到期临近，比特币当前价格为62,344.19美元的波动率显得相对...

4 Bitget恢复BANK

消息，Bitget宣布现已开放BANK - Binance Smart Chain网络的充值服务。对于暂停期间给您带来的不便，...

5 伊朗称将继续追究参与侵略伊朗者的责任