罗福莉解密MiMo降本底牌：预填充注意力计算量降至10层全局GQA级别

时间：2026-05-27 22:46:08

　　消息，罗福莉在X平台公布了自研大模型MiMo-v2.5系列实施API永久性降价后的算法降本机制。她透露，在API价格对齐DeepSeek后，小米的高负载推理引擎仍能保持盈亏平衡，成本降低主要来自混合注意力架构与层次化KV缓存优化。针对缓存命中成本降低99%的设计目标，小米推理框架实现了针对滑动窗口注意力SWA的层次化KV缓存优化，生产测试显示，层次化优化将缓存的token容量提升至5倍，降低了80%的缓存成本。罗福莉表示，低成本的推理服务有利于激发终端智能需求，大模型企业应当避免盲目的价格战，通过算法与推理系统的底层协同设计，将实际运行开销控制在盈亏平衡线以下。

上一篇：DTCC计划将代币化资产引入Stellar 返回首页

下一篇：Robinhood推出AI代理交易与信用卡服务

热点推荐

1 LAB热度上升，24h成交量放大至近7日平均水

消息，据a早期发行in监测，LAB过去24小时成交量放大至近7日平均水平的3.9倍，价格累计下跌5...

2 阿里巴巴新AI模型称仅次于Anthropic的Fabl

消息，阿里巴巴宣布其新AI模型Qwen3.8 Max的参数量达到2.4万亿，声称在领先的前沿AI模型中仅次...

3 Solana网络单日收入重回区块链榜首，为近

消息，据Solanafloor数据，Solana在7月18日的网络收入位居所有区块链第一，这是近五个月以来的首...

4 Nouriel Roubini：AI可能迫使政府采用普遍基

消息，Nouriel Roubini在接受Bloomberg TV采访时警告，人工智能的快速发展可能迫使各国政府选择普...

5 A股三大股指走低，深证成指跌2%