万亿参数开源模型跑出981词秒，Cerebras测试KimiK2.6提速29倍

时间：2026-05-20 19:57:07

　　消息，Cerebras宣布在企业测试中上线万亿参数大模型Kimi K2.6，通过直接在整张12英寸硅晶圆上集成芯片，彻底消除了传统板级通信的互联延迟。第三方评测机构Artificial Analysis实测显示，其生成速度达到981 tokens/s，比主流GPU云服务快6.7倍。在10000输入、500输出token的长文本任务中，总响应耗时从Kimi官方接口的163.7秒缩短至5.6秒，提速达29倍。由于模型权重被分配到多个晶圆中流式传输激活值，层间通信完全运行在晶圆内部的网络织网上，其物理通信带宽达到英伟达NVL72架构中NVLink的200倍以上。配合分布式计算优化，Kimi K2.6以原始的4-bit权重进行低损存储，计算时使用16-bit浮点数维持精度，并采用定制算子内核与推测性解码最终达成实时化运行。

上一篇：链上分析师AI姨：某巨鲸再次买入48.9万枚SATO，持仓占比升至2.69% 返回首页

下一篇：新加坡监管机构撤销加密公司许可证

标准Chartered支持的Anchorpoint已准备推出港元稳定币HKDAP，预计将在7月底前联合宣布。该稳定币将...

2 贝佐斯注资CuspAI探索新材料用于芯片制造

消息，贝佐斯所注资的英国创企CuspAI于周一成立人工智能材料铸造厂联盟，汇聚了逾48家科技巨...

3 Loopring完成L2 NFT返还，发送2046枚至1241个地

消息，吴说获悉，Loopring宣布已完成L2 NFT返还，通过9批以太坊主网交易向1241个一级网络地址发...

4 广发证券刘晨明：近期市场调整受外部因

消息，广发证券策略首席分析师刘晨明表示，近期A股回调主要源于外部输入性因素，属于情绪...

5 比特币现货ETF净流入7567万美元，以太坊净

消息，上周交易日比特币现货ETF净流入7567万美元，以太坊现货ETF净流入1.05亿美元，SOL现货ET...

6 AI杠杆押注担忧加剧，韩股大跌5%