智谱复盘GLM

时间：2026-04-30 17:11:38

　　消息，智谱发文复盘GLM-5系列模型在coding agent场景下出现乱码、复读和生僻字的问题。自3月起，用户反馈异常仅在高并发、长上下文任务中触发。智谱称其推理系统每天承受数亿次coding agent调用。经过排查，团队定位到两个独立的竞态bug。第一个bug出在pd分离架构，解码侧超时中止请求后回收kv cache，但预填充侧的rdma写入未结束，新请求覆盖旧数据。修复方法是在回收前加显式同步，异常率从万分之十几降至万分之三以下。第二个bug出在hicache，加载和计算两条流水线缺少同步点，计算侧可能在数据未加载完毕时读取。修复后异常完全消失，补丁已提交sglang社区。团队还发现，投机采样的接受率指标可作为异常检测信号，乱码时草稿token几乎全被拒绝，复读时接受率偏高。

上一篇：WLFI社区投票锁定620亿代币，价格下跌15% 返回首页

下一篇：千问开源Qwen

热点推荐

1 顶级风投机构加速募资以应对AI独角兽巨

消息，顶级风投机构Founders Fund和Thrive Capital等将募资周期缩短至不足两年。Founders Fund去年募集...

2 麻吉黄立成：ETH多单减持825枚，当前盈亏

消息，麻吉黄立成在ETH多单中减持825.00枚，约合1,408,237.50美元。当前持仓规模为4,049,750.00美元...

3 币安宣布上线6个ZMU稳定币交易对

消息，币安宣布将ZMU/USDT、ZMU/USDT、ZMU/USDT等6个代币添加到多个服务中，包括期货合约，预计于...

4 主力巨鲸平仓BTC及ETH空单，规模达8000万美

消息，HyperLiquid上做空BTC和ETH的主力巨鲸已将头寸完全平仓，规模达8000万美元。该巨鲸此前以...

5 孙宇晨从Poloniex提取1.2万枚ETH，价值约1