大模型后训练新发现：用自己生成的数据做「同轨训练」是学生超越导师且不退化的关键

时间：2026-06-16 20:09:24

　　消息，OneMillion_AI发文称，大模型后训练中的「同轨采样」是防止模型退化、提高解题能力的关键。在线强化学习与同轨蒸馏优于传统的监督微调，因为它们让模型根据自己写出的步骤进行优化，而不是死记硬背外部标准答案。SFT强行灌输标准答案，易破坏模型原有知识结构并引发遗忘。相反，RL和OPD让模型在自己写的草稿中寻找并强化最佳步骤，避免累积误差。实验显示，使用SFT和RL导师进行同轨蒸馏，学生模型一次性写对代码的成功率分别达80.0%和78.7%，均超越导师模型。即使SFT导师因过度微调变傻，学生模型依然获得高分，证明同轨练习能有效过滤导师的坏习惯。目前，DeepSeek-v4与GLM-5已引入同轨蒸馏来合并专家模型能力。

上一篇：Bitget现货杠杆新增GRAMUSDT 返回首页

下一篇：谈及无人机袭击白宫UFC比赛的阴谋被挫败的消息时

热点推荐

1 Symbiotic推出core v2，扩展抵押品机制至多场

消息，再质押协议Symbiotic宣布推出core v2，将共享抵押品机制扩展至保险、链上信贷及RWA等场景...

2 OpenAI报告ChatGPT出现故障

消息，OpenAI官方状态页面显示，旗下聊天机器人ChatGPT目前正遭遇故障，公告指出ChatGPT出现了错...

3 美国参议员Lummis称加密货币道德准则应公

消息，美国参议员Lummis表示，加密货币道德准则应公平适用于所有人，而非针对美国总统特朗...

4 Bitmine的Tom Lee预测以太坊夏季回调10

消息，Bitmine的Tom Lee预测以太坊将在夏季经历10-15%的回调。他表示，尽管短期内ETH可能会因获利...

5 LDO成交量飙升32倍，币安合约综合排行榜