找到 72 条结果

在关键错误处施加预防性蒸馏、在其后施加恢复性蒸馏,让多轮智能体学会避免并从关键错误中恢复。

Yinghui He, Yapei Chang, Khushi Bhardwaj, Daniele Molinari, Tugrul Konuk,... 2026-10-01
LLM Agent 在线策略蒸馏 多轮智能体 强化学习 知识蒸馏

把RL训练中被丢弃的历史自生成轨迹变成可复用经验,只对精选片段施加模仿损失

Zhiwei Zhang, Huayu Deng, Fei Zhao, Jiayan Fu, Bin Liang, Kam-Fai Wong, Mu Chuan 2026-09-30
LLM后训练 在线策略蒸馏 强化学习 智能体RL 选择性监督

OPD峰值精度可由师生规模与教师分数用幂律提前预测,弱教师能把大模型教得超过自身

Yuntai Bao, Qinfeng Li, Guoqing Jiang, Liwei Chen, Zhiheng Qin, Xuanping Li,... 2026-09-30
在线策略蒸馏 弱到强泛化 强化学习 数学推理 缩放定律

只对齐最后一层隐状态并在10步内淡出潜在监督,保住早期增益且避免训练坍塌。

Jie Yang, Zhengyu Fang, Zelin Xu, Jiarui Sun, Xiran Fan, Junpeng Wang, Liang... 2026-09-28
可解释性 在线策略蒸馏 大语言模型 知识蒸馏 表示对齐

8B-MoT 无编码器无VAE统一模型,靠空间联合重建与多专家RL蒸馏兼顾理解、生成与编辑

Haiwen Diao, Jiahao Wang, Chenjing Ding, Hanming Deng, Jiangnan Chen, Ruixi... 2026-09-11
像素空间流匹配 原生统一多模态模型 图像生成 图像编辑 在线策略蒸馏

用弱教师策略偏移方向放大强学生自身梯度,加速训练并突破教师上限

Youngrok Park, Sangmin Bae, Hojung Jung, Jongwoo Ko, Yunseon Choi, Young Jin... 2026-09-09
RLVR 在线策略蒸馏 多教师蒸馏 弱到强泛化 策略梯度缩放