通过优势感知的动态双蒸馏缓解特权幻觉问题,显著提升LLM和VLM的蒸馏性能
Xinlei Yu, Gen Li, Qingyi Si, Guibin Zhang, Yuqi Xu, Congcong Wang, Shuai...
2026-07-01
在线策略蒸馏
大模型压缩
特权信息
知识蒸馏
视觉语言模型
无需文本标注答案,通过对比正负视觉证据门控提升细粒度视觉推理能力
Haoxiang Sun, Zhihang Yi, Langxuan Deng, Yuhao Zhou, Peiqi Jia, Jian Zhao,...
2026-06-25
在线策略蒸馏
多模态大语言模型
对比学习
视觉推理
门控机制
提出快慢共进化框架,通过结果校准的在线策略自蒸馏训练具备四项核心能力的智能体进化器
Guibin Zhang, Xun Xu, Yanwei Yue, Zikun Su, Wangchunshu Zhou, Xiaobin Hu,...
2026-06-17
在线策略蒸馏
智能体进化
自我改进
记忆管理
从参数空间几何视角揭示OPD介于SFT和RLVR之间的独特更新轨迹与子空间锁定现象
Zhennan Shen, Yanshu Li, Qingyu Yin, Chak Tou Leong, Zhilin Wang, Yanxu...
2026-06-09
参数空间几何
在线策略蒸馏
大语言模型后训练
强化学习
用信任域分割策略梯度可靠区,稳定蒸馏推理小模型。
Xingrun Xing, Haoqing Wang, Boyan Gao, Ziheng Li, Yehui Tang
2026-06-03
在线策略蒸馏
小语言模型
强化学习
推理模型
知识蒸馏
限制蒸馏 rollout 到前 N 个 token,解决 OPD 的离策略教师衰减问题
Zhou Ziheng, Jiaqi Li, Huacong Tang, Ying Nian Wu, Demetri Terzopoulos
2026-05-28
在线策略蒸馏
大语言模型
模型压缩
知识蒸馏
揭示OPD高效的"预见"机制,并提出EffOPD加速训练3倍
Yuchen Cai, Ding Cao, Liang Lin, Chunxi Luo, Xin Xu, Kai Yang, Weijie Liu,...
2026-05-18
低秩结构
参数动力学分析
在线策略蒸馏
大语言模型后训练
训练加速
把多任务扩散RL的训练冲突与灾难遗忘统一在在线策略蒸馏框架下。
Quanhao Li, Junqiu Yu, Kaixun Jiang, Yujie Wei, Zhen Xing, Pandeng Li,...
2026-05-15
LoRA微调
在线策略蒸馏
多任务强化学习
扩散模型
文本到图像
用闭式 value baseline 降低 OPD 梯度方差,无需额外 critic 即可稳定训练
Minjae Oh, Sangjun Song, Gyubin Choi, Yunho Choi, Yohan Jo
2026-05-14
在线策略蒸馏
大模型后训练
强化学习
控制变量
方差缩减
免训练token级诊断框架量化每个蒸馏信号与理想梯度的对齐程度
Mohammadreza Armandpour, Fatih Ilhan, David Harrison, Ajay Jaiswal, Duc N. M...
2026-05-12
在线策略蒸馏
推理模型
梯度对齐
知识蒸馏
训练自由诊断
三阶段管线,用黑盒对抗式在线策略蒸馏修复 SFT 分布漂移
Sudong Wang, Weiquan Huang, Xiaomin Yu, Zuhao Yang, Hehai Lin, Keming Wu,...
2026-05-06
Mixture-of-Experts
分布对齐
后训练
在线策略蒸馏
多模态推理
小米309B参数MoE模型,混合滑动窗口注意力+多教师蒸馏,推理提速2.6×
Bangjun Xiao, Bingquan Xia, Bo Yang, Bofei Gao, Bowen Shen, Chen Zhang,...
2026-01-07
在线策略蒸馏
多专家模型
大语言模型
投机解码
混合注意力机制