把多教师能力整合与少步蒸馏合并为单阶段训练,四步模型反超四十步且省约37%算力。
Chenru Wang, Xuanyang Zhang, Yucheng Han, Wenbo Nie, Wei Cheng, Xianfang...
2026-11-06
在线策略蒸馏
多教师学习
少步蒸馏
扩散模型
文本到图像
用提案树并行化在线蒸馏的采样与打分,草稿验收长度最高提升41.45%。
Tianyu Liu, Jun Zhang, Wenjie Huang, Yuhao Shen, Tianqi Xu, Xinyue Hao,...
2026-11-05
在线策略蒸馏
大语言模型
投机解码
推理加速
训练系统
用共享编码器与统一输出模式,把文档、图像、音频、视频一次解析成可定位、可引用的结构化记录
Yunhang Shen, Zhangquan Chen, Xiaotian Li, Zhongpeng Cai, Qing Zhou, Zekai...
2026-10-30
全模态解析
在线策略蒸馏
文档解析
时空定位
统一编码器
以跨范式在线蒸馏与渐进自精化扩散,让统一扩散LLM同时看懂并生成图像,达到SOTA
Shufan Li, Hanrong Ye, Greg Heinrich, Yonggan Fu, Haotian Zhang, Sifei Liu,...
2026-10-28
NVIDIA
图像编辑
在线策略蒸馏
扩散语言模型
文生图
长程购物模拟基准UserArena与OPTD在线轨迹蒸馏,模拟器最忠实复现线上策略效应
Jujia Zhao, Jiakai Tang, Jing Yu, Wen Chen, Jian Wu, Han Zhu, Fei Sun, Suzan...
2026-10-26
LLM智能体
在线策略蒸馏
智能体推荐
用户模拟器
电子商务
任务Teacher对Searcher逐token蒸馏,Leader与Answerer用结果奖励联训。
Yuhan Sun, Jiaxin Zhao, Yongdong Luo, Yibo Hu, Meiguang Jin, Junfeng Ma,...
2026-10-26
信用分配
在线策略蒸馏
多智能体系统
强化学习
检索增强
统一指令编辑与RGBA图层生成,用在线策略蒸馏保住编辑先验,支持层数与每层内容控制。
Wen Xue, Yong Liu, Xueheng Li, Si Wu, Yong Xu, Yipeng Sun, Yan Li, Simiu Gu
2026-10-23
Flow Matching
RGBA
可控生成
图像编辑
图层分解
用RL训练学生初始化的出题器,生成能最大化教师监督信号的蒸馏问题
Jiashuo Sun, Hao Zhang, Xueqiang Xu, Heng Wang, Yixuan Xie, Pengcheng Jiang,...
2026-10-21
LLM推理
合成数据
在线策略蒸馏
强化学习
知识蒸馏
在教师RL轨迹中插入中间检查点,用早/晚两段偏移的方向一致性门控终点偏移信号。
Bingxi Hou, Guochao Jiang, Guofeng Quan, Weiqing Li, Wenfeng Feng, Guohua...
2026-10-16
代码生成
在线策略蒸馏
弱到强泛化
强化学习
数学推理
教师会跟随学生错误但仍能识别错误,CriticOPD 用批评引导改写恢复蒸馏监督可靠性
Kaixiang Zhao, Tianrun Yu, Shangzhe Li, Yuxiao Yang, Amanda Hughes, Weitong...
2026-10-15
在线策略蒸馏
大语言模型推理
数学推理
特权信息
知识蒸馏
纯在线回归蒸馏配训练专用 Pivot 残差与教师排斥项,4 步生成媲美甚至超越多步教师
Jiawei Zhang, Ziyu Wan, Nanye Ma, Long Zhao, Dong Chen, Hongyu Liu, Qifeng...
2026-10-14
在线策略蒸馏
少步蒸馏
扩散模型
流匹配
视频生成
提出Semi-OPD,用初始学生的离线轨迹蒸馏,14/17组师生对上胜过在线蒸馏并提速至11.4倍
Siyan Zhao, Yonggan Fu, Jindong Jiang, Shih-Yang Liu, Song Bian, Byung-Kwan...
2026-10-12
后训练
在线策略蒸馏
大语言模型推理
知识蒸馏
训练效率
把专家与参考模型的策略差异当作隐式奖励做任意到任意的蒸馏,并系统刻画何时可迁移
Rong Wu, Daocheng Fu, Yu Yang, Xuemeng Yang, Siqi Li, Shu Zou, Yao Zhu,...
2026-10-12
在线策略蒸馏
大模型后训练
强化学习
相对策略差异迁移
隐式奖励
教师即隐式奖励模型:在线蒸馏只放大既有能力,偏好偏置导致奖励黑客式坍塌。
Han Cui, Jianhao Yan, Yun Luo, Hongbo Zhang, Zhizhang Fu, Yue Zhang
2026-10-08
在线策略蒸馏
大语言模型后训练
奖励黑客
强化学习
知识蒸馏
在rollout阶段混入更弱负策略的序列,不改蒸馏奖励即为OPD补上负向信号并全面提升
Jaehui Hwang, Dongyoon Han, Sangdoo Yun, Byeongho Heo
2026-10-08
LLM后训练
在线策略蒸馏
推理增强
知识蒸馏
负样本学习
用教师减基座的偏移替代端点目标做MOPD,目标更近更均衡,省35%算力
Hejian Sang, Zhengze Zhou, Shayan Mohajer Hamidi, Xiaomin Li, Rohit Jain,...
2026-10-08
后训练
在线策略蒸馏
多教师学习
大语言模型
知识蒸馏
验证器决定哪些失败轨迹获得教师引导,按组难度加权,弥补GRPO盲区
Karn Tiwari, Varnith Chordia, Prathosh A P
2026-10-07
GRPO
RLVR
代码生成
在线策略蒸馏
大语言模型
用评分标准做特权在线蒸馏热启动,再接rubric RL,得分更高且几乎不奖励作弊
Xinpeng Wang, Wei Shi, Yu-Chia Chen, Maria Zontak, Yun He, Richard Yuanzhe Pang
2026-10-07
LLM对齐
在线策略蒸馏
奖励作弊
强化学习
知识蒸馏
解剖MOPD中损失加权、Adam动量与BF16精度如何筛选教师信号并决定任务收益
Siqi Zhu, Suozhi Huang, Kaixuan Zhang, Yuheng Yang, Zhanyang Jin, Yihang...
2026-10-05
LLM后训练
优化器分析
在线策略蒸馏
多教师蒸馏
损失加权
RIDE在表征空间沿RL诱导残差外推蒸馏目标,让学生稳定超越RL教师
Hao Li, MeiJia Chen, Weijie Ren, Donghan Li, Zijun Tian, Jingchun Huang, Naibo Wang
2026-10-01
在线策略蒸馏
大语言模型推理
强化学习
知识蒸馏
表征学习