找到 116 条结果

定位模型推理中的过度思考状态,从同一状态重生成更短续写,用局部偏好对训练模型学会何时停止。

Muyao Yuan, Liyan Xu, Weizhan Zhang, Muyan Jiao, Jiangnan Li, Jinchao Zhang, Jie Zhou 2026-11-04
DPO 偏好学习 大型推理模型 推理压缩 数学推理

教师会跟随学生错误但仍能识别错误,CriticOPD 用批评引导改写恢复蒸馏监督可靠性

Kaixiang Zhao, Tianrun Yu, Shangzhe Li, Yuxiao Yang, Amanda Hughes, Weitong... 2026-10-15
在线策略蒸馏 大语言模型推理 数学推理 特权信息 知识蒸馏

在学生轨迹的关键决策点重采样分支续写,扩展教师监督覆盖,全面超越单/多轨迹 OPD。

Dongyang Chen, Shudong Liu, Shubo Li, Duoxun Tang, Jinwei Liang, Zehuan Wu, Lewei Lu 2026-10-13
LLM智能体 分支采样 在策略蒸馏 大模型推理 数学推理

不更新参数,把师生知识差距蒸馏成可跨模型复用的自然语言教材Primer

Zhanyi Lu, Huan Wang 2026-10-12
上下文学习 代码生成 免参数更新 数学推理 知识蒸馏

给自生成问题加上有效性与新颖性双重质检,让推理模型自进化十轮持续涨点

Jinyuan Li, Chengsong Huang, Langlin Huang, Donghong Cai, Shiping Gao, Yuyi... 2026-10-08
强化学习 数学推理 数据质量 自我博弈 自进化

用15语言符号化数学基准,联合量化模型规模、语言资源、推理与类型距离对跨语言迁移的影响

Kenneth Enevoldsen, Riley Herchert, Sofie Mosegaard, Dan Saattrup Smart,... 2026-10-05
LLM评测 基准数据集 多语言评估 数学推理 统计建模

将特权教师参数邻域的扰动专家组成池,逐状态路由监督以增强在线自蒸馏

Xincheng Wei, Yifan Ding, Yoshua Li, Yuquan Lu, Ziheng Li, Yi Lu, Dongsheng... 2026-10-02
LLM后训练 在线策略学习 数学推理 模型合并与扰动 知识蒸馏

OPD峰值精度可由师生规模与教师分数用幂律提前预测,弱教师能把大模型教得超过自身

Yuntai Bao, Qinfeng Li, Guoqing Jiang, Liwei Chen, Zhiheng Qin, Xuanping Li,... 2026-09-30
在线策略蒸馏 弱到强泛化 强化学习 数学推理 缩放定律