通过成对比较和联合训练统一生成与验证,提升并行推理性能
Harman Singh, Xiuyu Li, Kusha Sareen, Monishwaran Maheswaran, Sijun Tan,...
2026-03-05
代码生成
并行推理
强化学习
数学推理
测试时扩展
提出多智能体框架,利用代码驱动的探索自动将数学问题演化为更难的变体
Dadi Guo, Yuejin Xie, Qingyu Liu, Jiayu Liu, Zhiyuan Fan, Qihan Ren, Shuai...
2026-03-04
代码智能体
多智能体系统
数学推理
测试时扩展
问题生成
通过参考引导微调(ReGFT)合成模型自有推理轨迹,解决RL训练中的奖励稀疏问题
Yangzhen Wu, Shanda Li, Zixin Wen, Xin Zhou, Ameet Talwalkar, Yiming Yang,...
2026-03-03
大语言模型
奖励稀疏
强化学习
推理能力
数学推理
通过双尺度多样性正则化促进LLM推理中的深度探索
Zhongwei Wan, Yun Shen, Zhihao Dou, Donghao Zhou, Yu Zhang, Xin Wang, Hui...
2026-02-24
RLVR
多样性探索
大语言模型推理
强化学习
数学推理
提出10.3万规模的多模态数学数据集,通过三阶段自动清洗管道构建,显著提升视觉推理能力
Haoxiang Sun, Lizhen Xu, Bing Zhao, Wotao Yin, Wei Wang, Boyu Yang, Rui Wang, Hu Wei
2026-02-23
多模态推理
强化学习
数学推理
数据集构建
视觉语言模型
将视觉推理重构为逻辑解压,通过极简DSL草稿实现确定性视觉验证
Jingxuan Wei, Honghao He, Caijun Jia, Siyuan Li, Zheng Sun, Yuhang Xu,...
2026-02-13
DSL
多模态大语言模型
数学推理
条形图模型
视觉推理
GRPO的隐式优势对称性导致探索不足和难度适应差,A-GRAE通过非对称机制解决
Zhiqi Yu, Zhangquan Chen, Mengting Liu, Heye Zhang, Liangqiong Qu
2026-02-13
GRPO
LLM推理
优势估计
强化学习
数学推理
Aletheia 数学研究智能体实现自主证明与论文生成
Tony Feng, Trieu H. Trinh, Garrett Bingham, Dawsen Hwang, Yuri Chervonyi,...
2026-02-12
AI智能体
大语言模型
推理时缩放
数学推理
自主研究
用卡尔曼滤波平滑token级重要性采样比率,提升大语言模型强化学习的稳定性与效果
Shuo He, Lang Feng, Xin Cheng, Lei Feng, Bo An
2026-02-12
卡尔曼滤波
大语言模型
强化学习
数学推理
策略优化
通过两阶段迭代自我反馈机制提升LLM数学推理能力的强化学习算法
Ali Hatamizadeh, Shrimai Prabhumoye, Igor Gitman, Ximing Lu, Seungju Han,...
2026-02-11
GRPO扩展
强化学习
推理优化
数学推理
策略优化
用多样化推理大纲引导并行路径探索,突破大推理模型并行思维中的信息饱和瓶颈
Qi Guo, Jianing Wang, Deyang Kong, Xiangyu Xi, Jianfei Zhang, Yi Lu, Jingang...
2026-02-11
GRPO
信息论
大推理模型
并行思维
强化学习
复用训练中弱模型作为纠正信号,通过混合logit训练持续增强强模型
Zehao Chen, Gongxun Li, Tianxiang Ai, Yifei Li, Zixuan Huang, Wang Zhou,...
2026-02-10
后训练
大语言模型
数学推理
监督微调
知识蒸馏
通过Focal加权缓解群相对RLVR在中等组大小下的分布锐化问题,无需额外计算
Daniil Plyusov, Alexey Gorbatovski, Boris Shaposhnikov, Viacheslav Sinii,...
2026-02-09
GRPO
RLVR
分布锐化
大语言模型
强化学习
TRIT框架通过翻译与推理的相互强化,无需外部数据即可提升多语言长推理能力。
Junxiao Liu, Zhijun Wang, Yixiao Li, Zhejian Lai, Liqian Huang, Xin Huang,...
2026-02-09
多语言推理
强化学习
数学推理
机器翻译
语言对齐
PMD-MEAN通过均值奖励近似隐式引入KL-χ²混合正则化,提升LLM RL训练稳定性
Zhenghao Xu, Qin Lu, Changlong Yu, Tuo Zhao
2026-02-06
LLM后训练
强化学习
数学推理
正则化
策略镜像下降
通过回收被丢弃的中间计算信号,显著提升扩散语言模型的推理准确率
Yuezhou Hu, Harman Singh, Monishwaran Maheswaran, Haocheng Xi, Coleman...
2026-02-05
并行解码
扩散语言模型
数学推理
残差学习
高效推理
通过训练时注入自生成提示解决 GRPO 稀疏奖励下的优势崩塌问题
Baohao Liao, Hanze Dong, Xinxing Xu, Christof Monz, Jiang Bian
2026-02-05
GRPO
大语言模型对齐
强化学习
数学推理
策略优化
用 Beta 分布动态建模模型能力,自适应分配 RL rollout 预算以优化探索-利用权衡
Zhiyuan Yao, Yi-Kai Zhang, Yuxin Chen, Yueqing Sun, Zishan Xu, Yu Yang,...
2026-02-04
GRPO
LLM 推理
强化学习
数学推理
资源分配
Gemini Deep Think 作为研究合作者解决多领域开放问题
David P. Woodruff, Vincent Cohen-Addad, Lalit Jain, Jieming Mao, Song Zuo,...
2026-02-04
LLM应用
人机协作
数学推理
理论计算机科学
科学发现
提出DAIL自蒸馏方法,通过分布对齐和对比学习将专家解法转化为可学习的推理轨迹
Ethan Mendes, Jungsoo Park, Alan Ritter
2026-02-04
大语言模型
对比学习
推理增强
数学推理
自蒸馏