以验证器优势校准同模型密集自引导,用轨迹平衡拟合归一化目标分布实现自改进。
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
多模态
长上下文
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
评测基准
高效推理
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
自蒸馏
LLM评估
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
合成数据
模型压缩
用验证器抽检教师逐题可靠性,按提示在密集OPD与GRPO间独占路由
外推自身RLVR训练轨迹合成未来教师,把稀疏结果奖励转为密集token级监督
把4D空间推理分解为平面、深度、时间三个可验证奖励,让VLM在RL中学会真正的空间思维。
群体自适应裁剪策略优化
👍 9按组内答对数自适应调整裁剪边界,让稀有正确样本保留梯度,pass@1 与 pass@k 双升
RLVR的多样性坍缩集中在解题入口:模型不再发起替代解法,但给定入口仍能顺利执行
提出L0–L4递退监督阶梯,沿奖励与经验双轴梳理LRM超越人类监督的方法、风险与评测。
用数学教育学的启发式与语义空间解析LLM思维链,诊断推理失败并改进RLVR后训练
混合SFT以不到1/60的算力在RLVR后全面超越下一块推理RL
可验证奖励下的在策略蒸馏(OPDVR)
👍 18用一个 ReLU 门控把在策略蒸馏改造成合法的 RLVR 方法,零新增超参数
把KL正则从响应侧移到查询侧,稳住训练环境漂移又不牺牲探索
SFT 让模型改用希腊语推理,RLVR 修好格式缺陷,而准确率基准被 7.7 分种子噪声淹没
按目标剩余提升空间动态重加权组相对优势,把RL优化力度转向未饱和目标
验证器诱导的在线策略优化支持重塑
👍 6RLVR 在提升当前任务的同时,会把未来任务的成功轨迹挤到固定预算内难以采样
用变分后验采样扰动权重替代温度调节,为GRPO注入参数空间探索
RSTG在负零方差样本上选择性施加自适应蒸馏,恢复GRPO丢失的梯度信号
面向在策略蒸馏的稳定优势融合
👍 27提出SAF四阶段流水线融合GRPO与OPD优势,避免熵坍塌并稳定提升性能。
开源全栈OpenMLE训练元进化智能体,MLE-Bench Lite奖牌率达71.21%。
让多模态大模型学会按需调用视觉工具,既不过度也不漏用,真正提升能力。
把游戏求解器的状态价值变化转成逐回合信用信号,注入 RLVR 实现无需 logits 的策略蒸馏