用工具执行结果构造轮次级多视野事后监督,自适应调制强化学习优势。
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
在Transformer中间层插入可优化潜在态,借自注意力直接回传奖励梯度优化测试时推理。
将特权偏移重解为反事实敏感度,重分配 GRPO token 信用以提升长链推理。
用有限动作菜单重构检索接口,解决检索等价坍缩
用反事实回放为GRPO分配令牌级信用,无需训练评分器即可提升指令跟随RL效果
把游戏求解器的状态价值变化转成逐回合信用信号,注入 RLVR 实现无需 logits 的策略蒸馏
H2SD:混合后见自蒸馏
👍 8按轨迹正确性分流的混合自蒸馏框架,统一RLSD稳定优化与OPSD方向纠正。
探究 Muon 优化器在不同优势估计器的长程 Agentic RL 中的效果
用结构化依赖图做反向因果切片,把执行轨迹蒸馏为高信噪比的优化证据
为智能体RL的每个动作片段判定语义角色,按角色修正GRPO信用分配
通过差分答案探针奖励和结果门控优势路由,精确评估视觉工具调用的贡献并智能控制工具使用
把RL粒度从token拉到step,对齐MDP与信用分配单元。
提出FlowTracer框架,通过注意力图谱追踪信息流实现token级别的精准信用分配
提出 DistIL 算法,通过前向交叉熵和序列级信用分配解决自蒸馏方法的单调性缺陷
内省式识别冗余步骤并以掩码偏好学习折叠推理链,token减半
用梯度-激活显著性重加权GRPO的token级优势,提升数学推理。
在RLVR中引入时间调度维度,按时序从后向前渐进优化轨迹百分位token
用全轨迹后视分析挑选失败步骤,仅在相关动作片段做反馈条件蒸馏。
把难题拆成可验证子问题序列,用子问题级信用分配强化LLM推理
用正反答案对比信号解决 RLVR 中 token 级信用分配难题