用技能熵度量技能切换难度,构建Skill2-Bench基准并用Skill-Entropy RL训练
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
RSTG在负零方差样本上选择性施加自适应蒸馏,恢复GRPO丢失的梯度信号
面向智能体强化学习自蒸馏的持久一致性方法
👍 27按教师信号的局部持久性,为每个 token 分配自适应蒸馏权重。
DASH通过检测答案漂移为推理段落分配信用,在减少过度思考的同时提升准确率。
用工具执行结果构造轮次级多视野事后监督,自适应调制强化学习优势。
把技能生成建模为顺序编辑过程,用回滚奖励训练技能编辑策略
面向在策略蒸馏的稳定优势融合
👍 27提出SAF四阶段流水线融合GRPO与OPD优势,避免熵坍塌并稳定提升性能。
将特权偏移重解为反事实敏感度,重分配 GRPO token 信用以提升长链推理。
用统一策略在行动前依据当前状态重构检索经验,GRPO 端到端训练
用反事实回放为GRPO分配令牌级信用,无需训练评分器即可提升指令跟随RL效果
把游戏求解器的状态价值变化转成逐回合信用信号,注入 RLVR 实现无需 logits 的策略蒸馏
用于代码优化的强化学习
👍 13让RL真正学会写更快的正确代码:从测试、沙箱、奖励到GRPO全链路改造。
用轻量代理与容器编排解耦训练与推理,让任意 harness 和环境直接接标准 RL 训练
群组熵控制的策略优化
👍 29用群组熵引导的非对称优势塑形,缓解GRPO多任务训练的探索-利用失衡
将教师监督直接融入强化学习目标,通过反向重要性采样实现选择性知识迁移
用 MDLM 双向去噪打造可控文本世界模型,零样本提升 RL agent 达 47%
用国际象棋测试床建立预训练-RL联合缩放律并揭示RL机制
用参考答案引导的对比概率差作为token级正确性信号来塑形RLVR优势
让两个模型互相当考官,竞争式RL隐式评估推理过程质量。
把VLM二值自验证循环嵌入GRPO,无需外部监督大幅提升多模态推理