让终端智能体从自身失败轨迹学习恢复,SFT冷启动加在线RL实现自我改进。
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
技能优势藏在隐藏态而非输出概率,对齐特权自我的逐层隐藏态即可传递后见之明
从仅结果奖励的强化学习中诱导过程监督
👍 13仅用结果对错做RL奖励,让生成式PRM的思维链自发学会逐步过程验证
用深度/语义/BEV文本线索作训练特权,仅蒸馏错误轨迹,部署模型保持纯RGB推理
自回顾蒸馏:将事后经验转化为先验前瞻
👍 166把事后轨迹的教训蒸馏为交互前预判,让全对或全错的轨迹也能产生学习信号
用因果过渡CoT数据加工具增强GRPO,让4B模型在视频事件预测上以小博大刷新SOTA。
共享策略同时学执行与提技能,用既有轨迹的动作似然对比免额外rollout评估技能
OnePO 把教师输出当瞬态引导,纯 RL 完成医学领域自适应并超越 SFT+RL。
把逐词生成推理改为从可复用候选库中选择,推理延迟降90%以上且性能持平
验证器决定哪些失败轨迹获得教师引导,按组难度加权,弥补GRPO盲区
良性SFT大幅削弱智能体后门、RL保留甚至放大残余后门,攻击者可刻意增强其持久性
个人LLM智能体用跨平台历史中介平台推荐,PAMO教它何时干预何时保留
把全双工语音RL的“何时说”与“说什么”拆成两级策略,用事件因果掩码精确分配信用。
GRPO 识别的累积更新方向可将泛化优势迁移给 SFT
证据感知记分加量规自适应修订,消除量规RL中的虚空记分
用活跃组密度解释并校准多奖励RL中各奖励的学习信号强度,加速稀疏目标学习
从505张真实户型图SFT加GRPO规则奖励,直接生成可编辑家具布局并转3D场景
用皮尔逊相关系数替代协方差做归一化,让大尺度奖励不再主导多奖励 GRPO 的优势估计
用答案对比定位监督位置、视觉对比定义监督内容,让潜在视觉推理真正扎根图像证据
定向自蒸馏训练小型顾问模型,为冻结前沿LLM提供有效建议