用行动前预测与事后结果的差距加权梯度,让校准能力随训练自动涌现
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
三阶段解耦训练,让人形机器人仅凭机载RGB-D视觉实时接住人类抛来的纸箱
蚂蚁集团推出统一OCR基础模型家族PolyOCR,用数据引擎加CGPO后训练在五大基准达到SOTA
从仅结果奖励的强化学习中诱导过程监督
👍 13仅用结果对错做RL奖励,让生成式PRM的思维链自发学会逐步过程验证
训练时用密集帧当参考,让模型仅凭稀疏帧也能可靠定位与问答
把专家与参考模型的策略差异当作隐式奖励做任意到任意的蒸馏,并系统刻画何时可迁移
面向多智能体系统的心理模型框架
👍 5让智能体学习摊销式递归心理理论隐状态并耦合奖励模型,训练出可独立部署的伙伴建模策略
小米用三维度规模化智能体强化学习,把万亿参数全模态模型推向前沿智能体水平。
以视觉接地证据图统一单图、多图与视频深度研究的8B开源智能体
VibeEdit:基于画布指令的图像编辑
👍 16在图上圈选、涂鸦、拖箭头并写简短注释即可精准局部编辑,无需文本提示词
把成功经验存成视觉技能卡,检索后同时指导推理与奖励,与策略优化闭环共进化
用α散度变分推导的双分支核替代裁剪,修复RLVR离策略训练的梯度饥饿
用空间画布加四种绑定取代纯文本提示,让海报构图意图可直接在二维空间中组合表达。
质疑问题:维持推理模型的自进化
👍 48给自生成问题加上有效性与新颖性双重质检,让推理模型自进化十轮持续涨点
在线蒸馏中的增益与坍塌:一个强化学习视角
👍 29教师即隐式奖励模型:在线蒸馏只放大既有能力,偏好偏置导致奖励黑客式坍塌。
基于标量伴随匹配的Q学习
👍 25用闭式标量伴随免去逐步VJP,微调流策略做离线RL,OGBench最难域提升18-35点
用因果过渡CoT数据加工具增强GRPO,让4B模型在视频事件预测上以小博大刷新SOTA。
半事实信用增强策略优化
👍 14用半事实扰动下的token概率稳定性修正GRPO优势,实现细粒度信用分配,提升推理与鲁棒性
以采样器为锚的 KL 正则策略优化:免 critic、单 rollout,适配异步智能体训练
用适应度驱动的技能生命周期让技能库与RL策略协同进化,退役过时技能并变异重塑中等技能