在固定 GPU 预算下让 GRPO 训练跑到 2M+ token 上下文
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
首个无需语言监督、直接在视觉空间学习异构推理任务并配套 VR-X 基准的框架
用强化学习训练智能体 RAG 协调语义检索、关键词检索与段落读取三类工具。
通过步骤级奖励重塑解决医学VQA早期推理级联失败问题
揭示 GRPO/Dr. GRPO/DAPO 是对组标准差的三种操作
为智能体RL的每个动作片段判定语义角色,按角色修正GRPO信用分配
通过差分答案探针奖励和结果门控优势路由,精确评估视觉工具调用的贡献并智能控制工具使用
将RLHF和OPD应用于扩散模型,提升图像生成与编辑质量
利用3D视觉基础模型提供密集可验证奖励,提升多视图空间推理能力
通过惊异度引导的令牌级优势重加权解决GRPO训练中的策略熵坍塌问题
面向全模态任务的多智能体编排框架与决策对齐强化学习方法。
用冻结小模型为大模型 GRPO 生成探索性 rollout,渐进切入到自采样的 S2L-PO 框架
通过多视图GRPO与自验证锚点,解决GUI定位RL训练奖励退化问题。
用层次化强化学习让LLM边读边想并自动分配计算
用双判官注入已知偏差构建可控环境,复现并自动检测rubric-RL奖励黑客
MemTrain:自监督的上下文记忆训练
👍 18自监督双代理任务(端到端重建+中间记忆召回)预训练LLM记忆能力。
以欠优化区域挖掘与CPT-SFT-RL渐进训练把0.9B文档解析模型推至新SOTA。
用感知扰动构造数据集并经GRPO批排序奖励训练判官,缓解其重文本轻视觉的偏差。
用梯度-激活显著性重加权GRPO的token级优势,提升数学推理。
系统研究多智能体RL训练LLM工作流,揭示IP/SP策略共享的梯度机制与失败模式