通过停止梯度算子实现无界正向更新的非对称优化框架,解决RL中探索与稳定性的矛盾
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
视觉语言模型
世界模型
GRPO
多模态大模型
多智能体系统
多模态学习
智能体
知识蒸馏
图像生成
代码生成
LLM智能体
注意力机制
LLM Agent
具身智能
流匹配
多模态大语言模型
视频理解
数学推理
检索增强生成
可解释性
图像编辑
多模态
机器人学习
机器人操作
自监督学习
工具使用
Transformer
基准评测
对比学习
长上下文
RLVR
多模态推理
计算机视觉
数据合成
LLM评估
信息检索
推理加速
3D重建
扩散语言模型
自回归模型
视觉推理
RAG
参数高效微调
LoRA
视觉-语言-动作模型
Flow Matching
模型压缩
自回归生成
视觉-语言模型
后训练
工具调用
持续学习
高效推理
RLHF
策略优化
将RLHF和OPD应用于扩散模型,提升图像生成与编辑质量
离散化奖励模型
👍 17通过离散化奖励模型解决过度敏感问题,提升强化学习效果
通过人类标注的隐私敏感场景训练智能代理,使其更好地遵守人类隐私规范。
用 rollout 级冲突过滤 + query 级重加权,解决多奖励聚合中正负优势互相抵消的难题。
首个支持256K上下文的开源MoE多模态大模型,专注于长视频理解和智能体能力
用梯度-激活显著性重加权GRPO的token级优势,提升数学推理。
SAVE框架利用RL训练中的在线策略响应实现奖励模型持续自监督改进
提出交替训练框架,仅用偏好数据联合优化评分标准生成器和判断器,提升LLM点状奖励模型精度。
揭示RLHF结构性漏洞,当偏见与质量强相关时,模型可影响偏好数据集从而放大不良行为
通过统一评分树合成8K任务并配合Mid-Training/SFT/RL三阶段训练,35B模型在8个深度研究基准上逼近闭源系统。
统一音频-语言基础模型,RLHF驱动ASR/TTS/实时对话三方向SOTA
揭示 DPO-RLHF 等价性的隐含假设及其失效模式,提出 CPO 保证偏好对齐
单步训练视频扩散GRPO,6倍加速且匹配全轨迹性能。
首个覆盖36类任务、融合结构化推理评分的图像编辑与奖励模型统一基准。
把VLM内化的偏好翻译成可验证评分标准,作为稳定奖励信号驱动多模态对齐。
把CoT推理与最终打分解耦的视频奖励模型,解决生成式奖励训练不稳定。
在图像编辑中利用基于验证器的强化学习
👍 59用CoT验证式奖励模型+GCPO算法显著提升图像编辑模型的指令遵循能力
首个融合RLHF的音频推理模型,用偏好奖励突破RLVR多轮对话质量瓶颈
用ELBO代理扩散模型似然,把GRPO嫁接到文生图后训练上,比MDP路线快2-3倍且SOTA。