通过优化输入图像而非模型权重,实现对冻结多模态LLM的非侵入式任务适配
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
提出 Feedback Distillation 方法,改进定理证明训练
用精确KL散度替代噪声比率裁剪,提升Flow模型RL微调效率
提出使用单个LLM同时扮演Agent和环境两个角色,实现自举式协同进化,在多任务基准中平均提升超过4%
重新思考大语言模型强化学习中的散度正则化
👍 34提出DRPO方法,用平滑正则化替代硬mask,改进LLM RL训练稳定性
用统一离散视觉token实现图像理解、生成和编辑的自回归模型
提出FlowTracer框架,通过注意力图谱追踪信息流实现token级别的精准信用分配
多块预测框架解决自回归视频世界模型训练中的短视监督问题
CapCode框架检测和防止编码代理作弊
CPPO通过位置加权阈值和累积前缀预算解决LLM强化学习中自回归生成的不对称性
强化学习中流策略的测试时梯度引导
👍 4QGF算法:测试时用Critic梯度引导流策略,避免反向传播
反馈对齐在自蒸馏中的作用
👍 3研究反馈结构对自蒸馏效果的影响,发现步骤对齐的反馈显著优于二值奖励和参考解
在线策略蒸馏的几何性质研究
👍 75从参数空间几何视角揭示OPD介于SFT和RLVR之间的独特更新轨迹与子空间锁定现象
通过轨迹锦标赛提取非多样化奖励组中的细粒度推理质量信号
提出多阶段门控机制,在保持准确率的同时将网络代理工具调用减少17%-58%
用集合距离奖励解决胸部X光报告生成的顺序无关性问题
通过异步系统设计和归一化修复,将视觉网页智能体的多步RL训练吞吐量提升2.9倍
通过Reward-Evaluation Skill统一异构奖励评估资源
提出hacker-fixer循环自动加固Agent基准测试验证器,防御reward hacking
基础LLM已具备预测外部judge评分的能力,仅需少量数据激发