通过解耦多奖励归一化解决GRPO信号坍塌问题,提升RL对齐效果
Shih-Yang Liu, Xin Dong, Ximing Lu, Shizhe Diao, Peter Belcak, Mingjie Liu,...
GRPO
LLM对齐
多奖励优化
强化学习
策略优化
首个将强化学习应用于夜间白平衡的框架,用5张训练图片实现跨传感器泛化。
Yuan-Kang Lee, Kuan-Lin Chen, Chia-Che Chang, Yu-Lun Liu
低光/夜间成像
强化学习
自动白平衡
色彩恒常性
计算摄影
通过引入可学习乘子打破权重衰减-噪声平衡,提升LLM预训练性能
Maksim Velikanov, Ilyas Chahed, Jingwei Zuo, Dhia Eddine Rhaiem, Younes...
µP
优化器
参数化
权重衰减
语言模型预训练
轻量路由器在每个解码步骤选择专家并提供互补logit,实现鲁棒的token级多LLM协作
Nuoya Xiong, Yuhang Zhou, Hanqing Zeng, Zhaorun Chen, Furong Huang, Shuchao...
LLM推理
token级路由
偏好优化
多模型协作
混合专家
提出自适应视频推理框架,只在必要时进行CoT推理,大幅提升效率同时保持准确率
Shuming Liu, Mingchen Zhuge, Changsheng Zhao, Jun Chen, Lemeng Wu, Zechun...
多模态大语言模型
强化学习
自适应推理
视频理解
链式思维推理
让小模型主动调用大模型,用1.07%的token成本恢复60%性能差距
Chengsong Huang, Tong Zheng, Langlin Huang, Jinyuan Li, Haolin Liu, Jiaxin Huang
GRPO
token-level路由
强化学习
模型协作
高效推理
提出AT2PO框架,通过熵引导树扩展、轮次级信用分配和轮次策略优化解决多轮智能体强化学习三大核心挑战
Zefang Zong, Dingwei Chen, Yang Li, Qi Yi, Bo Zhou, Chengming Li, Bo Qian,...
多轮推理
工具使用
智能体强化学习
树搜索
策略优化
通过视觉身份提示和多视角视频生成增强机器人操作数据
Boyang Wang, Haoran Zhang, Shujie Zhang, Jinkun Hao, Mingda Jia, Qi Lv,...
多视角学习
数据增强
机器人学习
视觉语言动作模型
视频生成
通过靶向约20%高熵token实现高效视觉-语言模型对抗攻击
Mengqi He, Xinyu Tian, Xin Shen, Jinhong Ni, Shu Zou, Zhaoyuan Yang, Jing Zhang
对抗攻击
模型鲁棒性
熵
自回归生成
视觉-语言模型
本文首次系统综述 Agent-as-a-Judge 范式,通过规划、工具验证、多智能体协作和记忆机制提升 AI 评估的鲁棒性和可验证性。
Runyang You, Hongru Cai, Caiqi Zhang, Qiancheng Xu, Meng Liu, Tiezheng Yu,...
AI评估
LLM-as-a-Judge
多智能体系统
工具增强推理
自动评估
提出4D几何控制表示,统一控制相机和多物体运动,生成高保真动态视频
Sixiao Zheng, Minghao Yin, Wenbo Hu, Xiaoyu Li, Ying Shan, Yanwei Fu
3D几何控制
多物体运动控制
扩散模型
视频世界模型
视频生成
MoE 模型未真正实现专业化,而是形成了跨域共用的专家委员会
Yan Wang, Yitao Xu, Nanhan Shen, Jinyan Su, Jimin Huang, Zining Zhu
Mixture-of-Experts
专家路由
模型可解释性
神经网络架构
将CoT推理重新表述为迭代去噪过程,通过扩散滑动窗口缓解错误积累
Shidong Cao, Hongzhan Lin, Yuxuan Gu, Ziyang Luo, Jing Ma
偏好优化
思维链推理
扩散模型
数学推理
错误修正
首个引入时空记忆机制的相机控制视频重渲染框架,实现多视图场景的一致性生成
Xiao Fu, Shitao Tang, Min Shi, Xian Liu, Jinwei Gu, Ming-Yu Liu, Dahua Lin,...
多视图一致性
扩散模型
时空记忆
机器人操作
相机控制
扩展行为克隆提升因果推理能力
Yuguang Yue, Irakli Salia, Samuel Hunt, Chris Green, Wenzhe Shi, Jonathan J Hunt
因果推理
多模态策略学习
扩展规律
行为克隆
视频游戏AI
训练无关的测试时框架,通过粗到细视点探索提升3D具身问答性能
Haoyu Zhao, Akide Liu, Zeyu Zhang, Weijie Wang, Feng Chen, Ruihan Zhu,...
3D场景理解
具身智能
测试时推理
空间推理
视觉-语言模型
单个精心设计的数学样本通过RL训练可跨学科提升推理能力
Yiyuan Li, Zhen Huang, Yanan Wu, Weixun Wang, Xuefeng Li, Yijia Luo, Wenbo...
多学科学习
强化学习
数学推理
数据效率
跨域推理
首个端到端训练的开源文档问答智能体,通过探索-合成数据管道在长文档理解基准上超越人类表现
Qintong Zhang, Xinjie Lv, Jialong Wu, Baixuan Li, Zhengwei Tao, Guochen Yan,...
信息检索
合成数据
多模态文档理解
文档问答
智能体
提出IC-CoT结构化推理和GRPO对齐训练,提升多参考图像的生成与编辑能力
Runze He, Yiji Cheng, Tiankai Hang, Zhimin Li, Yu Xu, Zijin Yin, Shiyi...
图像编辑
多模态生成
强化学习
链式推理
ReHyAt通过混合注意力将视频生成复杂度从二次降为线性。
Mohsen Ghafoorian, Amirhossein Habibian
模型蒸馏
注意力机制
移动设备
视频生成
长视频
多尺度推测解码加速自回归图像生成,实现5倍提速且质量不降
Elia Peruzzo, Guillaume Sautière, Amirhossein Habibian
加速推理
图像生成
多尺度
推测解码
自回归模型
通过低成本微调将预训练视频扩散模型转化为金字塔模型,实现4.5倍FLOPs降低且无质量损失
Denis Korzhenkov, Adil Karjauv, Animesh Karnewar, Mohsen Ghafoorian,...
扩散模型
模型加速
知识蒸馏
视频生成
金字塔采样
通过密集对应关系引导的跨视图上下文融合,实现无需渲染监督的开放词汇3D场景理解
Yen-Jen Chiou, Wei-Tse Cheng, Yuan-Fu Yang
3D Gaussian Splatting
3D场景理解
开放词汇理解
语义分割
跨视图一致性
提出百万级工业缺陷多模态数据集IMDD-1M及扩散模型基座,实现少样本缺陷检测与生成
TsaiChing Ni, ZhenQi Chen, YuanFu Yang
多模态学习
少样本学习
工业缺陷检测
开放词汇
扩散模型
用软件发布工程流程管理LLM智能体迭代,以翻转为中心的门控实现回归感知改进
Di Zhang
LLM智能体
发布工程
回归测试
自我改进
软件工程
提出细粒度属性解耦的CPO方法,将扩散模型从粗粒度二元偏好对齐提升到多维、离散、非均衡的专家评价标准
Chenye Meng, Zejian Li, Zhongni Liu, Yize Li, Changle Xie, Kaixin Jia, Ling...
DPO
偏好对齐
图像生成
多目标优化
强化学习对齐
提出HairGuard框架,利用图像抠图数据集提升软边界区域的深度估计和视角合成质量
Xiang Zhang, Yang Zhang, Lukas Mehl, Markus Gross, Christopher Schroers
图像抠图
新视角合成
深度估计
立体转换
软边界
系统研究3D生成模型如何记忆训练数据,并提出减少记忆化的实用策略
Shu Pu, Boya Zeng, Kaichen Zhou, Mengyu Wang, Zhuang Liu
3D生成
形状生成
扩散模型
泛化能力
记忆化分析
通过降维可视化VLM视觉嵌入空间,聚类定位性能瓶颈并针对性增强训练数据
Ignacio de Rodrigo, Alvaro J. Lopez-Lopez, Jaime Boal
可解释性
嵌入空间分析
数据增强
文档理解
视觉语言模型
提出多会话协作基准与记忆框架,使对话代理跨会话学习用户偏好并持续提升协作质量。
Shuhaib Mehri, Priyanka Kargupta, Tal August, Dilek Hakkani-Tür
人机协作
对话系统
强化学习
用户建模
长期记忆
通过教师-学生架构将训练时可用的特权信息(遮罩、深度等)蒸馏到学生模型,推理零开销提升检测精度。
Matthias Bartolo, Dylan Seychell, Gabriel Hili, Matthew Montebello, Carl...
教师-学生架构
无人机垃圾检测
特权信息学习
目标检测
知识蒸馏
构建15万小时10语言词级时间戳数据集,并训练TTS和语音编辑双模型验证其价值
Zhiyuan Zhao, Lijian Lin, Ye Zhu, Kai Xie, Yunfei Liu, Yu Li
Flow Matching
多语言
数据集
语音合成
语音编辑
单个安全样本即可恢复微调后LLM的安全对齐,且不损害任务实用性
Jiawen Zhang, Lipeng He, Kejia Chen, Jian Lou, Jian Liu, Xiaohu Yang, Ruoxi Jia
LLM-as-a-Service
低秩梯度分析
大模型安全
安全对齐
微调攻击防御