RL后训练用解覆盖率换取采样效率:锐化税量化此代价,PTGS按题难度自适应调温减税
Changdae Oh, Qi Zeng, Qi Qi, Andrey Zhmoginov, Deren Lei, Yun He, Hoang...
LLM智能体
pass@K覆盖率
强化学习后训练
测试时扩展
贝叶斯自适应采样
以主动生成为统一接口,让流式视频模型边观察、边记忆、边及时响应
Xiangyu Zeng, Yuandong Yang, Zhiqiu Zhang, Yuhan Zhu, Xinhao Li, Qingyi Si,...
主动响应
多模态大模型
数据合成
流式视频理解
视频记忆
连续潜轨迹持续去噪,每步从中读出token并回喂作支架,让并行解码不再边际独立。
Hui Ren, Zihan Li, Chang Liu, Huidong Liu, Alexander Schwing
变分推断
扩散语言模型
流匹配
离散-连续混合扩散
结构化推理
联合生成视角行动者与全景观察者,让视野外区域持续演化、重入时状态一致。
Hyunwook Choi, Dahyun Chung, Hyunsung Kim, Siyoon Jin, Jinhyeok Choi,...
世界模型
全景视频
具身智能
扩散Transformer
自回归生成
PoS为LLM智能体维护显式信念状态,检测并恢复信念陷阱,四个基准全面领先。
Yu Luo, Jiamin Jiang, Yimin Zuo, Xidao Wen, Rongchen Gao, Yongqian Sun,...
LLM智能体
上下文管理
信念状态
推理时框架
长程决策
用真实文件证据图合成可验证任务,微调出更强的实战智能体
Qisheng Su, Hanchen Wang, Guanru Zhu, Huicheng Jiang, Qiuyinzhe Zhang, Kou...
LLM智能体
工作智能体评测
拒绝微调
训练数据合成
证据图
将训练场景选择建模为非平稳多臂老虎机,让优化课程与harness共同演化
Sungho Park, Wonjoong Kim, Jue Zhang, Wook-Shin Han, Pengfei Gao, Chanyoung...
Harness优化
LLM智能体
多臂老虎机
探索-利用权衡
自动课程学习
用类BPE方法从轨迹中零LLM调用挖掘技能树,并以数据、奖励、上下文三种方式注入智能体训练
Sitao Cheng, Xunjian Yin, Zhiyuan Sun, Yuxuan Li, Ruiwen Zhou, Xiangru Jian,...
LLM智能体
奖励塑形
层次化技能学习
强化学习
经验复用
用技能的结构先验同时塑形训练泛化并指导运行时技能选择组合
Puming Jiang, Tianrun Hu, Haozhe Du, Yibo Li, Zhiwei Xue, Xinhu Li, Harold Soh
LLM智能体
分布外泛化
扩散策略
技能组合
机器人操作
复用MoE路由为离散共享潜变量,混合因子化专家,突破扩散语言模型因子化误差,大幅改善少步生成。
Arseny Ivanov, Alexander Kolesov, Alexander Korotin, Ivan Oseledets, Mikhail...
变分推断
少步生成
扩散语言模型
混合专家 MoE
离散潜变量
用引擎记录的可回放世界状态与时间戳事件,检验视频模型是否忠实渲染程序规定世界
Zheng-Hui Huang, Guixu Lin, Yu-Ju Tsai, Jian-Kai Zhu, Fengbo Lan, Yu-Lun...
世界模型
交互保真度
可编程世界
基准评测
视频生成
首个工具中心的第一视角视频数据套件与诊断基准,揭示视频大模型的工具推理短板
Shulin Tian, Junsu Kim, Shuai Liu, Hao Li, Yujiao Shen, Sihan Li, Zhe Yang,...
具身智能
工具使用推理
第一视角视频理解
视频指令微调
视频问答基准
用外部技能库检索加跨框架适配,替代昂贵rollout试错来初始化并迭代优化智能体技能
Jaewon Chu, Ji Soo Lee, Jihwan Park, Dohwan Ko, Jeehye Na, Seunghun Lee,...
LLM Agent
技能优化
提示优化
检索增强
跨域迁移
免部署软件环境,用图像生成器合成 GUI 训练轨迹并成功迁移
Cheng Yang, Yifan Wu, Yutao Huang, Zhaohua Zhang, Beiduo Chen, Muxi Chen,...
GUI智能体
世界模型
后训练
图像生成
数据合成
强到弱蒸馏中,KL方向与学习率而非rollout策略决定性能、遗忘与更新稀疏性。
Julianna Piskorz, Antonin Berthon, Mihaela van der Schaar
KL散度
RLVR
在线学习
大语言模型后训练
灾难性遗忘
用活跃组密度解释并校准多奖励RL中各奖励的学习信号强度,加速稀疏目标学习
Tong Zheng, Skylar Zhai, Zhan Cheng, TianMing Sha, Youling Huang, Shuo Zhou,...
GRPO
LLM后训练
多奖励优化
奖励聚合
强化学习
把一次性动作采样改为通信轮次内的迭代意图去噪,让智能体在承诺前耦合随机选择
Valeriy Vyaltsev, Anton Andreychuk, Taisia Zlotnikova, Konstantin Yakovlev,...
去中心化执行
多智能体路径寻找
大规模协同
学习通信
组相对强化学习
冻结人形控制器,用LLM在测试时进化分阶段奖励程序,零训练解锁新移动操作技能
Zhuo Lin, Sirui Xu, Liuyu Bian, Yu-Xiong Wang, Liang-Yan Gui
LLM智能体
人形机器人
奖励设计
测试时扩展
移动操作
结合事件历史推理与主动视角选择,零样本抓取被遮挡的事件指称目标
Hyunjoon Lee, Haebeom Jung, Eunsung Cha, Daeun Lee, Yu-Chiang Frank Wang,...
主动感知
具身智能
多模态大模型
机器人抓取
零样本学习
冻结模型只能跟随1.4–3.6行引用链,单层rank-8 LoRA启动中继将其扩展到50–160行
Zehao Jin, Ruixuan Deng, Junran Wang
参数高效微调(LoRA)
因果干预/激活修补
引用跟随/多跳推理
循环深度模型
机械可解释性
从505张真实户型图SFT加GRPO规则奖励,直接生成可编辑家具布局并转3D场景
Fedor Rodionov, Aleksandar Cvejic, Michael Birsak, John Femiani, Peter Wonka
GRPO
场景生成
多模态大模型
布局生成
强化学习
缩放T5Gemma-2嵌入并蒸馏解码概率,使连续扩散语言模型生成更有效。
Zekai Zhang, Yunjie Tian, Yanjin He, Xiaoyan Zhang, Dongdi Zhao, Qing Qu, Di Fu
扩散语言模型
文本嵌入
文本生成
潜在扩散
知识蒸馏
用Python代码单元组合机器人原语并按需返回观测,成功率+14%、Token省65%
Ruiyang Si, Jianxin Bi, Shunyu Yang, Rui Ni, Wenbo Huang, Qiang Wang,...
Token效率
VLM智能体
代码生成
具身智能
机器人操作
构建感知-推理-评估闭环基准,系统诊断16个VLM的物理理解短板
Xinge Peng, Yiting Lu, Tianwu Zhi, Wen Wen, Jianzhao Liu, Xin Li, Zhibo Chen
基准测试
模型评估
物理智能
视觉语言模型
视频理解
用早期循环迭代对比引导最终预测,免费涨精度,或砍半算力不掉点
Weihao Liu, Huangjie Zheng, Tianrong Chen, Rohit Dilip, Richard He Bai,...
Looped Transformer
免训练
对比解码
推理时优化
测试时计算
用CTC单调对齐显式编码时序,让LLM在结构化证据上推理,免参考评判口型与文本是否匹配。
Rui Liu, Bhavin Jawade, Haoqi Li, Shivam Mehta, Karan Saxena, Yinghong Lan,...
CTC对齐
LLM推理
唇语同步
多模态
视频语言模型
用语义与几何双流正交表征对齐四个密集预测教师,加速并增强像素扩散训练
Lehan Yang, Daiqing Qi, Wenhao Zhang, Avery Li, Yiqing Yang, Yifan Li, Yu...
像素空间扩散
密集预测
扩散模型
文生图
表征对齐
首篇系统梳理视频生成后训练与对齐的综述:四族方法、数据基准与开放挑战
Chaoyu Li, Xiaoyi Gu, Yogesh Kulkarni, Eun Woo Im, Mohammadmahdi Honarmand,...
偏好优化
后训练
对齐
强化学习
扩散模型
首个评测视频模型能否以第一人称视角完成多步目标导向物理操作的基准与无参考自动评测管线。
Patrick Amadeus Irawan, Iskandar Muda Rizky Parlambang, Rava Maulana,...
世界模型
具身智能
无参考评估
第一人称视角
视频生成
提出修辞鲁棒性基准与双分支SciCore审稿框架,让AI审稿既抗措辞操纵又不丧失论文区分力
Chenguang Wang, Ming Li, Chengrui Fan, Jianpeng Chen, Han Chen, Tianyi Zhou,...
AI同行评审
LLM-as-a-Judge
LLM评估
科学评审
鲁棒性基准
对齐分词器与网络深度,把发送方KV缓存映射到接收方空间,跨模型家族免预填充直接解码
Vincent-Daniel Yun, Woosang Lim, Haneul Yoo, Sungjoo Yoo, Murali Annavaram,...
KV缓存迁移
LLM推理加速
异构多智能体系统
跨分词器对齐
输出感知校准
以完整物体网格加逐帧刚体变换的4D场景,精确控制视频里的相机与物体运动
Wei Cao, Hao Zhang, Vikram Voleti, Yuqun Wu, Mallikarjun B R, Shimon Vainer,...
3D场景表示
可控扩散模型
数据集构建
相机与物体轨迹控制
视频世界模型
用皮尔逊相关系数替代协方差做归一化,让大尺度奖励不再主导多奖励 GRPO 的优势估计
Wenbin Hu, Huihao Jing, Haochen Shi, Yuxuan Liu, Haoran Li, Yangqiu Song
Agent 安全
GRPO
LLM 训练
多奖励学习
强化学习
以三轴滑动窗口切片潜变量取代体素token,单阶段生成拓扑正确的高分辨率3D形状
Tianjiao Yu, Xinzhuo Li, Yifan Shen, Ying Shen, Kiet A. Nguyen, Adheesh...
3D生成
变分自编码器
图像转3D
拓扑保持
持久同调
构建模拟外卖平台的235表ERP仓库,按行动后果评测数据Agent,最强模型仅解决34.8%
Gabriel Tomitsuka, Arman Raayatsanati, Emma Xing, Duke Gand, Joseph J Ma
ERP数据仓库
Text-to-SQL
基准评测
数据Agent
模拟环境
全连续统一模型:用单一流匹配目标在嵌入空间联合建模文本与图像
Hongyuan Tao, Xinggang Wang, Lianghui Zhu, Yongkang Li, Yunchao Wei, Bin...
多模态统一模型
文本生成图像
流匹配
视觉问答
连续生成
构建受控测试床,系统评测大模型理解并改进训练数据的数据智能
Ruifeng Yuan, Yizhi Li, Yaxin Du, Fengyu Cai, Yiqi Liu, Hou Pong Chan,...
LLM评测基准
数据智能
知识注入
自动研究Agent
训练数据优化
学习式目录策展加 GRPO 后训练,让 LLM 商品搜索平均提升 14 分
Chuxuan Hu, Hejie Cui, Norman Huang, Shubham Kumar Bharti, Wang-Chiew Tan,...
LLM
上下文工程
信息检索
后训练
强化学习
动态跨模态路由定位更新位置,偏好保持的奖励协调改进音视频扩散后训练
Songlin Yang, Xiaotong Zhao, Jiacheng Zhang, Zhe Wang, Toyota Li, Eric Liu,...
DiffusionNFT
多目标优化
奖励路由
扩散模型强化学习
音视频生成
冻结文本骨干作锚点,用稠密字幕自蒸馏把六种模态绑入同一嵌入空间且文本检索零退化。
Mohammed Irfan Kurpath, Jaseel Muhammad Kaithakkodan, Sahal Shaji...
Matryoshka表示学习
参数高效微调
多模态嵌入
灾难性遗忘
知识蒸馏
为编码Agent定制检索语料与草稿长度策略,检索式投机解码最高加速4.76倍
Sumin Lee, Sukmin Cho, Suengjae Lim, Youngjin Kwon
LLM推理加速
投机解码
检索增强生成
系统优化
编码Agent
7B至72B学生实验证明:小模型生成拒绝样本更省算力且训练效果更强
Rui Cai, Wenhui Zhu, Xiwen Chen, Jincheng Cao, Han Yu, Shayan Mohajer...
DPO
LLM对齐
偏好蒸馏
数据设计
知识蒸馏
用611例真实肿瘤会诊录像构建双任务基准,揭示最强LLM与真实专家决策仍有显著差距
Anqi Li, Zhixuan Ge, Yixuan Duan, Jiarong Qian, Chi-Yu Chen, MingYu Lu,...
LLM评测
医疗大模型
基准数据集
多智能体临床决策
强化学习后训练
将特权教师参数邻域的扰动专家组成池,逐状态路由监督以增强在线自蒸馏
Xincheng Wei, Yifan Ding, Yoshua Li, Yuquan Lu, Ziheng Li, Yi Lu, Dongsheng...
LLM后训练
在线策略学习
数学推理
模型合并与扰动
知识蒸馏
提出HIDE隐状态记忆基准与SEEK三记忆机制框架,平均成功率较最强基线提升11.7个百分点
Yansong Shi, Jiange Yang, Xijie Yang, Shaowei Zhang, Yuhan Zhu, Tao Lu, Limin Wang
POMDP
基准测试
机器人操作
行为克隆
记忆增强策略
VGBENCH 基准揭示音频 LLM 认得命令却不会因声学上下文收手,后训练可学会门控
Yanjie Zhang, Nanchen Hu, Yushi Sun
后训练
基准测试
工具调用
语音智能体
音频大语言模型
教师看空间提示、学生只看图,3000张合成计数图自蒸馏出可迁移的真实视觉感知
Sophia Sirko-Galouchenko, Monika Wysoczanska, Andrei Bursuc, Nicolas Thome,...
合成数据
后训练
多模态大模型
特权信息
策略内自蒸馏
将全模态大模型改造成主动取证智能体,多轮检索音视频证据并强化双模态依赖
Haibo Wang, Jiteng Mu, Jialu Li, Jingru Yi, Yuanjun Xiong, Jianming Zhang,...
全模态大模型
多轮推理
强化学习
数据合成
智能体工具调用
将引导强度校准为行为分数:特质描述选特质,请求分数换算为流时间以精确控制表达强度
Zehao Jin, Junran Wang, Ruixuan Deng, Jiahao Chen, Jingyuan Zhang, Yuxuan...
人格控制
可解释性
流匹配
激活引导
行为校准
配对冻结预测协议测得:自然解释对实验预测无显著增益,仅降低重复漂移
Jingjie Ning, Xueqi Li, Yibo Kong, Dongting Li
AI科研智能体
可解释性
实验方法论
科学预测
解释评估
提出INTENTFLUX基准量化意图漂移,STATEFORGE显式状态折叠部分修复损失
Yanjie Zhang, Bowen Cao, Zixin Chen, Yushi Sun
LLM智能体
基准评测
多轮对话
意图漂移
状态跟踪
以DVSPEC声明式规范统一图表、旁白与动画,两阶段多智能体自动生成叙事连贯的数据视频
Yupeng Xie, Zhenyang Wang, Liangwei Wang, Jiayi Zhu, Zhouan Shen, Yuyu Luo
人机协作
可视化
声明式规范
多智能体系统
数据叙事
跨异构环境情节式预训练出的冻结路由器,仅凭行为上下文即可适应新领域、新模型与新模态
Guannan Lai, Han-Jia Ye
LLM路由
上下文学习
基础模型
多模态
模型复用
提出SAGO框架,以逐实例多轴行为稳定性取代聚合准确率来评估LLM泛化
Nagham Omar, Mahmoud Jabarin, Maya Rozenshtein, Rom Himelstein, Avi...
LLM评估
可解释性
提示词敏感性
泛化
鲁棒性
NEEDLE:免训练的权重正交化方法,定向清除LLM后门同时保住拒绝行为与模型能力
Minoo Kim, Vasileios Lampos, George Drayson
LLM安全
后门攻击防御
数据投毒
模型编辑
激活转向
首个Kali Linux细粒度安全命令生成基准,免运行时奖励训练使8B模型媲美685B
Pengfei Li, Naufal Suryanto, Sicheng Zhang, Muzammal Naseer
LLM智能体
基准测试
工具调用
强化学习
网络安全
用DPP建模模型互补性,自适应选择互补模型子集,最大化至少一个答案正确的概率
Wang Wei, Harry Yang, Tiankai Yang, Samyadeep Basu, Hongjie Chen, Andy Zhao,...
LLM路由
子集选择
模型互补性
自适应推断
行列式点过程