提出记忆固化问题与Cortex方法,把上下文增益蒸馏进FFN参数,CR/RR兼优
Jintian Zhang, Feng He, Xinnian Liang, Ziwen Xu, Haoming Xu, Haojing Huang,...
LLM智能体
MoE
上下文蒸馏
参数化记忆
持续学习
用非路由教师担任跨域评审员,以词元加权与预防性梯度投影协调多教师蒸馏。
Shi-Yu Tian, Yong Liu, Ximan Liu, Tianrui Zhu, Sule Bai, Xinwei Yang, Ruiqi...
LLM后训练
在线蒸馏
多教师蒸馏
梯度冲突
知识蒸馏
以场景与事件双记忆构建可查询的世界状态,实现长视频任意时空一致生成
Weijie Wang, Haomin Zhang, Ye Li, Akide Liu, Zeyu Zhang, Haoyu Zhao, Yefei...
3D场景记忆
智能体框架
视频生成
长视频一致性
SFT初始化后,在16个可验证奖励合成环境中做PPO,让游戏操控超越演示并泛化到未见游戏。
Mingyu Ouyang, Yiran Wang, Siyuan Hu, Xingyilang Yin, Huiqiang Sun, Guangzhi...
合成环境
后训练
强化学习(RLVR)
游戏智能体
计算机使用智能体
以语义动作为监督单元的黑盒在线蒸馏,让小模型 agent 对齐教师决策而非复刻词元
Huining Yuan, Xiangmin Yi, Zelai Xu, Zixu Wang, Xinlei Chen, Xiao-Ping...
LLM Agent
工具调用
知识蒸馏
策略优化
黑盒蒸馏
以双轴框架梳理297个多模态记忆架构与82个基准,刻画记忆从形成、维护到自我演进的完整生命周期。
Minghao Guo, Qingyue Jiao, Xiujin Liu, Jianhong Pang, Ruimeng Yang, Naihao...
基准评测
多模态智能体
智能体记忆
综述
自演化系统
让大模型按文档从零构建编码智能体框架,再用脚本化模型确定性评分
Yuyao Ge, Shenghua Liu, Peizhong Gao, Chendi Ge, Chenxu Liu, Yiwei Wang,...
基准构建
智能体评测
编码智能体
软件工程
统一评测10种自蒸馏方法:增益有限、训练不稳、高成本未必换来高性能
Linhao Zhong, Bozhen Fang, Xuehao Wang, Duochao Shi, Zekai Luo, Guangming...
GRPO
LLM智能体
基准评测
智能体强化学习
自蒸馏
压缩首次循环序列、省下算力加宽模型,同预算下循环MoE更准更省
Zefeng He, Yunkai Chai, Xiaoyang Chen, Tong Zhu, Zongliang Wu, Yun Luo, Yafu...
MoE
序列压缩
循环Transformer
缩放律
计算效率
以1.01亿对配对数据和掩码感知RoPE,把文生图先验改造成通用图像擦除基础模型
Yunuo Chen, Xiuyu Wu, Qinhong Yang, Jinjing Zhao, Yanchen Dong, Sirui Zhang,...
图像编辑
基础模型
强化学习
扩散模型
流匹配
INT4 KV缓存量化加选择性INT8保护,异步RLVR rollout提速1.8倍且精度不掉点
Sihwan Park, Sung-Yub Kim, Doohyuk Jang, Eunho Yang
GRPO
KV缓存量化
RLVR
大模型训练
异步Rollout
让 LLM 在潜空间高效思考、用文本调用工具,性能提升 10.4% 且成本降低 2.7–3.7 倍。
Jiaru Zou, Yunzhe Qi, Sirui Chen, Federico Bianchi, Shang Zhu, Pan Lu,...
LLM智能体
工具调用
强化学习
混合推理
潜空间推理
可控生成600轮可验证多智能体冲突任务,揭示模型发现冲突易、修复冲突难
Yuxiang Lai, Jike Zhong, Chengzhi Liu, Ming Li, Haonan Wang, Xiaofeng Yang,...
Computer Use
冲突解决
基准评测
多智能体系统
数据合成
首个用模型-数据-环境-执行框架四域17类体系统一梳理智能体机器人研究的系统性综述
Chonghan Qin, Dongming Wu, Kaituo Feng, Jiaxu Wang, Xinlei Yu, Peiwen Sun,...
VLA
世界模型
具身智能
智能体机器人
机器人系统
0.8B–27B 决策模型家族:单遍预测+置信度引导推理,RLCD2 大幅提升推理终止率与效率
Xialie Zhuang, Zunhai Su, Jia Pan, Ngai Wong, Guanhua Chen, Chuan-Wei Kuo
决策模型
强化学习
概率校准
自适应推理
高效推理
教师会跟随学生错误但仍能识别错误,CriticOPD 用批评引导改写恢复蒸馏监督可靠性
Kaixiang Zhao, Tianrun Yu, Shangzhe Li, Yuxiao Yang, Amanda Hughes, Weitong...
在线策略蒸馏
大语言模型推理
数学推理
特权信息
知识蒸馏
无思维模式的RL增益大部分来自重新激活原有思维模式,而非学到新推理能力
Wenxuan Zhu, Shuming Liu, Bang An, Aznaur Aliev, Bing Li, Yibo Yang, Bernard Ghanem
GRPO
强化学习
机制可解释性
混合推理
激活修补
11个前沿大模型在多文件复杂场景中规则推理全面吃紧,最佳端到端得分仅55.29%
Chenhao Yuan, Bohan Yu, Yinhao Xu, Chao Yin, Chenxi Zhou, Zhaoxuan Wang,...
LLM智能体
交互式工作区
基准评测
多文件场景
规则推理
首个贯通工具选择、站立使用与移动使用的 18 任务人形机器人基准
Kyochul Jang, Seohyeon Park, Ohchul Kwon, Sangjun Park, Junhyeok Choi,...
人形机器人
具身智能
基准评测
工具使用
机器人操作
在大型共享职业工作区中系统评测长程智能体对提示注入与脚本注入攻击的抵抗能力
Ziyi Yang, Adel Bibi, Guohao Li, Bernard Ghanem, Carlos Hinojosa
共享工作区
基准评测
提示注入
数据泄露
智能体安全
发送方只传共享词表的词索引,接收方用自己的词向量把事实写入隐状态,免训练实现跨模型通信
Xin Li, Mengbing Liu, Hao Jiang, Xin Gao, Annan Wang, Xingwei Qu, Yichi...
免训练方法
多智能体通信
激活转向
表征工程
隐状态通信
三个智能体组成评估-诊断-生成闭环,让文生图模型自动生成适配自身弱点的RL训练数据
Sirui Zhang, Fangyun Wei, Dong Chen, Jinjing Zhao, Yitong Wang, Yunuo Chen,...
后训练
强化学习
文生图
智能体
自动课程学习
诊断出人体世界坐标漂移源于相机与人体平移的尺度失配,并给出免训练闭式校正
Hao-Jen Chien, Wei-Lun Chao, Yu-Lun Liu
K-Pop压力测试
世界空间人体恢复
多人舞蹈重建
尺度失配
视觉里程计
把假设、程序、证据与需求作为可继承状态演化,群体借彼此反馈与组件复用实现递归自我改进。
Qianru Meng, Xi Zhang, Konstantinos Papakostas, Congfeng Cao, Wenxiang Hu,...
AI Scientist
LLM Agent
多智能体协作
科学代码生成
进化搜索
改用冻结DINOv3-L融合层做超分基底,单步解码即达保真-感知与效率双最优
Wanzhou Lei, Cuifeng Shen, Yanjin He, Maohua Li, Hua Yuan, Per-Olof Persson,...
DINOv3
图像修复
潜空间几何
生成对抗网络
真实世界超分辨率
首个覆盖文本/图像扰动与提示注入、经标签校验策展的 JEV 决策模型鲁棒性基准
Yifan Lan, Zhongye Liu, Yurui Chang, Hanyu Wang, Yongkang Du, Lu Lin, Jinghui Chen
决策模型
基准评测
多模态
对抗鲁棒性
提示注入
持续预训练将全开放文本模型升级为具备图像音频理解、262K上下文与思考模式的多模态推理器
Project Apertus, Yixuan Xu, Yassine Turki, Vinko Sabolčec, Valentina...
偏好对齐
多模态
开源大模型
强化学习
持续预训练
分离记忆定位与证据读取的稀疏注意力,4k 训练零样本外推到 256k
Zekun Shi, Alastair James Arthur Price
大语言模型
稀疏注意力
长上下文
长度外推
高效序列建模
首个真实实验室教学视频生成基准,揭示视觉逼真但流程不可靠的鸿沟
Yuming Fu, Weijia Wu, Jing Chen, Jiahao Tang, Feifei Chen, Hongyu Zhu, Xin...
图像到视频
基准评测
科学实验室自动化
视频生成
评估协议
以情绪化用户交互评测并训练工具调用智能体,交互感知信号筛出更自主可靠的轨迹
Rishitosh Kumar Singh, Amir Saeidi, Shamanthak Hegde, Shrinidhi Kumbhar, Chitta Baral
LLM智能体
合成数据
基准评测
工具调用
情绪建模
首个原生吉像素分辨率的全切片病理图像生成模型,自适应调度提速3倍,实现8k文本生图
Srikar Yellapragada, Alexandros Graikos, Zilinghan Li, Kostas Triaridis,...
全切片图像
图像生成
数据增强
文本生图
流匹配
以步长参数化时间速率,让交互世界模型在共享物理时间坐标下多速率一致滚动生成
Yaoyang Liu, Dongyu Yan, Yihua Du, Shengju Qian, Zeke Xie, Xin Wang,...
RoPE
交互式世界模型
多速率学习
实时流式生成
视频扩散模型
首篇系统综述119篇论文,为LLM基准压缩建立统一分类、成本与可靠性框架
Guoming Ling, Yupei Lin, Zhongzhan Huang, Junxin Li, Junjie Liu, Shanshan...
LLM评测
基准压缩
心理测量学
综述
自适应测试
免训练稀疏记忆让线性注意力百万 token 检索从 1.7% 升至 70.3%
Li Nanbo, Firas Laakom, Yilan Zhang, Piotr Piękos, Yimeng Chen, Liangyu...
免训练插件
检索增强
稀疏情景记忆
线性注意力
长上下文
用质量受限改写与信号导向候选搜索为智能体技能嵌入强水印,实现所有权验证与泄漏溯源。
Alan Tang, Lifeng Wang, Gang Wu, Tao Zhang, Yantao Jia, Xiaofeng Zhu
KGW
所有权验证
技能保护
文本水印
智能体安全
以215个可验证任务训练模型用代码编排工具,64k环境状态下通过率30.7%而同规模基线为0
Hao Li, Keqing He, Longtao Zheng, Junlong Li, Weihao Zeng, Qian Liu, Yuzhen Huang
LLM智能体
上下文管理
任务合成
强化学习
程序化工具调用
训练无关的联合查询-键子空间打分加免聚集逐头注意力,逼近全KV精度并最高提速6.43倍
Jiwon Song, Yoongon Kim, Jae-Joon Kim
KV缓存
LLM推理优化
推理加速
稀疏注意力
长上下文推理
自条件化把端点预测变成跨步草稿纸,让流匹配的更多采样步真正转化为更深推理
Zeyang Zhang, Linxiang Gao, Meiqi Gu, Xingyan Chen, Minrui Luo, Kaifeng Lyu,...
流匹配
生成模型
电路复杂度
自条件化
表达力分析
发布58.6万截图的ScreenRef数据集与D2RL训练法,8B模型GUI定位超越多个32B模型
Qingsong Xie, Jiahao Tian, Jiacheng Tang, Zhifeng Li, Madalina Ciobanu,...
GUI Agent
强化学习
数据集
知识蒸馏
视觉定位
Muon 配合 SPO++、辅助惩罚与 TIS,让长程智能体 RL 成功率远超 Adam 基线
Kai Ruan, Jinghao Lin, Tao Chen, Ziqi Zhou, Qianshan Wei, Zihe Huang
Muon 优化器
异步训练
强化学习
软件工程智能体
长程任务
WEDGE 用智能体自身失败诊断指导生成针对性训练环境,闭环适应导航策略
Yue Zhang, Han Lin, Zun Wang, Yidong Huang, Zaid Khan, Mohit Bansal
LLM智能体
具身智能
环境生成
视觉导航
课程学习
PixText 在像素空间按组只重绘出错文字区域,四步生成使单图成本低于 1 GPU 秒
Yaoli Liu, Guo-Hua Wang, Yiyang Chen, Qing-Guo Chen, Zhao Xu, Weihua Luo,...
像素空间生成
场景文本编辑
少步蒸馏
文本精修
流匹配
CALIF用参考策略似然区间校准RLVR奖励,约束满足与回答质量兼得
Sangyeon Yoon, Wooseok Seo, Hamish Ivison, Hyesoo Hong, Donghoon Kim, Wonjun...
RLVR
大模型对齐
奖励黑客
指令遵循
RL应训练请求而非单个回答:合并回答者奖励的ReMaRk用一半算力达到同等召回
Xin Li, Hao Jiang, Jinghao Guo, Weisi Lin, Chau Yuen
GRPO
LLM推荐系统
Rao-Blackwellization
多参考答案
强化学习
冻结LLM当教师,用自适应子目标课程与偏好蒸馏把专用生成器对齐到自然语言科学目标
Riccardo De Santi, Federico Di Gennaro, Angelo Gnazzo, Sophia Tang, Pranam...
LLM反馈
偏好优化
分子生成
流匹配
科学发现
用配对世界验证对话结果,并把终局奖励按轮次重新分配来训练社交智能体
Caixin Kang, Ke Wang, Yuchuan Wu, Xiaoqiang Wang, Ling Li, Bingxue Qiu,...
LLM智能体
信用分配
基准评测
强化学习
社交对话
首个导航-场景冲突感知驾驶VLA:模式token解耦冲突推理,世界模型做梦兼顾指令遵循与安全
Shaoyuan Xie, Zihan Zhang, Jingxuan Wang, Jiashu Qu, Xiaoqing Liang,...
VLA
世界模型
基准评测
安全对齐
自动驾驶
投影器对齐只是粗对齐:免训练最优传输闭式解 PORTAL 即可匹敌 558k 配对训练
Fabian Gröger, Naël Ouerghemi, Shuo Wen, Maria Brbić
免训练对齐
多模态LLM
最优传输
视觉-语言对齐
单条 ODE 轨迹加慢快双 LoRA 专家解耦,监督成本降 11600 倍,质量反超全量基线
Zhuobai Dong, Junchao Yi, Hu Jian Guo, Linjie Li, Rui Zhao, Alex Jinpeng Wang
LoRA
实时生成
少步推理
扩散蒸馏
自回归扩散
为文本任务解析计算每例真值类概率,直接评估模型概率质量与校准方法
Yuyang Dai, Yuting Tang, Futoshi Futami, Takashi Ishida
LLM评估
不确定性量化
基准评测
校准
贝叶斯误差
视觉骨架定主目标、度量残差补精度,一步流匹配生成轨迹,残差RL有界精修
Ao Liang, Youquan Liu, Mingxiao Li, Wei Chow, Lingdong Kong, Yue Liao,...
世界-动作模型
动作分词器
残差强化学习
流匹配
自动驾驶
用IDS结构先验逐字验证生成图像中的汉字渲染错误,并可作RL奖励反向修正生成模型
Yiyang Chen, Guo-Hua Wang, Yaoli Liu, Qing-Guo Chen, Zhao Xu, Weihua Luo, Xiujun Ma
CLIP双塔
Flow-GRPO奖励
IDS结构编码
文本渲染验证
文生图评测
用非空间寄存器与观测流匹配监督抑制空间离群点,并将其浓缩为高效动作条件接口
Yiwei Zhang, Yantai Yang, Jin Gao, Jin Lou, Andong Chen, Yufei Liu, Boyang...
世界动作模型
寄存器令牌
机器人操作
流匹配
表征可解释性
冻结模型权重,测试时训练文档专属KV缓存,32×压缩下RULER达96.7%
Yingfa Chen, Xingyu Shen, Chaojun Xiao, Xu Han
KV缓存压缩
测试时训练
知识蒸馏
长上下文
高效推理