用轻量块扩散模型做并行草稿，实现6倍以上无损加速
Jian Chen, Yesheng Liang, Zhijian Liu
KV缓存注入
LLM推理加速
并行生成
扩散语言模型
推测解码
首个系统评估LLM智能体一致性、不确定性和能力边界感知的车载助手基准测试
Johannes Kirmayr, Lukas Stappen, Elisabeth André
不确定性处理
基准测试
多轮对话
工具使用
车载AI
提出内在风险感知机制，让LLM智能体仅在感知到威胁时才触发分层安全检查，实现高效防御。
Zhenxiong Yu, Zhi Yang, Zhiheng Jin, Shuhe Wang, Heng Zhang, Yanlin Fei,...
Agent安全
LLM安全
提示注入防御
智能体框架
将记忆操作重构为可学习、可演化的技能库，通过闭环优化实现智能体自进化记忆管理
Haozhen Zhang, Quanyu Long, Jianzhu Bao, Tao Feng, Weizhi Zhang, Haodong...
LLM Agent
Memory System
Reinforcement Learning
Self-Evolving Agent
Skill Learning
通过长度归一化消除GSPO的长度偏差，提升RLVR训练稳定性和性能
Fanfan Liu, Youyang Yin, Peng Shi, Siqi Yang, Zhixiong Zeng, Haibo Qiu
GRPO
GSPO
RLVR
多模态推理
大语言模型
用长上下文教师指导长上下文学生，解决视频生成遗忘-漂移困境
Shuo Chen, Cong Wei, Sun Sun, Ping Nie, Kai Zhou, Ge Zhang, Ming-Hsuan Yang,...
上下文管理
知识蒸馏
自回归模型
视频生成
长视频
将注意力分布视为策略，用RL优化注意力分配以提升多模态LLM视觉推理能力
Bangzheng Li, Jianmo Ni, Chen Qu, Ian Miao, Liu Yang, Xingyu Fu, Muhao Chen,...
后训练
多模态大模型
强化学习
注意力机制
知识蒸馏
提出多轮强化学习框架解决内核生成中的奖励作弊和懒惰优化问题
Wei Liu, Jiawei Xu, Yingru Li, Longtao Zheng, Tianjian Li, Qian Liu, Junxian He
GPU内核优化
Triton
代码生成
多轮交互
大语言模型
利用训练时特权信息蒸馏前沿模型，无需Chain-of-Thought
Emiliano Penaloza, Dheeraj Vattikonda, Nicolas Gontier, Alexandre Lacoste,...
强化学习
智能体
特权信息
知识蒸馏
语言模型
用自监督 RL 训练 LLM 成为动作条件的世界模型，提升智能体决策能力
Xiao Yu, Baolin Peng, Ruize Xu, Yelong Shen, Pengcheng He, Suman Nath,...
GRPO
LLM智能体
世界模型
强化学习
自监督学习
面向文本-图像到视频（TI2V）生成的推理能力基准测试，评估模型对隐式世界规则的理解
Mingxin Liu, Shuran Ma, Shibei Meng, Xiangyu Zhao, Zicheng Zhang, Shaofeng...
TI2V
基准测试
多模态评估
推理评估
视频生成
通过蒸馏MCTS搜索树和蒙特卡洛评论家，让LLM智能体内化准确的前瞻推理能力
Yangbin Yu, Mingyu Yang, Junyou Li, Yiming Gao, Feiyu Liu, Yijun Yang,...
大语言模型
强化学习
推理蒸馏
智能体
游戏AI
即使失败预测准确率高达94%，执行时干预仍可能导致LLM代理性能下降26个百分点
Rakshith Vasudev, Melisa Russak, Dan Bikel, Waseem Alshikh
LLM代理
失败预测
执行时干预
部署评估
鲁棒性
通过大规模模仿预训练和强化学习后训练，构建可扩展的物理人-物交互生成控制器
Sirui Xu, Samuel Schulter, Morteza Ziyadi, Xialin He, Xiaohan Fei, Yu-Xiong...
人体物体交互
强化学习
模仿学习
物理模拟
生成控制
构建920万数学定理语料库并实现语义检索系统，在专业数学查询上显著优于现有工具。
Luke Alexander, Eric Leonen, Sophie Szeto, Artemii Remizov, Ignacio Tejeda,...
向量嵌入
大语言模型
数学信息检索
数学定理
语义搜索
用Shapley值和梯度范数理论指导数据集蒸馏，在ImageNet-1K上提升6.1%
Shaobo Wang, Yantai Yang, Guo Chen, Peiru Li, Kaixin Li, Yufa Zhou, Zhaorun...
博弈论
可解释AI
数据集蒸馏
模型压缩
知识蒸馏
提出SocialVeil框架模拟三种通信障碍评估LLM社交智能
Keyang Xuan, Pengda Wang, Chongrui Ye, Haofei Yu, Tal August, Jiaxuan You
人机交互
基准测试
多智能体对话
社交智能
语言智能体
将复杂意图分解为递归决策树，让非专家用户有效引导LLM
Enyu Zhou, Zhiheng Xi, Long Ma, Zhihao Zhang, Shihan Dou, Zhikai Lei,...
Vibe Coding
人机交互
可扩展监督
强化学习
意图对齐
提出DeR²基准，通过四种评估设置解耦检索与推理，揭示LLM推理缺陷
Shuangshuang Ying, Zheyu Wang, Yunjian Peng, Jin Chen, Yuhao Wu, Hongbin...
基准测试
大语言模型评估
检索增强生成
深度研究
科学推理
提出分层无姿态记忆压缩器，实现1000帧连续世界模拟
Ruiqi Wu, Xuanhua He, Meng Cheng, Tianyu Yang, Yong Zhang, Zhuoliang Kang,...
世界模型
交互式模拟
扩散模型
视频生成
长时记忆
提出可学习的潜在记忆框架，通过角色感知的潜变量优化解决多智能体记忆同质化和信息过载问题
Muxin Fu, Guibin Zhang, Xiangyuan Xue, Yafu Li, Zefeng He, Siyuan Huang,...
多智能体系统
大语言模型
强化学习
潜在表示
记忆机制
视频生成模型不仅是媒体工具，更是可扩展、可泛化的视觉推理范式
Chengzu Li, Zanyi Wang, Jiaang Li, Yi Xu, Han Zhou, Huanyu Zhang, Ruichuan...
测试时缩放
空间规划
视觉推理
视频生成
零样本泛化
提出MT-GRPO算法，通过自适应任务加权和比例保持采样实现多任务推理的均衡优化
Shyam Sundhar Ramesh, Xiaotong Ji, Matthieu Zimmer, Sangwoong Yoon, Zhiyong...
后训练
多任务学习
大语言模型
强化学习
推理能力
通过分块堆叠与牛顿迭代改进，将 Shampoo 优化器速度提升 5.6 倍且不损失精度
Ionut-Vlad Modoranu, Philip Zmushko, Erik Schultheis, Mher Safaryan, Dan Alistarh
GPU加速
二阶方法
优化器
大模型训练
矩阵预条件子
揭示BM25在深度研究智能体中比LLM检索器更有效，并提出语料库级测试时扩展框架
Tiansheng Hu, Yilun Zhao, Canyu Zhang, Arman Cohan, Chen Zhao
信息检索
基准测试
测试时扩展
深度研究智能体
科学文献搜索
首个系统化LLM Agent不确定性量化框架与四大挑战分析
Changdae Oh, Seongheon Park, To Eun Kim, Jiatong Li, Wendi Li, Samuel Yeh,...
LLM Agent
不确定性量化
可靠性
多轮交互
安全
提出可动态切换文本/视觉/交错三种推理模式的混合自回归多模态推理模型
Jintao Tong, Shilin Yan, Hongwei Xue, Xiaojun Tang, Kunyu Shi, Guannan...
Chain-of-Thought
多模态推理
大语言模型
自回归生成
视觉思维
基于真实论文构建的生物学实验推理基准，评估LLM因果推理能力
Junting Zhou, Jin Chen, Linfeng Hao, Denghui Cao, Zheyu Wang, Qiguang Chen,...
基准测试
大语言模型
实验推理
生物信息学
科学评估
利用小型预训练模型的晚期表示来引导大型模型的早期训练，实现1.6倍加速并提升5%性能
Ji Zhao, Yufei Gu, Shitong Shao, Xun Zhou, Liang Xiang, Zeke Xie
大语言模型
知识蒸馏
表示学习
训练效率
预训练加速
通过多模态交错证据推理和视觉工具调用，实现细粒度多模态检索的智能体框架
Dongyang Chen, Chaoyang Wang, Dezhao SU, Xi Xiao, Zeyu Zhang, Jing Xiong,...
多模态检索
强化学习
智能体推理
视觉工具
课程学习
通过软裁剪RoPE低频组件，CoPE在长上下文场景中显著提升LLM性能
Haoran Li, Sucheng Ren, Alan Yuille, Feng Wang
RoPE
位置编码
外推
语义建模
长上下文
PMD-MEAN通过均值奖励近似隐式引入KL-χ²混合正则化，提升LLM RL训练稳定性
Zhenghao Xu, Qin Lu, Changlong Yu, Tuo Zhao
LLM后训练
强化学习
数学推理
正则化
策略镜像下降
用首帧锚定采样轨迹，免训练稳定自回归长视频生成
Xunzhi Xiang, Zixuan Duan, Guiyu Zhang, Haiyu Zhang, Zhe Gao, Junta Wu,...
扩散模型
推理时校正
测试时优化
自回归
视频生成
系统性评估9种LoRA变体，发现适当调参后原版LoRA性能与变体相当
Yu-Ang Lee, Ching-Yun Ko, Pin-Yu Chen, Mi-Yen Yeh
Hessian分析
LoRA
参数高效微调
大语言模型
超参数优化
用 Transformer 替代 CNN 做视频压缩，支持自适应长度编码和扩散解码
Yao Teng, Minxuan Lin, Xian Liu, Shuai Wang, Xiao Yang, Xihui Liu
Transformer
扩散模型
自编码器
视频压缩
视频生成
CatRAG通过动态图遍历解决静态知识图谱RAG中的语义漂移问题
Kwun Hang Lau, Fangyuan Zhang, Boyu Ruan, Yingli Zhou, Qintian Guo, Ruiyuan...
PageRank
RAG
信息检索
多跳推理
知识图谱
首个专为自回归视频扩散设计的稀疏注意力方案，实现2-3倍加速且质量无损
Chengtao Lv, Yumeng Shi, Yushi Huang, Ruihao Gong, Shen Ren, Wenya Wang
稀疏注意力
自回归扩散
视频扩散模型
视频生成
高效推理
通过滑动窗口运动提取和梯度复用，实现无训练视频运动转移加速3.4倍
Yue Ma, Zhikai Wang, Tianhao Ren, Mingzhe Zheng, Hongyu Liu, Jiayi Guo, Mark...
DiT
扩散模型
视频生成
计算效率
运动转移
提出ReasoningCodec分解音频为推理与重建token，构建统一音频基础模型
Dongchao Yang, Yuanyuan Wang, Dading Chong, Songxiang Liu, Xixin Wu, Helen Meng
多模态学习
统一理解与生成
语音处理
音频分词
音频语言模型
利用相邻步骤置信度相关性预测解码位置，实现无训练的29倍长上下文推理加速
Lingkun Long, Yushi Huang, Shihao Bai, Ruihao Gong, Jun Zhang, Ao Zhou, Jianlei Yang
KV缓存优化
扩散语言模型
推理加速
注意力稀疏化
长上下文
字符级软对齐实现可变帧率语音分词，用更少 token 保持重建质量
Luca Della Libera, Cem Subakan, Mirco Ravanelli
可变帧率
字符对齐
离散语音表征
语音生成
语音编解码器
用 KL3 估计器替代 GRPO 中的对称裁剪，实现有理论保证的非对称近信赖域约束
Qingyuan Wu, Yuhui Wang, Simon Sinong Zhan, Yanning Dai, Shilong Deng, Sarra...
GRPO
信赖域方法
大语言模型
强化学习
策略优化
通过异质性感知加速将SAM3D推理速度提升2.67倍，保持几何保真度
Weilun Feng, Mingqiang Wu, Zhiliang Chen, Chuanguang Yang, Haotong Qin, Yuqi...
3D重建
token缓存
单视图重建
扩散模型加速
推理优化
VLMs地理位置推断能力强但隐私推理差，过度披露率达47.6%
Ruixin Yang, Ethan Mendes, Arthur Wang, James Hays, Sauvik Das, Wei Xu, Alan Ritter
上下文完整性
位置推断
基准测试
多模态
隐私安全
语言模型在受限交互预算下系统性地探索不足，远逊于简单启发式基线
Mahdi JafariRaviz, Keivan Rezaei, Arshia Soltani Moakhar, Zahra Sodagar,...
交互环境
探索-利用权衡
智能体评估
组合优化
语言模型
跨11个领域微调大模型，揭示涌现性失衡的领域差异与检测方法
Abhishek Mishra, Mugilan Arulvanan, Reshma Ashok, Polina Petrova, Deepesh...
AI安全
后门触发器
微调攻击
机械可解释性
涌现性失衡
将LLM多智能体推理从个体层面提升到集群层面，通过神经符号融合实现可扩展、校准良好的群体动态模拟
Kavana Venkatesh, Yinhan He, Jundong Li, Jiaming Cui
不确定性量化
多智能体系统
大语言模型
智能体建模
流行病模拟