将人类专家的痕迹(文档、聊天、决策)自动蒸馏为可检查、可修正的AI技能包
Tianyi Zhou, Dongrui Liu, Leitao Yuan, Jing Shao, Xia Hu
AI代理
人机协作
可解释AI
技能生成
知识蒸馏
通过shell命令让LLM直接检索原始文本,bypass传统检索索引实现高效多跳推理
Alireza Salemi, Chang Zeng, Atharva Nijasure, Jui-Hui Chung, Razieh Rahimi,...
代理式搜索
多跳推理
强化学习
检索增强生成
直接语料库交互
通过KL信任区域引导早期rollout行为,提升策略蒸馏效果
Daniil Plyusov, Alexey Gorbatovski, Alexey Malakhov, Nikita Balagansky,...
大语言模型
数学推理
知识蒸馏
策略学习
通过预测理解表示来指导像素空间生成,消除VAE瓶颈
Yuqing Wang, Zhijie Lin, Ceyuan Yang, Yang Zhao, Fei Xiao, Hao He, Qi Zhao,...
图像生成
多模态学习
扩散模型
端到端训练
支持1-4说话者的零样本长篇TTS,对话表现力优于开源基线
Ruiqi Li, Yu Zhang, Changhao Pan, Ke Lei, Xiang Yin, Cheng Yang
对话建模
流匹配
语音合成
长篇生成
零样本学习
12B参数MoE模型,仅激活2.5B参数,实现代码生成和工具调用的IDE部署级效率
Marko Kojic, Ivan Bondyrev, Aral de Moor, Joseph Shtok, Petr Borovlev,...
Mixture-of-Experts
RLVR
代码生成
工具调用
投机解码
用生成式模型构建真实世界图像恢复的配对数据集
Xiangtao Kong, Jixin Zhao, Lingchen Sun, Rongyuan Wu, Lei Zhang
图像恢复
多模态基础模型
数据集构建
生成式模型
真实世界退化
通过搜索代理轨迹构建分层干扰文档,用实体级评分奖励提升长上下文推理能力
Nianyi Lin, Jiajie Zhang, Lei Hou, Juanzi Li
奖励设计
强化学习
搜索代理
数据构建
长上下文推理
通过功能描述和17种设计约束,用LLM驱动迭代评估生成符合人体工程学的3D室内布局
Ruiqi Wang, Qimin Chen, Daniel Ritchie, Angel X. Chang, Manolis Savva, Kai...
3D场景生成
LLM驱动
功能约束
室内设计
迭代优化
消费级GPU上实现实时高分辨率流式视频编辑的混合架构系统
Yuyang Zhao, Yicheng Pan, Qiyuan He, Jincheng Yu, Junsong Chen, Tian Ye,...
实时推理
扩散模型
流式处理
系统优化
视频编辑
通过强化学习使多模态智能体学会根据环境任务动态决定记忆内容
Tao Zou, Yichen He, Tian Qiu, Yuan Lin, Hang Li
VQA
多模态智能体
强化学习
自适应记忆
长期记忆
提出SwanSphere框架,实现全景视频和文本提示驱动的高保真空间音频流式生成
Ke Lei, Yu Zhang, Changhao Pan, Xueyi Pu, Wenxiang Guo, Ruiqi Li, Zhou Zhao
全景视频
多模态学习
扩散Transformer
空间音频生成
自回归模型
块级路由优化MoE扩散模型内存效率
Sicheng Feng, Zigeng Chen, Gongfan Fang, Xinyin Ma, Xinchao Wang
Diffusion LLM
MoE
内存优化
块级路由
模型效率
提出SwanBench-Speech,覆盖17种场景的7维自动化评测基准,揭示当前模型在混响一致性、韵律连贯性和表现力上的显著差距。
Changhao Pan, Rui Yang, Han Wang, Zhuan Zhou, Xuming He, Wenxiang Guo, Ziyue...
基准评测
多模态评估
对话生成
语音合成
长文本生成
首个将数据无关的自我对弈扩展到开放式任务的框架,通过文档锚定的标准分解实现自我评估和持续自我改进
Wai-Chung Kwan, Aryo Pradipta Gema, Joshua Ong Jun Leang, Pasquale Minervini
大语言模型
开放式任务
强化学习
检索增强生成
自我对弈
通过焦距统一、文本像素引用和数据缩放,标准VLM无需复杂设计即可掌握多样化3D任务
Zhipeng Cai, Zhuang Liu, Yunyang Xiong, Zechun Liu, Vikas Chandra, Yangyang Shi
3D理解
多视图几何
深度估计
视觉语言模型
计算机视觉
提出token可教性概念,在线策略蒸馏中仅用5%监督token即可超越全量监督
Yuanyi Wang, Su Lu, Yanggan Gu, Pengkai Wang, Yifan Yang, Zhaoyi Yan,...
在线策略学习
大语言模型
知识蒸馏
选择性蒸馏
通过动态建模搜索边界来减少代理式搜索中的过度搜索,同时保持推理准确性
Yunbo Tang, Chengyi Yang, Shiyu Liu, Zhishang Xiang, Zerui Chen, Qinggang...
代理式搜索
工具使用
强化学习
检索增强生成
LLM代理自主端到端数据工程驱动模型专业化,GPT-5.2迭代优化平均提升57.29%
Yujie Luo, Xiangyuan Ru, Jingsheng Zheng, Jingjing Wang, Yuqi Zhu, Jintian...
LLM代理
数据工程
模型专业化
自主数据合成
迭代优化
揭示LLM智能体在长时程数据分析任务中严重失败,最高准确率仅48.45%
Kewei Xu, Xiaoben Lu, Shuofei Qiao, Zihan Ding, Haoming Xu, Lei Liang, Ningyu Zhang
LLM智能体
数据分析基准
状态管理
评估基准
长时程推理
自进化LLM的进化能力与基础能力解耦
Minhua Lin, Juncheng Wu, Zijun Wang, Zhan Shi, Yisi Sang, Bing He, Zewen...
LLM智能体
harness工程
智能体训练
能力分析
自进化
提出GUI-RobustEval基准和RoTS数据合成框架,提升GUI智能体的错误恢复能力
Tianpeng Bu, Xin Liu, Qihua Chen, Hao Jiang, Shurui Li, Hongtao Duan, Lu...
GUI智能体
基准测试
轨迹合成
错误恢复
鲁棒性
通过两阶段知识蒸馏,将字幕条件的帧相关性蒸馏到轻量级视觉模型,实现无需文本的高效视频关键帧选择
Killian Steunou, Anas Filali Razzouki, Khalil Guetari, Mounîm A. El-Yacoubi,...
帧选择
排序学习
知识蒸馏
视频字幕生成
视频理解
通过TTT架构实现Softmax Transformer到线性复杂度的快速转换
Yining Li, Dongchen Han, Zeyu Liu, Hanyi Wang, Yulin Wang, Gao Huang
Transformer优化
扩散模型
模型压缩
测试时训练
线性注意力
揭示LLM智能体面临的多步骤特洛伊木马攻击威胁,提出ClawTrojan基准和DASGuard防御方法
Jiejun Tan, Zhicheng Dou, Xinyu Yang, Yuyang Hu, Yiruo Cheng, Xiaoxi Li, Ji-Rong Wen
后门攻击
多步骤攻击
持久控制
提示注入
智能体安全
提出两阶段粗到细框架,通过全局粗略引导和全局-局部帧交换机制,实现高分辨率长序列视频的时空一致外扩。
Jeongeun Park, Janghyeok Han, Geonung Kim, Hyun-Seung Lee, Kyuha Choi,...
扩散模型
时空一致性
视频外扩
长序列生成
高分辨率视频
智能体涌现语言可被快速学习,监督规避类对齐性更低。
Stine Lyngsø Beltoft, William Brach, Federico Torrielli, Jacob Nielsen,...
AI安全
多智能体系统
涌现通信
链式思维监控
隐写术
提出解耦记忆架构实现分钟级一致长视频生成
Zhenhao Yang, Xiaoshi Wu, Zhengyao Lv, Xiaoyu Shi, Xintao Wang, Pengfei Wan,...
世界模型
注意力机制
视频生成
记忆检索
长视频推演
VLM在遮挡和透视歧义下过度自信,缺乏观测不确定性意识
Yue Zhang, Zun Wang, Han Lin, Yonatan Bitton, Idan Szpektor, Mohit Bansal
3D模拟
拒绝回答
空间推理
观测不确定性
视觉-语言模型
StateKV将长视频VLM的计算复杂度从二次方降到线性,保持接近完整自注意力的精度。
Cristobal Eyzaguirre, Jiajun Wu, Juan Carlos Niebles
InferenceOptimization
KVCache
Long-Context
StreamingInference
VideoVLM
提出双粒度计数架构,结合区域级稀疏计数和像素级密集计数,在六个视觉领域实现高精度文本引导计数
Mengqi Lei, Shuokun Cheng, Wei Bao, Shaoyi Du, Jun-Hai Yong, Siqi Li, Yue Gao
多模态学习
实例定位
点回归
物体计数
跨领域泛化
将扩散模型去噪过程转化为实时可演奏的乐器,支持每帧25Hz精细控制
Ryan Fosdick
TensorRT加速
交互式控制
实时音乐生成
扩散模型
流式推理
SAVE框架利用RL训练中的在线策略响应实现奖励模型持续自监督改进
Xiaobo Wang, Tong Wu, Min Tang, Jiaqi Li, Qi Liu, Zilong Zheng
RLHF
价值函数
在线学习
奖励模型
自监督学习
通过稀疏视觉证据路由实现低延迟且准确的VLA推理策略
Mingjian Gao, Wenqiao Zhang, Yuqian Yuan, Yang Dai, Binhe Yu, Zheqi Lv,...
中间推理
具身AI
机器人学习
稀疏路由
视觉-语言-动作模型
仅用轨迹级监督就能发现失败动作,VLA失败检测SOTA
Seongheon Park, Wendi Li, Changdae Oh, Samuel Yeh, Zsolt Kira, Michael...
VLA
失败检测
对比学习
机器人
粗监督学习
提出系统扩展框架,代理AI瓶颈在harness设计而非模型大小
Shangding Gu
Agentic AI
上下文治理
内存管理
多智能体
系统扩展
通过邻域注意力解码器和点梯度匹配损失提升单目3D重建的局部表面质量
Karim Knaebel, Gonzalo Martin Garcia, Christian Schmidt, Ilya Fradlin, Lucas...
3D重建
Transformer
单目深度估计
点地图
表面几何
训练时用轻量生成器,推理时用UPFB桥接大生成器,实现高质量视频生成
Jiazheng Xing, Hangjie Yuan, Lingling Cai, Xinyu Liu, Yujie Wei, Fei Du, Hai...
推理驱动生成
统一模型
视频生成
频率桥接
揭示CLIP等嵌入模型概念绑定失败的根本原因:绑定函数的高复杂性阻碍跨模态泛化,而乘积结构可实现系统性泛化。
Arnas Uselis, Darina Koishigarina, Seong Joon Oh
CLIP
概念绑定
组合泛化
表示几何
视觉语言模型
通过递归提示传播,将SAM的交互成本从每个细胞降至每个细胞类型,只需一次点击即可分割所有同类型细胞
Sanghyun Jo, Seo Jin Lee, Seohyung Hong, Yoorim Gang, Hyeongsub Kim,...
SAM
交互式分割
免学习框架
提示工程
病理图像
构建首个AI科学家提案方法论合理性评估基准,揭示LLM存在系统乐观偏差
Sy-Tuyen Ho, Minghui Liu, Huy Nghiem, Furong Huang
AI科学代理
基准测试
大语言模型
研究评估
首个系统性评估框架,揭示skill增强的实际效果与局限性
Jiahao Ying, Boxian Ai, Wei Tang, Siyuan Liu, Yixin Cao
Agent框架
LLM Agent
下游任务
技能评估
自动化评测
统一Transformer架构实现从无约束视频可扩展的自监督新视角合成
Ulrich Prestel, Stefan Andreas Baumann, Nick Stracke, Björn Ommer
3D重建
场景表示学习
新视角合成
自监督学习
计算机视觉
通过双流强化学习将视觉定位能力内化到文本推理中,无需显式输出坐标
Chang-Bin Zhang, Yujie Zhong, Qiang Zhang, Kai Han
多模态大语言模型
强化学习
视觉定位推理
链式思维
将dLLMs的RL转化为去噪器自蒸馏,避免ELBO似然度替代的TIM偏差
Xiaohang Tang, Keyue Jiang, Che Liu, Qifang Zhao, Xiaoxiao Xu, Sangwoong...
大语言模型
强化学习
扩散语言模型
自蒸馏
首个能同时有效遗忘和保留因果知识的三阶段 LoRA 遗忘框架
Suryash Yagnik, Shubham Gaur, Saksham Thakur, Vinija Jain, Aman Chadha, Amitava Das
LoRA 适配器
因果推理
大语言模型
机器遗忘
知识编辑
MCTS+神经网络设计公交网络,Bloomington服务率54.6%-82.1%
Bibek Poudel, Sai Swaminathan, Weizi Li
交通网络设计
图神经网络
强化学习
组合优化
蒙特卡洛树搜索
提出FRAPPE框架,实现零开销可变码率压缩,在0.1bpp时感知质量优于AVIF且编码快47倍
Dan Jacobellis, Neeraja J. Yadwadkar
图像压缩
实时压缩
投影追踪
残差自编码
深度学习编解码
通过联合DMD和对抗损失实现高质量单步自回归视频生成
Jiaqi Feng, Justin Cui, Yuanhao Ban, Cho-Jui Hsieh
GAN训练
实时推理
扩散蒸馏
自回归模型
视频生成
将RL目标转化为加权SFT实现高效多轮优化
Jian Mu, Tianyi Lin, Chengwei Qin, Zhongxiang Dai, Yao Shu
多轮对话场景下的大语言模型优化,利用用户反馈信号迭代改进模型回答质量和问题解决能力
大语言模型微调方法,包括监督微调强化学习和混合优化策略以提升模型在复杂任务上的性能
强化学习在多轮对话优化中的应用,通过价值函数迭代学习纠正策略提升模型交互能力和推理质量
数学推理任务,包括代数几何概率等需要多步推理和验证的复杂问题求解能力评估和提升
离线优化策略,利用历史数据进行模型训练避免在线交互带来的高计算成本和部署复杂性