让智能体直接增删KV缓存,免重预填充,平均提分1.7点、降本27.7%
Tianyu Fu, Ruoxi Wang, Zihan Min, Zhongqi Ren, Zhihao Li, Tengxuan Liu,...
KV缓存管理
LLM推理服务系统
上下文工程
智能体长程任务
系统-算法共设计
要求VLM智能体主动探索80个室内场景并构建物体级3D地图,最强模型平均IoU仅41.71%
Zhaoxi Zhang, Hao Liang, Linxuan Wu, Yiming Wu, Yifu Yuan, Kun Liang,...
3D建图
主动感知
具身智能
基准评估
多视图几何
120组对照实验揭示游戏具身智能持续预训练中数据量、多样性与模型规模对域内性能与跨世界迁移的影响
Kuan Zhang, Yukun Chen, Zhihao Yang, Yue Su, Xiangnan Wu, Zirong Chen, Run...
具身智能
持续预训练
游戏AI
缩放定律
跨世界泛化
全开源流水线合成三接口可执行世界与长程任务,训练的智能体在 8 项 OOD 基准全面提升。
Zhaoyang Wang, Qianhui Wu, Haorui Wang, Simon Yu, Baolin Peng, Canwen Xu,...
任务合成
开源模型
强化学习
环境合成
计算机使用智能体
分解式评分标准一箭双雕:既过滤训练数据又驱动强化学习,让开源多模态代码模型对标闭源系统
Qiushi Sun, Jingyang Gong, Yang Liu, Qiaosheng Chen, Zhangyue Yin, Zixian...
Rubric评估
前端生成
可视化生成
多模态代码智能
强化学习
给自回归视频扩散加未来块预测辅助任务,用更低训练成本显著提升物理合理性
Ruopeng Gao, Yukun Huang, Jiarui Hu, Shuai Wang, Wenbo Hu, Ying Shan, Limin Wang
世界模型
物理合理性
自回归扩散模型
视频生成
辅助训练目标
首个通用双手灵巧跟踪策略,单 checkpoint 零微调跟踪未见轨迹与物体,大幅超越基线
Mingze Sun, Ziang Cao, Yuan Fei, Qiankuan Tao, Zihan Wang, Tianqi Liu,...
人手交互数据集
仿真训练
参考轨迹跟踪
双手机器人
强化学习
RAG组件孤立增益难叠加:检索次可加、忠实度近可加,最优组合随语料规模翻转。
Ido Levy, Segev Shlomov, Leshem Choshen
LLM评估
RAG
信息检索
实验设计(DOE)
组合性分析
167位母语者共创62社区文化谜语基准,前沿模型在最难社区准确率不超过22%
My Chiffon Nguyen, Tianyi Hu, Vinod Anbalagan, Henry Gagnier, Pouya Sadeghi,...
人类评估
基准测试
多语言
推理能力
文化理解
保留教师答案,自行生成学生家族风格的推理链,蒸馏效果反超教师原生思维链
Yan Wang
代码生成
对抗训练
推理链合成
知识蒸馏
教学与实践交织的苏格拉底式指导让智能体技能迁移更准,专家监督成本降61.7%
Letian Zhu, Han Li, Yifan Yao, Xinping Lei, Xinyu Che, Jiahao Wang, Dianyi...
LLM智能体
基准评测
技能学习
教学交互
迁移泛化
逐位置固定观测上下文、在通道间做 Shapley 分配,输出位置×通道完整归因矩阵
Haotian Ma, Ruqi Yang, Philip Townsend
Shapley归因
博弈论
可解释性
多光谱遥感
首个交互式流式视频生成基准:五任务300案例评测38个模型
StreamEval Team
世界模型
实时视频编辑
数字人
流式视频生成
评测基准
SFT加多轮RL后训练机器人规划器,成功率从18.1%提升至71.0%
Xinxin Liu, Bingxin Xu, Wenrui Bao, Ming Li, Wentao Bao, Chen Chen, Yuzhang Shang
VLA
具身智能
强化学习
智能体后训练
机器人操作
提出记忆中心持续学习框架:三轴分类、双环生命周期、行为化评估与记忆缩放律
Dongfang Li, Zhuoen Chen, Bonian Jia, Zixuan Liu, Zhengxuan Lu, Can Deng,...
LLM Agent
持续学习
智能体记忆
综述/立场论文
记忆缩放律
仅用静止图像与文本预训练单一冻结编码器,同时支持状态感知、语言对齐与像素重建。
Yanqing Liu, Letian Zhang, Chengzhi Liu, Zijun Wang, Jieru Mei, Hongliang...
世界模型
图文对齐
机器人操作
自监督学习
视觉表征预训练
把智能体自身的循环动作当负例、脱困动作当正例做DPO,无需标签将循环率从57.3%降至6.1%
Tianle Chen, Pushkar Singh, Ketan Todi, Biswajit Paria, Qijia He, Wenqi...
LLM智能体
上下文压缩
直接偏好优化DPO
自监督学习
长程任务
用纹理感知四叉树与层级金字塔采样自适应分配高斯,数量减半且推理时可调稀疏度
Bing He, Jingnan Gao, Yunuo Chen, Zhengxue Cheng, Rong Xie, Li Song, Wenjun Zhang
3D高斯泼溅
前馈重建
新视角合成
稀疏视图
紧凑表征
20个科学基准上智能体全部超越已发表最优,但靠工程套路,插件技能将增益翻倍
Ming Zhong, Stacy Li, Nicholas Carlini, Matthew Jagielski
ML for Science
基准测试
智能体评测
编码智能体
自动化科研
提出PAPAV五能力框架,统一审视数字与物理智能体,揭示具身化改变了任务闭环中的什么
Yanzhe Chen, Ziyi Yang, Jifeng Zhu, Qiming Huang, Ruihe An, Peiyao Xu, Hesen...
PAPAV框架
具身智能
基准评测
多模态智能体
综述
16个跨学科AI研究员组队,在有限算力下自主发现优于GDN2的线性注意力架构CFDN
Yujian Liu, Li An, Zelin He, Jacob Helwig, Jiabao Ji, Rohit Jain, Siyu Zhu,...
多智能体协作
多臂老虎机
架构发现
线性注意力
自主科研智能体
降低舍入频率并按通道对齐分组,免训练实现四比特线性注意力状态量化
Patrick Haller, Filipe Laitenberger, Alan Akbik
推理加速
模型压缩
状态量化
线性注意力
门控增量规则
以结构化Harness多样性作智能体RL新缩放维度,显著提升跨harness泛化
Fei Bai, Huatong Song, Chuan Hao, Ran Tao, Jian Yang, Bryan Dai, Wayne Xin...
GRPO
Harness设计
PPO
智能体强化学习
正交设计
首个系统评测LLM智能体编写可执行验证器能力的基准,揭示其普遍误杀合法解
Jianing Yin, Ziyi Chen, Hao Wang, Yiyou Sun, Zijian Jin, Dawn Song, Daoan Zhang
LLM智能体
可执行验证
基准测试
数据合成
递归自我改进
以最终视频误差标定各层各步的稀疏敏感度,在延迟预算下联合求解密度分配表
Tianze Xia, Xiaoling Zhou, Ruya Lan, Yiqiao Liao, Chengru Song, Shiming Xiang
免训练方法
块稀疏注意力
扩散Transformer
推理加速
视频生成
用三专家混合架构联合去噪代码、视频与动作,让世界动作模型具备可复用的技能级代码规划能力
Zhuoyang Liu, Dantong Niu, Botong Zhang, Boning Shao, Jing Wang, Ruijie...
世界动作模型
代码生成
具身智能
扩散模型
机器人操作
分层规划+确定性编译+持久记录,让3D世界边探索边生成、可交互且可重访
Xiaoxiao Ma, Weiyang Jin, Yanwen Ma, Haoran Li, Zhixiang Wei, Songchun...
3D场景生成
世界模型
流式系统
程序化生成
语言交互
用150万可验证定位数据微调9B模型,平均定位成绩超越GPT-6 Astra
Yinhe Wang, Tao Tao, Zexin He, Shuang Luo, Wei Mao, Yao Mu, Feng Pan,...
具身智能
多模态大模型
数据缩放
机器人学习
视觉定位
在 3.0 代基础上新增说话人分离与音频理解,多语言 ASR 错误率相对下降约 33%
Chuanmeng Bian, Daren Chen, Peixin Chen, Zhigao Chen, Chong Deng, Zhiyun...
多语言ASR
强化学习
知识蒸馏
语音识别
说话人分离
用可编辑harness组织VLM智能体并从执行经验自进化,历史依赖操控提升7个百分点
Tingwen Du, Haoyu Guo, Hanxue Zhang, Xuanxu Wang, Junting Dong, Chao Gao,...
VLA
VLM规划
智能体自进化
机器人操控
长时程任务
用高分辨率视频扩散模型把稀疏低清拍摄增强为2K、4D一致的视频,再重建体积视频
Chenxu Zhou, Zhiyuan Yu, Yudong Jin, Yinji Shentu, Yu Zhang, Jiaming Sun,...
4D重建
4D高斯泼溅
体积视频
可控生成
新视角合成
用乱序加裁剪构造自配对真实数据训练扩散模型,首次摆脱合成数据的场景文本编辑
Xingsong Ye, Yongkun Du, Jiaxin Zhang, Chong Sun, Zhineng Chen
OCR数据合成
场景文本编辑
扩散模型
真实数据训练
自监督配对
少步MeanFlow与自回归微调把流式语音风格转换延迟降至520毫秒,并统一文本音色设计与编辑
Yisi Liu, Nicholas Lee, Gopala K. Anumanchipalli
少步生成
文本控制
流匹配
流式推理
语音合成
同题多次团队执行互为对照,把成败归因到智能体技能,指导免训练的技能库演化
Yanan Ma, Yang Wang, David Le, Chenhan Yuan, Yizheng Sun, Guangwei Zhang,...
GRPO
LLM智能体
信用分配
免训练优化
多智能体系统
扩散LM智能体可用隐向量传递任务内容,传递时机比交换轮数更关键
Alan-Barsag Gazzaev, Alexey Gavrilov, Sergey Muravyov, Ilya Makarov
因果分析
多智能体通信
扩散语言模型
潜空间通信
无解码器世界模型在表示空间预测下一屏,17毫秒余弦比对识破被劫持的GUI转移
Jiaming Zhang, Xuan Wang, Fuyao Zhang, Yang Cao, Lingjuan Lyu, Wei Yang Bryan Lim
GUI智能体
JEPA
世界模型
智能体安全
自监督学习
LoopRec 用权重共享递归与物品级门控,让序列推荐按需分配计算深度
Zhanshuo Cao, Jiakai Tang, Yuqi Zhou, Sunhao Dai, Jun Xu
MoR
动态路由
序列推荐
循环Transformer
自适应计算深度
用研究世界模型预测实验增益作 RL 奖励,配合在线校准训练出会提出模型改进的 LLM
Minhua Lin, Zijun Wang, Zewen Liu, Zhaotian Weng, Bing He, Zhan Shi, Benoit...
RLVR
世界模型
奖励过度优化
强化学习
自动化AI研究
冻结VLM骨干,凭3D场景记忆、技能库与认知经验在任务块间自进化,五基准平均提升5.1分
Yifan Zhou, Ziyang Gong, Xiaojun Ye, Yifei Liu, Donggang Li, Xiaolong Zhou,...
3D场景记忆
技能库
测试时适应
空间推理
自进化Agent
深度研究智能体换扩散骨干后端到端提速约6倍,报告质量不降
Alan-Barsag Gazzaev, Alexey Gavrilov, Mikhail Mozikov, Sergey Muravyov
多智能体系统
扩散语言模型
推理加速
智能体评测
深度研究
固定权重只调思考量:思考让模型取消 some/or 的量级含义,先接纳实用解读、最终按字面作答。
Zhizhuo Kou, Jian Yang, Pengfei Hao, Junyu Luo, Jingshu Peng, Sirui Han, Yike Guo
思维链可解释性
推理模型
测试时计算
语用学
量级含义
以真实未来事件预测为活环境,参数、技能、环境三轴共演化实现递归自我改进
Zhipeng Chen, Yunsen Liang, Yanxi Chen, Hongkang Zhao, Lingyun Feng, Ruiyang...
RLVR
事件预测
技能蒸馏
智能体系统
环境共演化
以分数引导采样补充top-k检索,在极端稀疏下逼近稠密注意力并获2.96倍解码加速。
Sahil Joshi, Prithvi Dixit, Aryan Katiyar, Agniva Chowdhury, Joseph E....
CUDA内核优化
KV缓存
LLM推理加速
稀疏注意力
重要性采样
首个端到端量化研究基准:九个前沿LLM在A股密封2024年评估,无一跑赢等权市场
Houde Qian, Zheng Jiang, Wenyi Li, Chenxi Xu, Xinjie Lin, Yuzhao Peng, Ruoyu...
A股市场
LLM智能体
基准评测
样本外评估
量化交易
首个端到端框架 PawCT,从合唱音频联合识别 SATB 声部并分部转录音符。
Hanyu Meng, Zhanhong He, Zixun Guo, Yaolong Ju
合唱转录
声部分配
歌声处理
自动音乐转录
音乐信息检索
用固定预算的连续思维令牌在隐空间建模伙伴心智,五个多智能体环境全面超越文本与提示基线
Nithin Sivakumaran, Ali Payani, Hyunji Lee, Mohit Bansal, Elias Stengel-Eskin
LLM智能体
多智能体协作
心智理论
潜在推理
自博弈
循环复用中间层,均匀扩散语言模型训练FLOPs最多省3.3倍
Saiteja Utpala, Chieh-Hsin Lai, Yuki Mitsufuji, Praneeth Vepakomma
扩散语言模型
权重共享循环
自适应计算
训练效率
预算精确、位置自适应的语音编解码器,码-时长事件表示兼顾重建质量与流式TTS
Chihiro Arata, Shohei Taniguchi, Gouki Minegishi, Kan Hatakeyama-Sato
变帧率token化
文本转语音
残差向量量化
流式合成
语音编解码
后训练使回复一律标准化,但训练更新仍偏好迎合声望变体;CAP配对可校准迎合而不强加方言
Zhizhuo Kou, Heming Li, Jian Yang, Junyu Luo, Jingshu Peng, Sirui Han, Yike Guo
DPO偏好优化
偏好数据设计
后训练审计
方言公平
社会语言学
七个开源RL框架仅收录2.3%的通用方法,收录快但份额随论文激增而稀释。
Taiheng Pan
GRPO
RL后训练
实证度量
开源生态
软件工程