MSA通过块级稀疏选择在109B模型上实现28.4×计算减少和14.2×预填充加速
Xunhao Lai, Weiqi Xu, Yufeng Yang, Qiaorui Chen, Yang Xu, Lunbin Zeng,...
GPU优化
GQA
MoE模型
稀疏注意力
长上下文
提出动态环境基准测试EvoArena和补丁式内存方法EvoMem,提升智能体适应性
Jundong Xu, Qingchuan Li, Jiaying Wu, Yihuai Lan, Shuyue Stella Li, Huichi...
内存管理
动态环境
智能体评估
环境演化
鲁棒性
SpatialClaw用持久化Python内核替代传统工具调用,提升VLM空间推理能力
Seokju Cho, Ryo Hachiuma, Abhishek Badki, Hang Su, Byung-Kwan Lee, Chan Hee...
3D推理
代码执行
智能体系统
空间推理
视觉语言模型
首个强制要求GUI与CLI协同的CUA评测基准
Wanli Li, Bowen Zhou, Yunyao Yu, Zhou Xu, Yifan Yang, Dongsheng Li, Caihua Shan
奖励作弊检测
混合界面评测
计算机使用代理
轨迹感知评估
长周期任务
MaxProof框架使M3模型在IMO/USAMO达超人类金牌水平
Jiacheng Chen, Xinyu Zhang, Shunkai Zhang, Yanmohan Wang, Lin Li, Tiancheng...
强化学习
数学推理
测试时间缩放
竞赛数学
验证器
首个多智能体框架,通过规划-生成-批评流程赋予任意图像生成器交错生成能力
Dian Zheng, Harry Lee, Manyuan Zhang, Kaituo Feng, Zoey Guo, Ray Zhang, Hongsheng Li
交错生成
图像生成
多智能体系统
强化学习
视觉语言模型
提出三阶段框架让MLLM主动恢复损坏的视觉内容,实现像素级重建与多模态推理的鲁棒理解
Jiaqi Tang, Jianmin Chen, Youyang Zhai, Wei Wei, Runtao Liu, Mengjie Zhao,...
图像重建
多模态大语言模型
强化学习
视觉自恢复
鲁棒性增强
提出抗捷径的数据合成框架,通过控制捷径风险训练更强大的深度搜索代理
Jia Deng, Yimeng Chen, Xiaoqing Xiang, Ziyang Zeng, Shuo Tang, Wayne Xin...
代理检索
工具增强学习
数据合成
深度搜索
监督微调
通过RoboGenesis模拟数据引擎和两阶段训练方法,实现实验室自动化VLA模型
Baochang Ren, Xinjie Liu, Xi Chen, Yanshuo Liu, Chenxi Li, Daqi Gao, Zeqin...
仿真数据生成
实验室自动化
机器人学习
视觉-语言-动作模型
迁移学习
通过内部模型路由引入轻量级中间验证器,实现分层推测解码,降低拒绝率并提升推理速度
Yuchen Xian, Yang He, Yunqiu Xu, Yi Yang
KL散度
分层验证
推测解码
推理加速
模型压缩
用紧凑1D token序列替代密集2D网格,实现全局外观与局部细节的解耦融合
Yuchen Xian, Yunqiu Xu, Yang He, Yi Yang
1D token表示
Base/Detail解耦
多模态图像融合
选择性token编辑
首个在单个ViT中统一图像视频tokenization的UMM框架
Guozhen Zhang, Xuerui Qiu, Yutao Cui, Tianhui Song, Changlin Li, Junzhe Li,...
图像理解
图像生成
图像编辑
多模态学习
统一模型
四维环境工程让通用代理在多科学任务上取得SOTA
Amy Xin, Jiening Siow, Junjie Wang, Zijun Yao, Fanjin Zhang, Jian Song, Lei...
多智能体系统
环境工程
科学发现
科学研究
自主智能体
通过嵌入级语义邻居混合提升强化学习推理探索能力
Xukun Zhu, Hang Yu, Peng Di, Linchao Zhu
大语言模型
嵌入空间探索
强化学习
数学推理
策略优化
通过显式边界标记使隐藏状态循环推理可RL优化且可解释
Jiayu Yang, Chao Chen, Shengen Wu, Yinhong Liu, Yuxuan Fan, Lujundong Li,...
大语言模型
强化学习
推理
链式思维
隐藏状态循环
首个仅用2D监督训练3D人体动作扩散模型,性能接近全3D监督
Amir Mann, Gal Michael Harari, Merav Keidar, Or Litany
2D监督
3D动作生成
姿态估计
扩散模型
跨模态训练
从单张窄视场图像实时生成可交互漫游的3D视频世界模型,支持8FPS实时交互
Yang Zhou, Ziheng Wang, Yuqin Lu, Haofeng Liu, Jun Liang, Shengfeng He, Jing Li
3D重建
3D高斯
全景图生成
实时渲染
视频生成
将T2I缺陷诊断建模为结构化集合预测,支持精确定位和语义理解
Huaisong Zhang, Hao Yu, Yuxuan Zhang, Jiahe Wang, Xinrui Chen, Haoxiang Cao,...
强化学习
生成模型
缺陷检测
计算机视觉
可学习双向投影优化 LLM agent 长周期交互
Xiaoxuan Wang, Haixin Wang, Alexander Taylor, Jason Cong, Yizhou Sun, Wei Wang
Harness Engineering
Instruction Tuning
LLM Agents
Long-Horizon Tasks
将8步扩散模型蒸馏为2步生成器,通过三种技术突破2步生成的质量和稳定性瓶颈
Dongyang Liu, Ruoyi Du, David Liu, Dengyang Jiang, Liangchen Li, Qilong Wu,...
图像生成
对抗学习
扩散模型
模型蒸馏
端到端训练
TreeSeeker将深度搜索组织为树结构的分支-返回搜索,通过文本UCB控制试验-错误过程,在有限预算下有效分配搜索资源。
Zhuofan Shi, Mingzhe Ma, Lu Wang, Fangkai Yang, Pu Zhao, Yiming Guan,...
多步推理
探索-利用
智能体
树搜索
深度搜索
提出基于FLOPs的计算感知评估框架,揭示LLM对抗攻击的实际成本与ASR差异
Malikeh Ehghaghi, Boglárka Ecsedi, Marsha Chechik, Colin Raffel
大语言模型安全
对抗攻击
评估方法
越狱攻击
提出单策略多智能体框架,通过角色解耦优化和KV缓存重用,在视觉推理任务上显著减少幻觉并提升推理效率
Haoran Xu, Hongyu Wang, Yifei Gao, Jiaze Li, Zizhao Tong, Xiaofeng Zhang,...
多智能体系统
强化学习
视觉推理
视觉语言模型
角色解耦
揭示LLM自述与行为一致性的条件:TPB框架+同会话达人类基线,跨会话任务依赖
Rafal Kocielnik, Pengrui Han, Peiyang Song, Myrl G. Marmarelis, Ramit...
LLM安全
Theory of Planned Behavior
心理测量评估
自我报告
行为一致性
通过二元验证器信任信号改进在线策略蒸馏,在数学推理基准上平均提升1.98%
Haoran Xu, Hongyu Wang, Yifei Gao, Jiaze Li, Xiaofeng Zhang, Xiaosong Yuan
大语言模型
强化学习
数学推理
知识蒸馏
通过IO感知分块策略消除GMM内存瓶颈,实现100倍数据规模扩展
Gal Bloch, Ariel Gera, Matan Orbach, Ohad Eytan, Assaf Toledo
GPU加速
内存优化
向量索引
近似最近邻搜索
高斯混合模型
提出密集对齐框架实现异构智能体间KV缓存直接传输,在上下文不感知场景仍保持高效通信
Siyi Chen, Xiaoyan Zhang, Meng Wu, Jonathan Tremblay, Valts Blukis, Stan...
KV缓存传输
多智能体系统
异构模型对齐
潜在通信
通过推理时进化搜索修复紧凑模型工具工作流,提升执行可行性
Kushal Raj Bhandari, Ling Yue, Ching-Yun Ko, Dhaval Patel, Shaowu Pan,...
工作流优化
工具使用
推理时计算
紧凑模型
进化搜索
将用户纠正转化为运行时强制规则,解决智能体重复犯错问题
Yujun Zhou, Kehan Guo, Haomin Zhuang, Xiangqi Wang, Yue Huang, Zhenwen...
个性化
用户纠正
编码智能体
规则编译
运行时强制执行
通过随机令牌掩码减少表示对齐对完整令牌集的依赖,加速扩散模型训练
Lianyu Pang, Tianlin Pan, Cheng Da, Changqian Yu, Huan Yang, Kun Gai, Song...
SiT架构
令牌掩码
扩散模型
表示对齐
训练效率
提出自动化合成新鲜知识的演进基准,解决搜索代理评估中的测试集污染问题
Yunhan Wang, Jiaan Wang, Lianzhe Huang, Xianfeng Zeng, Fandong Meng
基准测试
多智能体框架
搜索代理
数据污染
知识演进
首个同时满足高保真、长时一致性和高效生成的机器人操作世界模型
Arnav Kumar Jain, Yilin Wu, Jesse Farebrother, Gokul Swamy, Andrea Bajcsy
世界模型
多视图预测
机器人操作
流匹配
测试时规划
将任意数量视图压缩为单一全局潜在,通过流匹配生成任意分辨率的3D表面重建
Antoine Guédon, Shu Nakamura, Nicolas Dufour, Jiahui Lei, Ko Nishino, Angjoo Kanazawa
3D重建
前馈模型
多视图重建
流匹配
表面重建
基于MuJoCo和MJX的多无人机RL仿真平台
Manan Tayal
GPU加速
多智能体
强化学习
控制理论
无人机仿真
融合浅层与深层特征实现高质量离散视觉token
Yitong Chen, Zijie Diao, Junke Wang, Lingyu Kong, Yixuan Ren, Bo He, Yu-Gang...
图像生成
自编码器
视觉基础模型
计算机视觉
量化
提出GPS表示结合VR数据收集,提升机器人对关节部件的感知与操作能力
Xiaoqian Wu, Yejie Guo, Xiaoyang Chen, Lixin Yang, Cewu Lu, Yong-Lu Li
VR数据收集
关节物体感知
几何表示学习
机器人操作
机器人视觉
提出Actor-Critic框架和ArogyaBodha数据集,解决7种印度语言医疗推理问题
Tanmoy Kanti Halder, Akash Ghosh, Subhadip Baidya, Arijit Roy, Sriparna Saha
Actor-Critic
医疗AI
多模态学习
多语言理解
智能体系统
通过架构设计而非模型规模实现高性能Web代理,在四大基准上取得开放模型SOTA
Jayoo Hwang, Xiaowen Zhang, Vedant Padwal
Compound Actions
LLM Agent
PageMem
Web Agent
网页导航
LLM 智能体在对话开始时最不安全,完成常规任务后安全性显著提升
Chung-En Sun, Linbo Liu, Tsui-Wei Weng
LLM智能体安全
冷启动漏洞
多轮对话安全
工具调用安全
揭示参数化工具检索系统存在知识-检索解离现象,提供诊断框架和缓解方案
Ashutosh Hathidara, Sai Shruthi Sistla, Sebastian Schreiber, Sahil Bansal
LoRA
参数化检索
工具学习
模型诊断
知识保留
d-Simplex平稳表示蕴含兼容性,HOC损失实现SOTA兼容学习
Niccolò Biondi, Federico Pernici, Simone Ricci, Alberto Del Bimbo
d-Simplex分类器
兼容表示学习
对比学习
神经崩溃
终身学习
提出潜在空间流匹配模型,从乐谱生成可变长度的表现性钢琴演奏。
Dmitrii Gavrilev
DiT
流匹配
潜在空间模型
表现性演奏渲染
音乐生成
结合检测式文本识别和原型重建,实现古籍字迹的可扩展、客观的计量学分析
Malamatenia Vlachou Efstathiou, Raphaël Baena, Dominique Stutzmann, Mathieu Aubry
古籍字迹分析
字符检测
形态学分析
深度学习
计量学
LLM内部概念与任务定义的错位限制了基于提示的纠错能力
Etienne Casanova, Rafal Kocielnik, R. Michael Alvarez
LLM可操控性
先验知识
定义对齐
标注任务
置信度校准