在优化器诱导的更新空间中定义数据效用,实现高效动态选择
Shaobo Wang, Xuan Ouyang, Tianyi Xu, Yuzheng Hu, Jialin Liu, Guo Chen,...
LLM训练
优化器感知
动态采样
数据选择
预训练优化
将GUI下一状态预测转化为HTML代码生成,用渲染感知强化学习实现高保真视觉模拟
Yuhao Zheng, Li'an Zhong, Yi Wang, Rui Dai, Kaikui Liu, Xiangxiang Chu,...
GUI Agent
VLM
World Model
代码生成
强化学习
通过四阶段训练流程(中期训练、离线强化学习、在线强化学习、模型合并)构建统一的GUI智能体,在多个基准测试中达到SOTA
Veuns-Team, Changlong Gao, Zhangxuan Gu, Yulin Liu, Xinyu Qiu, Shuheng Shen,...
GUI智能体
人机交互自动化
多模态大语言模型
强化学习
模型合并
将原始经验蒸馏为层次化技能库,并通过递归进化机制与策略共同优化
Peng Xia, Jianwen Chen, Hanyang Wang, Jiaqi Liu, Kaide Zeng, Yu Wang, Siwei...
LLM智能体
多任务学习
强化学习
技能学习
经验蒸馏
训练无关的智能体框架,动态切换四种认知模式实现自适应推理
Tianyi Jiang, Arctanx An, Hengyi Feng, Naixin Zhai, Haodong Li, Xiaomin Yu,...
多模态推理
大语言模型推理
智能体框架
认知科学
链式思维
首个开源视觉语言模型,在物理奥赛中斩获12枚金牌,排名第3
Yun Luo, Futing Wang, Qianjia Cheng, Fangchen Yu, Haodi Lei, Jianhao Yan,...
多模态推理
强化学习
物理奥赛
科学AI
视觉语言模型
用代码+数据库自动合成1000个可执行环境,用于大模型智能体的强化学习训练
Zhaoyang Wang, Canwen Xu, Boyi Liu, Yite Wang, Siwei Han, Zhewei Yao, Huaxiu...
Agent训练
MCP
工具使用
强化学习
环境合成
通过双频带分解和能量校准恢复RoPE下均值池化损失的高频位置信息,实现高效块稀疏注意力
Xinghao Wang, Pengyu Wang, Xiaoran Liu, Fangxu Liu, Jason Chu, Kai Song, Xipeng Qiu
RoPE
模型加速
注意力机制
稀疏注意力
长上下文
通过两阶段后训练和并行推理范式,让扩散大语言模型成为高效的搜索智能体
Jiahao Zhao, Shaoxuan Xu, Zhongxiang Sun, Fengqi Zhu, Jingyang Ou, Yuling...
后训练优化
多跳问答
并行推理
扩散语言模型
搜索智能体
多智能体分层框架实现4K原生分辨率高保真多轮图像编辑
Ruijie Ye, Jiayi Zhang, Zhuoxin Liu, Zihao Zhu, Siyuan Yang, Li Li, Tianfu...
人机交互
图像编辑
多智能体系统
视觉语言模型
高分辨率处理
通过按智能体归一化优势值,解决多智能体LLM系统中RL训练的梯度不稳定问题
Lang Feng, Longtao Zheng, Shuo He, Fuxiang Zhang, Bo An
GRPO
LLM训练
多智能体系统
强化学习
梯度稳定
通过序列级控制-效果对齐学习可迁移的潜在动作,实现跨场景零样本动作转移
Yuxin Jiang, Yuchao Gu, Ivor W. Tsang, Mike Zheng Shou
动作可控生成
潜在动作学习
自监督学习
表示对齐
视频世界模型
通过无信息泄漏的 JEPA 风格预训练学习动作相关的状态转移语义
Jingwen Sun, Wenyao Zhang, Zekun Qi, Shaojie Ren, Zezhi Liu, Hanxin Zhu,...
世界模型
操作任务
机器人学习
自监督预训练
视觉语言动作模型
在线强化学习框架,在提升代码安全性的同时保持功能完整性
Tianyi Wu, Mingzhe Du, Yue Liu, Chengran Yang, Terry Yue Zhuo, Jiaheng...
代码安全
代码生成
大语言模型
强化学习
漏洞检测
提出LATENTLENS方法,证明LLM中视觉token在各层均具有高度可解释性
Benno Krojer, Shravan Nayak, Oscar Mañas, Vaibhav Adlakha, Desmond Elliott,...
可解释性
多模态学习
表示对齐
视觉语言模型
通过推理时剪枝不稳定token消除长视频生成中的时序漂移
Ariel Shaulov, Eitan Shaar, Amit Edenzon, Lior Wolf
token剪枝
推理优化
自回归模型
视频生成
长视频
通过自不确定性同时调制视觉注意力和动作采样,提升VLA模型的测试时鲁棒性
Hyeonbeom Choi, Daechul Ahn, Youhan Lee, Taewook Kang, Seongwon Cho, Jonghyun Choi
不确定性估计
机器人学习
测试时扩展
自适应推理
视觉语言动作模型
通过两阶段迭代自我反馈机制提升LLM数学推理能力的强化学习算法
Ali Hatamizadeh, Shrimai Prabhumoye, Igor Gitman, Ximing Lu, Seungju Han,...
GRPO扩展
强化学习
推理优化
数学推理
策略优化
用最优传输理论修正自回归扩散模型中的条件误差,在ImageNet上达到SOTA
Yucheng Zhou, Hao Li, Jianbing Shen
图像生成
扩散模型
最优传输
条件生成
自回归生成
统一VLA框架交错语言规划、视觉预测与动作生成
Yucheng Hu, Jianke Zhang, Yuanfei Luo, Yanjiang Guo, Xiaoyu Chen, Xinshu...
多模态学习
扩散模型
机器人操作
视觉语言动作模型
长时程任务
构建可执行的终端任务数据管道,在TerminalBench上提升20%性能
Siwei Wu, Yizhi Li, Yuyang Song, Wei Zhang, Yang Wang, Riza Batista-Navarro,...
Docker环境
代码执行
数据合成
智能体
模型训练
一个7B参数的端到端大型音频语言模型,通过分层三模态交错和智能-说话人解耦技术,在语音对话和音频理解任务上实现SOTA性能。
Wenfu Wang, Chenxing Li, Liqiang Zhang, Yiyang Zhao, Yuxiang Zou, Hanzhao...
全双工
多模态
对话系统
端到端
语音交互
从零合成可执行交互环境与可验证任务,通过环境多样性扩展训练通用工具使用智能体
Dunwei Tu, Hongyan Hao, Hansi Yang, Yihao Chen, Yi-Kai Zhang, Zhikang Xia,...
工具学习
强化学习
数据合成
智能体训练
环境合成
基于代理的框架将文本描述转化为模拟就绪的3D环境,支持机器人策略学习
Hongchi Xia, Xuan Li, Zhaoshuo Li, Qianli Ma, Jiashu Xu, Ming-Yu Liu, Yin...
3D场景生成
AI代理
具身智能
机器人学习
模拟环境
通过动力学增强的潜在动力学模型,从无标签视频学习可迁移任务知识
Zhongwei Ren, Yunchao Wei, Xiao Yu, Guixun Luo, Yao Zhao, Bingyi Kang,...
世界模型
机器人操作
自监督学习
视频生成
长时序推理
提出600万高质量图文对数据集,弥合开源与商用文生图模型的数据鸿沟
Xu Ma, Yitian Zhang, Qihua Dong, Yun Fu
微调
扩散模型
数据集
文生图
自回归模型
首个开放域闭环世界模型基准,评测记忆一致性与动作控制
Yixuan Ye, Xuanyu Lu, Yuxin Jiang, Yuchao Gu, Rui Zhao, Qiwei Liang, Jiachun...
世界模型
动作控制
基准评测
视频生成
记忆一致性
用3D接触点替代语言条件,仅23小时数据实现强泛化机器人操控
Zichen Jeff Cui, Omar Rayyan, Haritheja Etukuru, Bowen Tan, Zavier...
多模态策略
机器人操控
模仿学习
行为克隆
零样本泛化
内在维度是衡量推理策略有效性的新指标,与泛化能力呈强负相关
Archiki Prasad, Mandar Joshi, Kenton Lee, Mohit Bansal, Peter Shaw
LoRA
chain-of-thought
generalization
intrinsic-dimensionality
reasoning
通过压缩KV缓存和选择性记忆召回实现高效长上下文多跳推理
Zhuoen Chen, Dongfang Li, Meishan Zhang, Baotian Hu, Min Zhang
KV缓存
多跳推理
强化学习
记忆压缩
长上下文处理
通过贝叶斯优化在语义子空间中搜索概念向量的最优线性组合,实现数据高效的推理时LLM适配
Pengrui Han, Xueqiang Xu, Keyang Xuan, Peiyang Song, Siru Ouyang, Runchu...
LLM适配
推理时干预
激活引导
表示工程
贝叶斯优化
将无用的池化文本嵌入变为免费的质量提升器
Nikita Starodubcev, Daniil Pakhomov, Zongze Wu, Ilya Drobyshevskiy, Yuchen...
ICLR
Transformer
扩散模型
推理优化
文本生成图像
用元智能体自动搜索最优记忆设计,取代人工设计,使智能体在多领域持续学习
Yiming Xiong, Shengran Hu, Jeff Clune
元学习
开放探索
持续学习
智能体记忆
自动设计
提出BAR框架,通过掩码位建模实现离散图像生成新SOTA,gFID达0.99
Qihang Yu, Qihao Liu, Ju He, Xinyang Zhang, Yang Liu, Liang-Chieh Chen, Xi Chen
图像生成
离散标记器
自回归模型
视觉生成
用树结构组织探索轨迹,高效扩展计算机使用代理的GUI自动化能力
Deyang Jiang, Jing Huang, Xuanle Zhao, Lei Chen, Liming Zheng, Fanfan Liu,...
GUI代理
强化学习
数据高效
计算机使用代理
轨迹合成
RL训练的推理模型存在最优输出长度,过长或过短都会降低准确率
Daisuke Nohara, Taishi Nakamura, Rio Yokota
大语言模型
强化学习
推理模型
链式思维推理
长度控制
通过检测不可信内容对特权操作的因果支配偏移,选择性触发防御,解决过度防御困境
Minbeom Kim, Mihir Parmar, Phillip Wallis, Lesly Miculicich, Kyomin Jung,...
AI安全
因果归因
工具调用智能体
提示注入防御
智能体安全
提出元规划范式,让LLM自主合成任务自适应的规划架构,而非依赖手工设计的固定结构
Jiaxi Liu, Yanzuo Jiang, Guibin Zhang, Zihan Zhang, Heng Chang, Zhenfei Yin,...
Agent Planning
Code Generation
Meta-Learning
Preference Optimization
Reinforcement Learning
利用多智能体协作框架从自然语言生成高密度、物理真实、可直接用于机器人仿真的室内场景
Nicholas Pfaff, Thomas Cohn, Sergey Zakharov, Rick Cory, Russ Tedrake
室内场景生成
文本到3D
智能体系统
机器人仿真
物理模拟
用多样化推理大纲引导并行路径探索,突破大推理模型并行思维中的信息饱和瓶颈
Qi Guo, Jianing Wang, Deyang Kong, Xiangyu Xi, Jianfei Zhang, Yi Lu, Jingang...
GRPO
信息论
大推理模型
并行思维
强化学习
从少量种子轨迹出发,在 UI 状态变化点分支扩展,生成大规模高质量桌面 GUI 训练数据。
Jinbiao Wei, Yilun Zhao, Kangqi Ni, Arman Cohan
Desktop Automation
GUI Agent
Trajectory Expansion
VLM Fine-tuning
数据合成
首个评估编程智能体代码上下文检索能力的过程级基准
Han Li, Letian Zhu, Bohan Zhang, Rili Feng, Jiaming Wang, Yue Pan, Earl T....
LLM
上下文检索
代码智能体
基准评测
软件工程
用模型自身参数初始化旁路FFN记忆,实现高效测试时训练
Sidi Lu, Zhenwen Liang, Dongyang Ma, Yan Wang, Haitao Mi, Dong Yu
LLM推理优化
参数化记忆
参数高效微调
测试时训练
长上下文建模
黎曼流匹配+雅可比正则化,解决扩散Transformer在表征空间收敛失败的几何问题
Amandeep Kumar, Vishal M. Patel
图像生成
扩散模型
流匹配
表征学习
黎曼几何
提出Octopus框架,通过配对推理轨迹实现VLM的可控自我纠正能力学习
Yi Ding, Ziliang Qiu, Bolian Li, Ruqi Zhang
rollout增强
强化学习
推理增强
自我纠正
视觉语言模型
通过方差分析揭示流匹配的双区间结构,提出无偏降方差训练和免微调加速采样
Donglin Yang, Yongxing Zhang, Xin Yu, Liang Hou, Xin Tao, Pengfei Wan,...
扩散模型
方差缩减
流匹配
生成模型
采样加速
用混合因子分析器将LM激活空间分解为低秩高斯区域,实现更好的可解释性和控制
Or Shafran, Shaked Ronen, Omri Fahn, Shauli Ravfogel, Atticus Geiger, Mor Geva
可解释性
机械可解释性
激活分解
稀疏自编码器
语言模型
受操作系统进程隔离启发,通过层级内存管理防御LLM代理的间接提示注入攻击
Ruoyao Wen, Hao Li, Chaowei Xiao, Ning Zhang
LLM代理安全
内存管理
提示注入防御
系统安全
首个系统评估VLM在图像化文本与纯文本间性能差距的基准测试
Qing'an Liu, Juntong Feng, Yuhao Wang, Xinzhe Han, Yujie Cheng, Yue Zhu,...
OCR
基准测试
文本理解
模态对齐
视觉语言模型
通过耦合配对时间步的速度预测,降低流匹配训练方差并提升采样效率
Chika Maduabuchi, Jindong Wang
图像生成
扩散模型
方差缩减
流匹配
生成模型