通过置信度动态调控推理轨迹,在抑制冗余思考的同时防止推理不足
Yulin Li, Tengyao Tu, Li Ding, Junjie Wang, Huiling Zhen, Yixin Chen, Yong...
大型推理模型
思维链
推理优化
过度思考
高效推理
持续元学习框架,让LLM智能体通过技能注入和空闲期RL实现零停机进化
Peng Xia, Jianwen Chen, Xinyu Yang, Haoqin Tu, Jiaqi Liu, Kaiwen Xiong,...
元学习
大语言模型智能体
强化学习
技能学习
持续学习
提出Chain of Events范式,通过构建时序事件链提升MLLM的视频事件预测能力
Qile Su, Jing Tang, Rui Chen, Lei Sun, Xiangxiang Chu
事件预测
多模态大语言模型
强化学习
时序建模
视频理解
融合显式3D与隐式注意力的Patch级混合空间记忆机制
Wei Yu, Runjia Qian, Yumeng Li, Liquan Wang, Songheng Yin, Sri Siddarth...
3D重建
世界模型
扩散模型
相机控制
空间记忆
对齐让LLM预测人类应该做什么,而非实际做什么
Eilam Shapira, Moshe Tennenholtz, Roi Reichart
LLM对齐
RLHF
博弈论
社会模拟
行为预测
受神经科学互补学习系统启发,通过经验提取器与策略演员的协同进化实现高效经验驱动的智能体强化学习。
Dilxat Muhtar, Jiashun Liu, Wei Gao, Weixun Wang, Shaopan Xiong, Ju Huang,...
协同进化
大语言模型
强化学习
智能体训练
经验学习
通过将预测损失扩展到所有token并引入深层自监督,大幅提升视频自监督学习的密集特征质量
Lorenzo Mur-Labadia, Matthew Muckley, Amir Bar, Mido Assran, Koustuv Sinha,...
世界模型
密集预测
自监督学习
视觉Transformer
视频理解
按语义显著性排序3D形状token,实现高效自回归生成
Niladri Shekhar Dutt, Zifan Shi, Paul Guerrero, Chun-Hao Paul Huang, Duygu...
3D生成
Token化
形状表示
自回归模型
语义对齐
评估大语言模型在真实地缘政治危机中推理能力的时间锚定研究
Ming Li, Xirui Li, Tianyi Zhou
地缘政治推理
大语言模型
战争迷雾
时间推理
评估基准
通过因果注意力掩码将视频预测变为可选,实现9倍推理加速且不损失性能
Angen Ye, Boyuan Wang, Chaojun Ni, Guan Huang, Guosheng Zhao, Hao Li,...
世界模型
扩散策略
机器人操控
模仿学习
视觉-语言-动作模型
评估LLM能否根据沟通场景选择性应用或抑制用户偏好
Sangyeon Yoon, Sunkyoung Kim, Hyesoo Hong, Wonje Jeung, Yongil Kim, Wooseok...
个性化
偏好选择性
基准测试
大语言模型
持久记忆
通过VL-MoT框架和动作引导的视觉剪枝策略,解决VLA模型深层视觉敏感性衰减问题
Yulin Luo, Hao Chen, Zhuangzhe Wu, Bowen Sui, Jiaming Liu, Chenyang Gu,...
多模态融合
机器人操作
注意力机制
视觉基础模型
视觉语言动作模型
Video-SFT提升视频理解但损害图像能力,本文揭示这一"时间陷阱"并提出混合帧策略缓解
Linghao Zhang, Jungang Li, Yonghua Hei, Sicheng Tao, Song Dai, Yibo Yan,...
图文冲突
多模态大语言模型
帧采样策略
监督微调
视频理解
在线学习+不确定性引导探索使RLHF数据效率提升10-1000倍
Seyed Mohammad Asghari, Chris Chute, Vikranth Dwaracherla, Xiuyuan Lu, Mehdi...
RLHF
主动探索
偏好学习
大语言模型
强化学习
STTS 在 ViT 和 LLM 中统一剪枝视觉 token,50% 剪枝提速 62%
Jianrui Zhang, Yue Yang, Rohun Tripathi, Winson Han, Ranjay Krishna,...
Token 剪枝
ViT
视觉语言模型
视频理解
计算效率
通过多类型记忆结构和多智能体协作,实现长对话中自适应检索与用户理解
Shannan Yan, Jingchen Ni, Leqi Zheng, Jiajun Zhang, Peixi Wu, Dacheng Yin,...
LLM Agent
多智能体协作
检索增强生成
记忆系统
长对话理解
基于模拟环境的诊断基准,系统评估VLM在机器人任务中的空间推理能力
Yanpeng Zhao, Wentao Ding, Hongtao Li, Baoxiong Jia, Zilong Zheng
具身智能
基准测试
机器人
空间推理
视觉语言模型
首个相机条件约束的立体世界模型,联合学习外观与双目几何,实现端到端立体视频生成
Yang-Tian Sun, Zehuan Huang, Yifan Niu, Lin Ma, Yan-Pei Cao, Yuewen Ma, Xiaojuan Qi
世界模型
扩散模型
注意力机制
相机控制
立体视频生成
用动作后果识别后验为离线机器人数据分配保守权重,无需奖励信号
Wanpeng Zhang, Hao Luo, Sipeng Zheng, Yicheng Feng, Haiweng Xu, Ziheng Xi,...
VLA模型
数据重加权
机器人操作
离线策略学习
跨具身迁移
通过嵌入空间中的掩码token探测,实现无需训练的多token预测,显著提升推理效率。
Raghavv Goel, Mukul Gagrani, Mingu Lee, Chris Lott
免训练
多token预测
嵌入空间探测
推理加速
自回归模型
提出专家阈值路由方法,在保持因果性的同时实现MoE的动态计算分配和负载平衡
Hanchi Sun, Yixin Liu, Yonghui Wu, Lichao Sun
MoE
动态计算
混合专家模型
自回归语言建模
路由机制
用强化学习学习可迁移的逐层位宽分配策略,实现比统一4位量化更优的精度-效率权衡
Arpit Singh Gautam, Saurabh Jha
强化学习
模型压缩
混合精度
端侧部署
量化
一个统一的扩散模型框架,支持文本到图层生成、文本到图像生成以及图像到图层分解三种任务
Vlad-Constantin Lungu-Stan, Ionut Mironica, Mariana-Iuliana Georgescu
分层媒体设计
图像分解
图层生成
扩散模型
文本生成
通过自动生成大规模合成ML任务和轨迹,训练提升AI研究代理的端到端研究能力
Ziyang Cai, Harkirat Behl
AI Agents
AutoML
LLM Fine-tuning
Machine Learning Research
Synthetic Data
通过LoRA和超图神经网络高效适配通用医学视觉语言模型
M. Arda Aydın, Melih B. Yilmaz, Aykut Koç, Tolga Çukur
医学图像分析
参数高效微调
视觉语言模型
超图神经网络
零样本学习
通过零初始化低秩残差适配器,在冻结的 ViT 上实现参数高效迁移学习
Salim Khazem
低秩分解
参数高效微调
视觉Transformer
迁移学习
适配器
将RL作为分布收缩算子,在预训练生成式策略基础上实现稳定高效的长周期机器人操作技能微调。
Zhanyi Sun, Shuran Song
强化学习
扩散策略
机器人学习
策略微调
行为克隆
将长视频理解为分层环境导航,实现O(log T)计算复杂度的零样本视频问答
Mohamed Eltahir, Ali Habibullah, Yazan Alshoibi, Lama Ayash, Tanveer...
分层表示
多模态大模型
智能体
递归语言模型
长视频理解
揭示MLLM细粒度幻觉,提出FINER-Tuning提升准确率24.2%
Rui Xiao, Sanghwan Kim, Yongqin Xian, Zeynep Akata, Stephan Alaniz
DPO微调
多模态大模型
幻觉检测
细粒度推理
负查询
无需外部模块,一次性从多人多视角视频联合重建相机、场景和人体
Sangmin Kim, Minhyuk Hwang, Geonho Cha, Dongyoon Wee, Jaesik Park
3D重建
人体姿态估计
多视角
深度学习
神经渲染
系统性研究LLM中间训练设计选择,揭示其与RL协同提升推理能力的机制
Bharat Runwal, Ashish Agrawal, Anurag Roy, Rameswar Panda
中间训练
大语言模型训练
强化学习
推理能力
训练流水线
通过异构归纳偏置和压缩瓶颈结构,实现视觉-语言模型的高效少样本适应
Md Jahidul Islam
CLIP
参数高效微调
少样本学习
归纳偏置
视觉-语言模型
通过意图感知路由和多智能体工具架构,实现可靠的伊斯兰知识问答系统
Ummar Abbas, Mourad Ouzzani, Mohamed Y. Eltabakh, Omar Sinan, Gagan Bhatia,...
伊斯兰知识
多智能体系统
宗教问答
检索增强生成
确定性计算