发现大推理模型隐式具备适时停止思考的能力,提出SAGE采样范式释放该潜力,同时提升准确率和推理效率
Zixuan Huang, Xin Xia, Yuxi Ren, Jianbin Zheng, Xuanda Wang, Zhixia Zhang,...
大推理模型
强化学习
思维链压缩
推理效率
采样策略
变分推导闭式重要性权重核,64×陈旧下稳定LLM训练
Guobin Shen, Chenxiao Zhao, Xiang Cheng, Lei Huang, Xing Yu
大语言模型
强化学习
方差缩减
策略优化
重要性采样
提出混合2D-3D手部条件化策略,实现精细手部交互的沉浸式VR视频生成
Linxi Xie, Lisong C. Sun, Ashley Neall, Tong Wu, Shengqu Cai, Gordon Wetzstein
世界模型
人机交互
手部姿态估计
扩散模型
虚拟现实
通过教师-学生蒸馏框架,让移动机器人仅凭自我视角完成多物体长期推放任务
Boyuan An, Zhexiong Wang, Yipeng Wang, Jiaqi Li, Sihang Li, Jing Zhang, Chen Feng
强化学习
机器人学习
模仿学习
视角受限规划
非抓取操作
提出统一优化框架解释所有解码策略,并设计新的Best-of-K采样器提升多样本生成质量
Xiaotong Ji, Rasul Tutunov, Matthieu Zimmer, Haitham Bou-Ammar
优化理论
大语言模型
概率单纯形
解码策略
采样方法
提出 LoRWeB,通过可学习的 LoRA 基底和动态编码器组合,实现对未见视觉类比任务的泛化编辑。
Hila Manor, Rinon Gal, Haggai Maron, Tomer Michaeli, Gal Chechik
Flow Matching
LoRA
参数高效微调
图像编辑
扩散模型
提出10.3万规模的多模态数学数据集,通过三阶段自动清洗管道构建,显著提升视觉推理能力
Haoxiang Sun, Lizhen Xu, Bing Zhao, Wotao Yin, Wei Wang, Boyu Yang, Rui Wang, Hu Wei
多模态推理
强化学习
数学推理
数据集构建
视觉语言模型
通过查询传播和融合,将视频分割统一到纯ViT编码器中,实现10倍加速且精度相当
Narges Norouzi, Idil Esen Zulfikar, Niccol`o Cavagnero, Tommie Kerssies,...
Vision Transformer
基础模型
推理加速
编码器架构
视频分割
首个实时空间感知对话运动生成方法,使虚拟智能体能实时响应用户位置并生成自然对话动作
Evonne Ng, Siwei Zhang, Zhang Chen, Michael Zollhoefer, Alexander Richard
动作生成
实时推理
对话智能体
虚拟现实
计算机视觉
针对扩散语言模型中注意力汇聚不稳定的特点,提出感知汇聚的剪枝方法
Aidar Myrzakhan, Tianyi Li, Bowei Guo, Shengkun Tang, Zhiqiang Shen
后训练剪枝
扩散语言模型
推理加速
模型压缩
注意力汇聚
提出VIG指标量化视觉贡献,通过选择性训练提升LVLM视觉接地能力
Seulbi Lee, Sangheum Hwang
幻觉缓解
数据效率
视觉接地
视觉语言模型
选择性训练
提出 NAMO/NAMO-D 优化器,将 Adam 的噪声自适应机制融入 Muon 的正交化动量框架
Minxin Zhang, Yuxuan Liu, Hayden Schaeffer
优化算法
动量方法
大语言模型
收敛理论
自适应学习率
Avey-B是一种无注意力双向编码器,在NLP任务上超越传统Transformer,效率更高。
Devang Acharya, Mohammad Hammoud
NLP
双向编码器
效率优化
无注意力
长序列处理
评分标准修改可在保持基准一致的同时系统性操控 LLM 评审偏好
Ruomeng Ding, Yifei Pang, He Sun, Yizhong Wang, Zhiwei Steven Wu, Zhun Deng
LLM评估
偏好学习
对抗鲁棒性
对齐安全
评分标准攻击
提出统一前馈框架,从单目视频联合重建4D几何与运动
Yihang Luo, Shangchen Zhou, Yushi Lan, Xingang Pan, Chen Change Loy
3D重建
4D重建
Transformer
前馈推理
点图预测
用雅可比惩罚+线性策略网络实现高效平滑的角色动画控制
Zhaoming Xie, Kevin Karol, Jessica Hodgins
动作平滑
强化学习
机器人控制
物理角色动画
线性反馈控制
在不修改模型参数和系统提示的前提下,通过注入外部推理引导对话智能体从错误中恢复
Takyoung Kim, Jinseok Nam, Chandrayee Basu, Xing Fan, Chengyuan Ma, Heng Ji,...
对话系统
工具调用
推理增强
测试时干预
错误恢复
LLM+GNN联合选择问题与受访者,在预算约束下高效推断群体属性
Ruomeng Ding, Tianwei Gao, Thomas P. Zollo, Eitan Bachmat, Richard Zemel, Zhun Deng
信息增益
图神经网络
大语言模型
群体推断
自适应实验设计