用文本LLM初始化视觉编码器替代CLIP,紧凑模型达SOTA
Boqiang Zhang, Lei Ke, Ruihan Yang, Qi Gao, Tianyuan Qu, Rossell Chen, Dong...
LLM初始化
模型效率
视觉编码器
视觉语言模型
视频理解
用动态概率感知裁剪替代固定裁剪,解决LLM RL中的探索瓶颈问题
Yuan Li, Bo Wang, Yufei Gao, Yuqian Yao, Xinyuan Wang, Zhangyue Yin, Xipeng Qiu
PPO/GRPO
信赖域优化
大语言模型对齐
强化学习
策略优化
将每张图像压缩至8个离散token,使世界模型规划速度提升40倍且精度不降
Dongwon Kim, Gawon Seo, Jinsung Lee, Minsu Cho, Suha Kwak
世界模型
图像分词
模型预测控制
离散表示学习
视觉规划
推理模型几乎无法控制自己的思维链内容,这对 CoT 监控安全性是个好消息。
Chen Yueh-Han, Robert McCarthy, Bruce W. Lee, He He, Ian Kivlichan, Bowen...
AI安全
可解释性
对齐评估
思维链监控
推理模型
大规模人体数据集+非对称注意力,实现跨视角身份一致视频生成
Qin Guo, Tianyu Yang, Xuanhua He, Fei Shen, Yong Zhang, Zhuoliang Kang,...
扩散模型
数据集构建
注意力机制
视频生成
身份保持
通过逐层渐进激活残差连接,提升Transformer预训练稳定性和性能
Tianhao Chen, Xin Xu, Lu Yin, Hao Chen, Yang Wang, Shizhe Diao, Can Yang
Transformer架构
大语言模型
残差连接
深度扩展
预训练优化
大规模机器人操作基准测试,系统评估记忆增强型策略
Yinpei Dai, Hongze Fu, Jayjun Lee, Yuejiang Liu, Haoran Zhang, Jianing Yang,...
基准测试
机器人操作
模仿学习
视觉语言动作模型
记忆机制
通过学习路由的动态分块机制替换固定patch化,实现扩散变换器的自适应计算分配
Akash Haridas, Utkarsh Saxena, Parsa Ashrafi Fashi, Mehdi Rezagholizadeh,...
动态计算
变换器架构
扩散模型
视觉生成
计算效率
将物理模拟器嵌入视频生成循环,确保运动符合物理规律
Lin Geng Foo, Mark He Huang, Alexandros Lattas, Stylianos Moschoglou, Thabo...
4D重建
扩散模型
测试时优化
物理模拟
视频生成
提出两阶段框架解决多模态图中的跨模态对齐和模态偏好问题
Yuanfu Sun, Kang Li, Pengkang Guo, Jiajin Liu, Qiaoyu Tan
图神经网络
多模态图学习
大语言模型
对比学习
指令调优
通过分层并行架构和博弈协议解决LLM在长期规划中的约束漂移问题,FPR达52.65%
The Viet Bui, Wenjun Li, Yong Liu
分层规划
多智能体系统
强化学习
旅行规划
约束优化
通过块级近似和动态阈值实现长上下文预填充加速
Qihang Fan, Huaibo Huang, Zhiying Wu, Juqiu Wang, Bingning Wang, Ran He
GPU内核优化
Transformer优化
推理加速
稀疏注意力
长上下文
MLLM推理+DiT上下文学习的参考视频特效迁移框架
Shiyuan Yang, Ruihuang Li, Jiale Tao, Shuai Shao, Qinglin Lu, Jing Liao
上下文学习
多模态大模型
扩散Transformer
视觉特效
视频生成
无批评器、无似然的步级对比排序框架,解决流式VLA的在线RL难题
Siting Wang, Xiaofeng Wang, Zheng Zhu, Minnan Pei, Xinyu Cui, Cheng Deng,...
embodied AI
强化学习
扩散模型微调
机器人学习
视觉语言动作模型
系统综述多LLM动态路由与级联方法,优化推理时性能-成本权衡
Yasmin Moslem, John D. Kelleher
LLM路由
多模型部署
推理优化
模型级联
综述
基于曲率的异构 token 缓存框架,实现扩散世界模型最高 3.7 倍加速且保持 98% 生成质量
Weilun Feng, Guoxin Fan, Haotong Qin, Chuanguang Yang, Mingqiang Wu, Yuqi...
世界模型
多模态生成
扩散模型
推理加速
特征缓存
提出StableDRL,通过无条件裁剪和自归一化解决dLLM强化学习中的奖励崩溃问题
Jianyuan Zhong, Kaibo Wang, Ding Ding, Zijin Feng, Haoli Bai, Yang Xiang,...
GRPO
后训练优化
强化学习
扩散语言模型
训练稳定性
用可微Bézier曲面从文本/图像/点云生成可编辑CAD模型,突破CAD数据标注瓶颈
Mohammad Sadil Khan, Muhammad Usama, Rolandos Alexandros Potamias, Didier...
3D重建
CAD生成
参数曲面
可微渲染
多模态生成
Helena Casademunt, Bartosz Cywiński, Khoi Tran, Arya Jakkli, Samuel Marks, Neel Nanda
评估智能体在700篇非结构化知识中检索推理执行客服任务的能力
Quan Shi, Alexandra Zytek, Pedram Razavi, Karthik Narasimhan, Victor Barres
对话系统
智能体评估
检索增强生成
知识密集型任务
金融科技
通过双智能体协作与环境观察反思,让AI自主完成从资料调研到视觉设计的整本演示文稿生成
Hao Zheng, Guozhao Mo, Xinru Yan, Qianhao Yuan, Wenkai Zhang, Xuanang Chen,...
SFT数据合成
反思机制
多模态LLM
智能体(Agent)
演示文稿生成
首个直接在网格空间自回归做单视图场景重建的框架,一次前向同时预测物体位姿与几何。
Xiang Zhang, Sohyun Yoo, Hongrui Wu, Chuan Li, Jianwen Xie, Zhuowen Tu
3D场景重建
像素对齐特征
组合式生成
网格生成
自回归生成
把一阶梯度下降搬进 LLM 解码循环,直接优化 token logits 来精细化推理策略
Peihao Wang, Ruisi Cai, Zhen Wang, Hongyuan Mei, Qiang Liu, Pan Li, Zhangyang Wang
LLM推理
可微优化
奖励引导解码
数学推理
测试时计算扩展
用 WoS 蒙特卡洛随机估计作为弱监督,无需预计算数据和 PINN 高阶导数,训练零样本泛化的神经算子求解 Poisson 方程族。
Hrishikesh Viswanath, Hong Chul Nam, Xi Deng, Julius Berner, Anima...
PDE求解
Poisson方程
Walk-on-Spheres
弱监督
物理信息学习
首个大规模系统实证研究:delta 动作配关节空间是标准模仿学习的最优解,任务空间则在跨本体迁移中胜出
Yuchun Feng, Jinliang Zheng, Zhihao Wang, Dongxiu Liu, Jianxiong Li,...
动作空间设计
扩散策略
机器人操作
模仿学习
跨本体迁移
用球面退化嵌入 + 层级专家路由做一体化图像复原
Peng Shurui, Xin Lin, Shi Luo, Jincen Ou, Dizhe Zhang, Lu Qi, Truong Nguyen, Chao Ren
Mixture-of-Experts
专家混合
图像复原
对比学习
层级路由
提出iFID指标,用最近邻潜在插值替代直接重建,与扩散gFID相关性达0.85
Tongda Xu, Mingwei He, Shady Abu-Hussein, Jose Miguel Hernandez-Lobato,...
FID指标
Ridge-Set理论
VAE评估
扩散模型
潜在空间
为判官模型构建含偏好图与列表式评估的指令遵循评测基准
Bosi Wen, Yilin Niu, Cunxiang Wang, Xiaoying Ling, Ying Zhang, Pei Ke,...
LLM-as-a-Judge
判官模型
基准评测
奖励模型
指令遵循
用文档解析做多向量检索,存储减 95% 性能反升 10 分
Yibo Yan, Mingdong Ou, Yi Cao, Xin Zou, Shuliang Liu, Jiahao Huo, Yu Huang,...
信息瓶颈
多向量检索
文档解析
表示学习
视觉文档检索
用局部空间期望代替Eikonal微分约束,在离线GCRL中实现稳定的距离几何正则化
Hrishikesh Viswanath, Juanwu Lu, S. Talha Bukhari, Damon Conover, Ziran...
Eikonal约束
值函数学习
几何正则化
物理信息神经网络
目标条件强化学习
系统揭示 ViT 在 OOD 探测中应选 FFN 激活层而非块输出。
Ambroise Odonnat, Vasilii Feofanov, Laetitia Chapel, Romain Tavenard, Ievgen Redko
分布外泛化
模型可解释性
线性探测
表征学习
视觉 Transformer