通过离线构建方法论知识图谱,将研究想法从模糊概念自动转化为结构化科学叙事。
Tengyue Xu, Zhuoyang Qian, Gaoge Liu, Li Ling, Zhentao Zhang, Biao Wu, Shuo...
LLM智能体
方法论提取
知识图谱
自主科研发现
论文生成
提出SpatialGenEval基准,系统评估T2I模型的空间感知、推理与交互能力
Zengbin Wang, Xuecai Hu, Yong Wang, Feng Xiong, Man Zhang, Xiangxiang Chu
ICLR 2026
基准测试
多模态评估
文本到图像生成
空间智能
用 N-gram 嵌入替代 MoE 专家扩展,实现更优的稀疏缩放效率
Hong Liu, Jiaqi Zhang, Chao Wang, Xing Hu, Linkun Lyu, Jiaqi Sun, Xurui...
Embedding Scaling
Mixture-of-Experts
N-gram Embedding
大语言模型
推理优化
DynamicVLA通过连续推理和潜在感知动作流实现动态物体实时操作,并构建DOM基准测试。
Haozhe Xie, Beichen Wen, Jiarui Zheng, Zhaoxi Chen, Fangzhou Hong, Haiwen...
动态物体
实时控制
扩散策略
机器人操作
视觉语言动作模型
构建1.8M高质量推理数据集,通过数据为中心策略显著提升VLM推理能力
Honglin Lin, Zheng Liu, Yun Zhu, Chonghan Qin, Juekai Lin, Xiaoran Shang,...
多模态推理
思维链蒸馏
数据为中心
数据集构建
视觉语言模型
首个端到端统一文本OCR与视觉OCR的全场景方法,4B参数媲美70B模型。
Yufeng Zhong, Lei Chen, Xuanle Zhao, Wenkang Han, Liming Zheng, Jing Huang,...
OCR
代码生成
多模态
强化学习
视觉语言模型
自适应token压缩+MoE计算重分配,推理加速175%且性能提升
Zihao Huang, Jundong Zhou, Xingwei Qu, Qiyang Min, Ge Zhang
token压缩
大语言模型
混合专家模型
自适应推理
计算效率
Qwen3-ASR系列:52语言ASR+LLM强制对齐,开源SOTA
Xian Shi, Xiong Wang, Zhifang Guo, Yongqi Wang, Pei Zhang, Xinyu Zhang,...
多语言模型
大语言模型
开源模型
强制对齐
语音识别
在预训练阶段用token级过滤移除不想要的能力,比文档级过滤更有效且随规模提升
Neil Rathi, Alec Radford
数据过滤
机器遗忘
稀疏自编码器
能力塑造
预训练安全
提出多维度推理奖励模型Agent-RRM,通过文本批评和标量奖励的统一集成提升智能体性能
Kaixuan Fan, Kaituo Feng, Manyuan Zhang, Tianshuo Peng, Zhixun Li, Yilei...
奖励模型
工具使用
强化学习
推理优化
智能体
通过多头RoPE抖动解决自回归视频生成中的注意力坍塌问题,首次实现12小时连续流式视频生成
Justin Cui, Jie Wu, Ming Li, Tao Yang, Xiaojie Li, Rui Wang, Andrew Bai,...
Transformer
位置编码
扩散模型
自回归模型
视频生成
用多臂老虎机算法高效发现HuggingFace上被埋没的高性能模型
Jonathan Kahana, Eliahu Horwitz, Yedid Hoshen
多臂老虎机
模型仓库
模型生态系统
模型选择
高效评估
通过大规模基准测试评估 EEG 基础模型,发现专家模型仍具竞争力且线性探测不足。
Dingkun Liu, Yuheng Chen, Zhu Chen, Zhenyao Cui, Yaozhi Wen, Jiayu An,...
BCI
Benchmarking
EEG
Foundation Model
Self-Supervised Learning
提出三角形-高斯混合表示,实现流式3D重建中几何精度与渲染质量的解耦优化
Changjian Jiang, Kerui Ren, Xudong Li, Kaiwen Song, Linning Xu, Tao Lu,...
3D重建
三角形表示
可微渲染
实时SLAM
流式重建
基于横向思维谜题的环境回滚,构建评估长上下文智能体动态推理能力的基准
Shicheng Fang, Yuxin Wang, XiaoRan Liu, Jiahao Lu, Chuanyuan Tan, Xinchi...
基准测试
工具使用
智能体评估
状态追踪
环境模拟
用强后训练模型作为rewriter和judge改进预训练阶段
Ellen Xiaoqing Tan, Shehzaad Dhuliawala, Jing Xu, Ping Yu, Sainbayar...
事实性
安全性
强化学习
推理能力
自我改进
提出pMF方法实现单步无潜变量图像生成,ImageNet 256×256达2.22 FID
Yiyang Lu, Susie Lu, Qiao Sun, Hanhong Zhao, Zhicheng Jiang, Xianbang Wang,...
Flow Matching
像素空间生成
单步生成
图像生成
扩散模型
用轻量级神经网络探索环境,再蒸馏到LLM并用RL激活,大幅提升非语言任务性能
Haoyu Wang, Guozheng Ma, Shugang Cui, Yilun Kong, Haotian Luo, Li Shen,...
LLM推理
多轮对话
强化学习
智能体
知识蒸馏
仅用2.3B token将Transformer蒸馏为高效混合模型
Yingfa Chen, Zhen Leng Thai, Zihan Zhou, Zhu Zhang, Xingyu Shen, Shuo Wang,...
模型压缩
混合架构
知识蒸馏
线性注意力
长上下文建模
用GAN在潜空间做正则化,让偏好优化更稳健
Enyi Jiang, Yibo Jacky Zhang, Yinglun Xu, Andreas Haupt, Nancy Amato, Sanmi Koyejo
DPO
LLM对齐
偏好优化
对抗训练
潜空间正则化
用自回归功率采样替代MCMC,在推理时实现分布锐化,10倍加速匹配RL后训练性能
Xiaotong Ji, Rasul Tutunov, Matthieu Zimmer, Haitham Bou Ammar
免训练推理
分布锐化
推理增强
采样策略
首个开源网络安全推理模型,8B参数媲美70B模型性能
Zhuoran Yang, Ed Li, Jianliang He, Aman Priyanshu, Baturay Saglam, Paul...
GRPO
SFT
大语言模型
威胁情报
强化学习
用1800万模板将预训练文档转为指令-答案对,提升LLM预训练效率
Ajay Patel, Colin Raffel, Chris Callison-Burch
合成数据
大语言模型
指令微调
数据增强
预训练
用单一音视频扩散模型+LoRA实现高质量多语言视频配音
Anthony Chen, Naomi Ken Korem, Tavi Halperin, Matan Ben Yosef, Urska...
LoRA微调
多模态生成
扩散模型
视频配音
语音克隆
在学术级算力下,通过轻量级后训练实现主权LLM的采用性与主权能力
Kunat Pipatanakul, Pittawat Taveekitworachai
主权模型
后训练
多语言
强化微调
蒸馏
提出900题基准,评估智能体在多步信息检索中的穷举答案集合生成能力。
Nikita Gupta, Riju Chatterjee, Lukas Haas, Connie Tao, Andrew Wang, Chang...
信息检索
基准测试
大语言模型
智能体评估
深度研究
通过VAE和强化学习,主动优化隐空间中的推理策略,提升准确率并减少token消耗
Zhi Zheng, Wee Sun Lee
变分自编码器
强化学习
潜在推理
链式思维
高效推理
通过自评估模态相关性动态调整对比解码权重,无需训练即可抑制跨模态幻觉
Sangyun Chung, Se Yeon Kim, Youngchae Chee, Yong Man Ro
多模态大语言模型
对比解码
训练无关方法
跨模态幻觉
音频-视觉理解
将推理链渲染为图像,用视觉token替代文本token,实现3.4×压缩和2.7×加速
Yibo Wang, Yongcheng Jing, Shunyu Liu, Hao Guan, Rong-cheng Tu, Chengyu...
多模态
数学推理
视觉压缩
长上下文
高效推理
通过稀疏度量提示实现大规模异构3D数据预训练,首次在度量深度估计领域展示scaling趋势
Baorui Ma, Jiahui Yang, Donglin Di, Xuancheng Zhang, Jianxun Cui, Hao Li,...
3D视觉
基础模型
多传感器融合
深度估计
自监督预训练
通过将量化误差注入优化器动量缓冲区,实现无主权重的高效量化训练
Mahdi Nikdan, Amir Zandieh, Dan Alistarh, Vahab Mirrokni
优化器设计
内存优化
大语言模型训练
模型量化
误差反馈
用Kronecker积构造精确双随机残差矩阵,实现参数高效的流形约束超连接
Wuyang Zhou, Yuxuan Gu, Giorgos Iacovides, Danilo Mandic
参数效率
大语言模型
张量分解
残差连接
神经网络架构
训练UMM同时生成深度图和分割图,反向提升视觉理解能力
Zihan Su, Hongyang Wei, Kangrui Cen, Yong Wang, Guanhua Chen, Chun Yuan,...
后训练
图像分割
多模态学习
深度估计
统一模型
受脑科学启发的多代理记忆架构,通过海马体-颞叶-杏仁核等模块协同解决长期AI代理的灵魂侵蚀问题
Yang Li, Jiaxiang Liu, Yusong Wang, Yujie Wu, Mingkun Xu
LLM代理
多代理系统
认知科学
记忆管理
长期记忆
用影响函数追踪 LLM 可解释单元到训练样本的因果起源
Jianhui Chen, Yuzhang Luo, Liangming Pan
上下文学习
可解释性
归纳头
影响函数
训练数据归因
Softmax1替换标准注意力,token减少70%、准确率提升27%
Haozheng Luo, Zhuolin Jiang, Md Zahid Hasan, Yan Chen, Soumalya Sarkar
大语言模型
模型压缩
注意力机制
链式思维
高效推理
用LLM评估器回答自然语言元问题作为奖励信号,无需真值标签即可训练语言模型
Micah Rentschler, Jesse Roberts
GRPO
元评估
强化学习
无监督RL
语言模型对齐
FlowBoost:用流匹配+强化学习自动发现极值几何配置
Gergely Bérczi, Baran Hashemi, Jonas Klüver
强化学习
数学发现
流匹配
生成模型
组合优化
提出原则引导的推理过程奖励模型,以结构化文本生成方式为网页智能体提供可审计的步骤级判断
Yao Zhang, Shijie Tang, Zeyu Li, Zhen Han, Volker Tresp
Process Reward Model
Reasoning
Reinforcement Learning
Reward Modeling
Web Agent
提出概念解耦的视频基准,定量评估世界模型对物理常数和直觉物理的理解
Rishi Upadhyay, Howard Zhang, Jim Solomon, Ayush Agrawal, Pranay Boreddy,...
世界模型
基准测试
物理仿真
物理推理
视频生成
提出TRACE基准,用对比分析提升LLM检测代码奖励黑客的能力
Darshan Deshpande, Anand Kannappan, Rebecca Qian
代码生成
基准测试
奖励黑客
异常检测
强化学习
研究音频指纹任务中分段长度的影响,发现0.5秒短分段性能最优,GPT-5-mini推荐最准确
Ziling Gong, Yunyan Ouyang, Iram Kamdar, Melody Ma, Hongjie Chen, Franck...
大语言模型
深度学习
音频分段
音频指纹
音频检索
通过聚类-对比学习-检索增强生成的三阶段框架,从设计数据中提取风格知识以指导风格化设计改进。
Huaxiaoyue Wang, Sunav Choudhary, Franck Dernoncourt, Yu Shen, Stefano Petrangeli
图形设计
对比学习
检索增强生成
视觉语言模型
风格迁移
基于Slot Attention的物体中心表征大幅提升机器人策略的分布外泛化能力
Alexandre Chapin, Bruno Machado, Emmanuel Dellandréa, Liming Chen
机器人操控
模仿学习
泛化能力
物体中心表征
视觉表征学习
两阶段训练的轻量物体中心模块,提升机器人操作的视觉鲁棒性
Alexandre Chapin, Emmanuel Dellandréa, Liming Chen
机器人操作
槽位注意力
模仿学习
物体中心表示
视觉基础模型