统一框架下的高质量图像生成与精确图像编辑模型,支持长文本渲染、多语言排版和高分辨率照片级生成
Bing Zhao, Chenfei Wu, Deqing Li, Hao Meng, Jiahao Li, Jie Zhang, Jingren...
MMDiT
VAE
图像生成
图像编辑
多模态学习
数学家新创作的439道研究级数学题,前沿模型最高仅30.4%
Guijin Son, Seungone Kim, Catherine Arnett, Hyunwoo Ko, Hyein Lee, Hyeonah...
LLM评估
基准测试
数学推理
研究级数学
用VLM做规划器、VGM做模拟器的闭环框架,按步耦合修复视频推理中的长程漂移与片段错误
Joowon Kim, Seungho Shin, Joonhyung Park, Eunho Yang
VLM-VGM协同
思维链视频化
测试时计算扩展
视频推理
闭环规划验证
用 Wasserstein 距离衡量任务几何冲突,既解释又控制 LLM 持续后训练遗忘
Yuanyi Wang, Yifan Yang, Su Lu, Yanggan Gu, Pengkai Wang, Wenjun Wang,...
Wasserstein 距离
几何分析
持续学习
模型融合
灾难性遗忘
五智能体分层记忆框架,协同扩展LLM测试时推理。
George Wu, Nan Jing, Qing Yi, Chuan Hao, Ming Yang, Feng Chang, Yuan Wei,...
LLM
math reasoning
multi-agent
reinforcement learning
test-time scaling
首次提出LLM模型合并的floor+tail幂律,量化专家数与模型规模的耦合标度
Yuanyi Wang, Yanggan Gu, Yiming Zhang, Qi Zhou, Zhaoyi Yan, Congkai Xie,...
大语言模型
权重空间融合
模型合并
经验研究
缩放定律
把“可编译”LaTeX 转成“可发表”PDF 的视觉闭环智能体
Bihui Yu, Xinglong Xu, Junjie Jiang, Jiabei Cheng, Caijun Jia, Siyuan Li,...
LaTeX 排版
基准测试
文档自动化
智能体
视觉语言模型
把图像特征直接反投影回三维体素空间,让生成与输入像素严格一一对应,从根本上解决 image-to-3D 的保真度瓶颈。
Dong-Yang Li, Wang Zhao, Yuxin Chen, Wenbo Hu, Meng-Hao Guo, Fang-Lue Zhang,...
3D生成
三维重建
像素对齐
反投影条件
图像到三维
用 Instructor–Follower 闭环共进化让指令难度随模型能力自动升级,无需外部教师即可提升开源 LLM 的多约束指令遵循能力
Qingyu Ren, Qianyu He, Jiajie Zhu, Xingzhou Chen, Jingwen Chang, Zeye Sun,...
GRPO
LLM 对齐
强化学习
指令遵循
自我博弈
把视频生成评测重定义为世界状态预测,提供436个结构化推理用例与6K专家偏好对的诊断式基准。
Keming Wu, Yijing Cui, Wenhan Xue, Qijie Wang, Xuan Luo, Zhiyuan Feng, Zuhao...
VLM评判
世界模型
奖励模型
视频生成
评测基准
用门控潜变量把循环Transformer的KV缓存压成常量,解耦推理深度与显存
Victor Conchello Vendrell, Arnau Padres Masdemont, Niccolò Grillo, Jordi...
KV缓存压缩
循环Transformer
模型架构
潜在推理
知识蒸馏
块循环压缩记忆统一Transformer与线性RNN架构
Daniel Goldstein, Eugene Cheah
KV缓存压缩
块循环Transformer
注意力机制
线性循环网络
长上下文建模
切片编码+ViT内早期压缩,55.75%降算力且精度持平
Kechen Fang, Yihua Qin, Chongyi Wang, Wenshuo Ma, Tianyu Yu, Yuan Yao
ViT压缩
多模态大模型
视觉编码
高分辨率
高效推理
把VLM内化的偏好翻译成可验证评分标准,作为稳定奖励信号驱动多模态对齐。
Juanxi Tian, Fengyuan Liu, Jiaming Han, Yilei Jiang, Yongliang Wu, Yesheng...
RLHF
VLM-as-Judge
图像生成与编辑
多模态对齐
奖励 hacking
OPPO 边缘原生 Android 智能体,多模态感知+行为克隆
Xiaoming Ren, Ru Zhen, Chao Li, Yang Song, Qiuxia Hou, Yanhao Zhang, Peng...
Android 自动化
LLM Agent
多模态感知
移动智能体
行为克隆
反转自蒸馏信号,放大正确 rollout 中模型自驱推理的 token
Jeonghye Kim, Jiwon Jeon, Dongsheng Li, Yuqing Yang
GRPO
RLVR
信息不对称
可验证奖励
推理增强
用 Hint-δ 内禀奖励让 LLM 在无验证器的开放任务上自博弈进化
Chengsong Huang, Haolin Liu, Tong Zheng, Runpeng Dai, Langlin Huang, Jinyuan...
DPO
GRPO
LLM自进化
开放式任务
无验证器RL
提出三层协同演化框架,让多智能体研究系统按用户偏好积累经验并越用越好。
Jinhang Xu, Qiyuan Zhu, Yujun Wu, Zirui Wang, Dongxu Zhang, Jianxin Tang,...
个性化
协同演化
多智能体系统
研究自动化
策略学习
证明单个MLP神经元即可绕过安全对齐并注入有害内容
Hamid Kazemi, Atoosa Chegini, Maria Safi
MLP中间激活
大语言模型安全
拒绝神经元
机制可解释性
越狱攻击
连续扩散语言模型,在嵌入空间全程去噪、仅末步离散化
Keya Hu, Linlu Qiu, Yiyang Lu, Hanhong Zhao, Tianhong Li, Yoon Kim, Jacob...
Flow Matching
分类器自由引导
扩散语言模型
生成式语言建模
连续嵌入空间
提出Entrocraft拒绝采样方法精确控制LLM RL训练熵曲线
Bolian Li, Yifan Wang, Yi Ding, Anamika Lochab, Ananth Grama, Ruqi Zhang
GRPO
LLM强化学习
性能饱和
推理模型
熵控制
首个面向点云的物体级Transformer刚体仿真器,速度比HopNet快101倍
Zhiyang Dou, Minghao Guo, Haixu Wu, Doug Roble, Tuur Stuyck, Wojciech Matusik
Transformer
刚体动力学
无网格学习
点云仿真
神经模拟器
SLIM:把外部技能集当成可训练变量,动态增删扩展
Junhao Shen, Teng Zhang, Xiaoyan Zhao, Hong Cheng
GRPO
LLM Agent
工具调用
强化学习
技能管理
在预训练尺度系统研究 MoE 压缩,提出部分保留专家合并、MTP 蒸馏与渐进剪枝
Shengkun Tang, Zekun Wang, Bo Zheng, Liangyu Wang, Rui Men, Siqi Zhang,...
MoE 压缩
Qwen3
多 token 预测
模型预训练
知识蒸馏
DBTrimKV:权重共享保留门+全局预算,动态分配KV缓存
Ngoc Bui, Hieu Trung Nguyen, Arman Cohan, Rex Ying
KV缓存压缩
模型推理加速
注意力机制
视觉语言模型
长上下文推理
冻结文本骨干与多模态编码器,仅训练极小投影器即可扩展出统一嵌入空间
Florian Hönicke, Michael Günther, Andreas Koukounas, Kalim Akram, Scott...
VLM架构
信息检索
冻结预训练
向量检索
多模态嵌入
提出GCAD方法在注意力层而非残差流注入引导信号,缓解多轮对话中的KV缓存污染。
Diancheng Kang, Zheyuan Liu, Ningshan Ma, Yue Huang, Zhaoxuan Tan, Meng Jiang
KV缓存
多轮对话
大语言模型
激活引导
表征工程
用低秩分解压缩草稿模型LM-head的隐藏表示而非缩减词表,实现4-5倍加速且不损失接受率
Anton Plaksin, Sergei Krutikov, Sergei Skvortsov, Alexander Samarin
EAGLE-3
LLM推理加速
LM-head优化
低秩分解
投机解码
提出全模态个性化基准与PMG框架,系统揭示SFT与RLVR的权衡
Yeongtak Oh, Dongwook Lee, Sangkwon Park, Heeseung Kim, Sungroh Yoon
全模态个性化
基准评测
多模态大模型
幻觉抑制
强化学习可验证奖励
主张语言表示设计是 LLM 智能扩展的下一前沿
Zhiqin Yang, Yuhan Liu, Jingwen Fu, Pei Fu anf Bo Han, Masashi Sugiyama,...
LLM
Schema
提示工程
知识激活
语言表示
提出在线审计框架,每步对展开中的多智能体轨迹判CONTINUE/ALARM
Boxuan Zhang, Jianing Zhu, Zeru Shi, Dongfang Liu, Ruixiang Tang
LLM审计器
在线审计
多智能体系统
失败归因
强化学习
用神经科学双频耦合机制构造层次记忆模块,把长上下文外推从崩溃曲线拉成平缓直线。
Lungchuan Chen
层次化架构
测试时训练
神经记忆模块
类脑设计
语言模型
提出双前向传播RL框架,使MLLM抗视觉退化且不牺牲干净精度。
Rui Liu, Dian Yu, Haolin Liu, Yucheng Shi, Tong Zheng, Runpeng Dai, Haitao...
GRPO
多模态大模型
强化学习
视觉退化
鲁棒性
用共形预测为多智能体失败轨迹生成连续错误区间,支撑可回滚的错误归因
Naihe Feng, Yi Sui, Shiyi Hou, Ga Wu, Jesse C. Cresswell
不确定性量化
共形预测
多智能体系统
序列过滤
智能体回滚
免训练token级诊断框架量化每个蒸馏信号与理想梯度的对齐程度
Mohammadreza Armandpour, Fatih Ilhan, David Harrison, Ajay Jaiswal, Duc N. M...
在线策略蒸馏
推理模型
梯度对齐
知识蒸馏
训练自由诊断
首次系统分析 Adam 与 Muon 的优化器错配问题,证明 LoRA 可让 Muon 在微调阶段匹配甚至超越 Adam。
Xingyu Qu, Peigeng Huang, Samuel Horvath
Adam
LoRA
Muon
优化器
微调
将多模态奖励评估重构为计划-执行两阶段过程,用多角色强化学习联合优化规划与验证
Rui Liu, Dian Yu, Zhenwen Liang, Yucheng Shi, Tong Zheng, Runpeng Dai,...
GRPO
多模态奖励模型
强化学习
视觉-语言模型
评估基准
首个面向电影级多镜头叙事与S2V生成的大规模数据集,配套视觉逻辑驱动的双轨评估基准与反复制粘贴新指标
Haojie Zhang, Di Wu, Bingyan Liu, Linjie Zhong, Yuancheng Wei, Xingsong Ye,...
VLM标注
主体到视频生成
多镜头视频生成
扩散模型
数据集构建
用异步流水线+版本感知策略将LLM智能体演化提速3.5–4.9倍
Zhengding Hu, Mingge Lu, Zhen Wang, Jixuan Ruan, Chang Chen, Zaifeng Pan,...
LLM推理系统
异步RL类比
异步流水线编排
智能体自演化
测试时优化
BM25配好+深检索+强LLM,在BrowseComp-Plus上压过稠密检索智能体。
Tz-Huan Hsu, Jheng-Hong Yang, Jimmy Lin
BM25
LLM工具使用
搜索智能体
检索增强生成
深度研究
10任务科学Metal基准+演化循环,利用held-out门做廉价LLM监督
Víctor Gallego
Apple Metal
GPU内核优化
LLM代码生成
智能体监督
科学计算基准
大规模长程机器人记忆基准(26任务/68.9%记忆依赖)与双系统VLA模型PrediMem,以预测编码提升关键帧选择能力
Huashuo Lei, Wenxuan Song, Huarui Zhang, Jieyuan Pei, Jiayi Chen, Haodong...
VLA模型
具身记忆
机器人基准
长程任务规划
预测编码
DECO通过ReLU路由、可学习专家缩放、NormSiLU激活与非门控MLP专家的组合,在仅激活20%路由专家时匹配密集Transformer性能,并在Jetson AGX Orin上实现2.93倍推理加速。
Chenyang Song, Weilin Zhao, Xu Han, Chaojun Xiao, Yingfa Chen, Zhiyuan Liu
推理加速
混合专家
激活函数
稀疏激活
端侧部署
用K×K网格行/列后验探针在答案空间挑帧,按分布形状自适应每题算力
Mohamed Eltahir, Lama Ayash, Ali Habibullah, Tanveer Hussain, Naeemullah Khan
测试时计算
自适应计算
视觉语言模型
训练免费推理
长视频理解
首个面向已构建RAG知识库的强化学习后精炼框架
Haoyu Huang, Jiaxin Bai, Shujie Liu, Yang Wei, Hong Ting Tsang, Yisen Gao,...
GRPO
LLM智能体
RAG
强化学习
知识图谱
用同一模型的双角色自蒸馏,将英语推理能力迁移到17种低资源非洲语言。
Yihong Liu, Raoyuan Zhao, Michael A. Hedderich, Hinrich Schütze
低资源语言
多语言推理
强化学习替代
数学推理
自蒸馏
提出两阶段基准,量化LLM智能体在技能选择与执行中普遍存在的过度授权问题
Shawn Li, Chenxiao Yu, Han Wang, Wei Yang, Ryan Rossi, Franck Dernoncourt,...
基准测试
工具选择
技能层
智能体安全
最小特权原则
提出可查询低秩更新记忆库,用指令正则化路由替代静态LoRA
Omatharv Bharat Vaidya, Connor T. Jerzak, Nhat Ho, Chandrajit Bajaj
LoRA
低秩适配
动态路由
参数高效微调
大语言模型
用 MLLM 把 3D 手部接触估计变成结构化提示推理,无需训练即超越监督方法。
Daniel Sungho Jung, Kyoung Mu Lee
3D 几何推理
MANO 网格
免训练零样本
多模态大语言模型
手部接触估计
构建首个基于全文文献的多物种植物细胞类型标记基因证据基准,揭示LLM在生物学证据归因上的关键短板。
Sajib Acharjee Dip, Song Li, Liqing Zhang
LLM评估
命名实体消歧
文献挖掘
植物单细胞
生物信息学基准