单模型先写可读乐谱再渲染全曲,作曲显式化且质量比肩 Suno
Ruibin Yuan, Jiahao Pan, Junyan Jiang, Zhiyue Wu, Ziya Zhou, Jiankai Sun,...
AR-NAR 统一模型
乐谱转写
流匹配
符号音乐
音乐生成
联合训练主干与迭代决策器,把额外迭代精准分配给受益token,让循环模型测试时扩展超越非循环基线
Yichen You, Tianyu Fu, Aosong Feng, Xingtai Lv, Xuefei Ning, Ning Ding, Yu Wang
后训练
循环Transformer
测试时扩展
自适应计算
高效推理
从25万条真实部署轨迹自动构建行为基准,九个前沿大模型平均通过率仅26.7%
Dehai Min, Daoan Zhang, Yiming Zeng, Huayi Zhang, Ziyi Chen, Yan Zhang,...
LLM-as-Judge
LLM智能体
基准构建
安全评估
智能体评估
按各域反馈方差缩放多教师蒸馏优势,找回被淹没的数学增益
Xin Li, Hao Jiang, Xin Gao, Annan Wang, Yuchen Xie, Jinghao Guo, Xingwei Qu,...
在线策略蒸馏
多教师蒸馏
大语言模型
强化学习
损失归一化
无编码器多模态模型前期更耗算力但损失下降更快,预计约10^22 FLOPs处反超有编码器架构
Lin Chen, Bolin Ni, Qi Yang, Lan Jiang, Kun Ding, Xiaoran Fan, Hower Yang,...
多模态大模型
无编码器多模态架构
混合专家
缩放定律
计算最优训练
仅凭单个词的教师回复,同源学生即可习得私有小样本微调的能力
Ziyang Zhang, Yubin Jing, Yuanhao Zeng, Yuyao Li, Haofan Wang, Yichen Gong
AI安全
LoRA微调
大语言模型
知识蒸馏
隐蔽学习
弹性GPU调度加分支轨迹处理,把在线RL扩展到数小时、百万token级的超长程智能体任务。
Weiqi Wang, Yuxin Zhou, Mouxiang Chen, Siyuan Zhang, Yi Zhang, Yuyan Luo,...
弹性调度
强化学习基础设施
智能体RL
轨迹处理
软件工程Agent
首个评估语音助手在多人对话中何时开口、保持沉默与让出话轮的全双工基准。
Chengqian Ma, Wenhao Feng, Weixuan Jin, Gaole Dai, Tianyu Xie, Yuexiao Ma,...
全双工语音对话
基准测试
多方对话
话轮控制
语音大模型评测
组内智能体评分器给通过测试的解排质量序,和保持地重分配优势,稳定代码智能体RL。
Jinhao Dong, Liang Zhao, Zihao Yue, Wenhan Ma, Linghao Zhang, Lei Li,...
GRPO
LLM Agent
代码智能体
优势重分配
信用分配
用整轨迹强化学习让统一多模态模型学会检查、诊断并修复自己生成的图像
Yijia Fan, Ziqi Huang, Zhongang Cai, Yan Li, Zimo Wen, Wanqi Yin, Haiwen...
Flow Matching
GRPO
多轮图像修复
强化学习
统一多模态模型
小模型先推理再诊断知识瓶颈,按需分档求助强模型,4B低成本胜14B
Chanuk Lee, Minki Kang, Sangwoo Park, Woongyeong Yeo, Jinheon Baek, Sung Ju Hwang
大语言模型
小模型
工具使用
强化学习
推理
强智能体把干预经验蒸馏成操作手册并递归精炼,轻量智能体照做即可大幅提升冻结VLA成功率
Seungyeon Kim, Junhoo Lee, Minkyu Kim, Baekseung Kim, Nojun Kwak
LLM智能体
VLA
机器人操作
知识蒸馏
经验复用
首个自修改视觉主干:五记忆共演化加稳定步长控制,线性复杂度拿下三大基准。
Siran Peng, Tianshuo Zhang, Tianyu Fu, Weisong Zhao, Haoyuan Zhang, Jiankuo...
嵌套学习
测试时训练
状态空间模型
线性复杂度
自参考记忆
用可复用服务组合生成跨环境任务训练智能体,八大基准平均提升9.17分
Xiao-Wen Yang, Weiyi Xu, Wen Da, Hang Xu, Canwei Li, Hong-Jie You, Pusen...
GRPO
SFT
强化学习
智能体训练
环境合成
用规则指纹筛选推理路径多样的SFT数据,显著提升RL后的泛化覆盖率
Dylan Zhang, Mingyuan Wu, Jinning Li
SFT
后训练
强化学习
推理多样性
数据选择
学生生成前缀、教师在线续写接管,仅用教师文本训练,效果超 OPD 且训练更省时
Haojin Wang, Dylan Zhang, Huaibo Chen, Suhao Yu, Yihang Sun, Zhanyang Jin,...
LLM蒸馏
后训练
在线干预
多轮智能体
用熵与优势符号耦合的EAPO,强化惊讶成功、纠正重复失败,保留失败响应的恢复路径
Woongyeong Yeo, Minki Kang, Chanuk Lee, Sangwoo Park, Jinheon Baek, Sung Ju Hwang
LLM推理
RLVR
信用分配
强化学习
探索
把世界状态与机器人执行都写成可执行代码,让物理智能体可验证地观察、行动并自我进化
Hongcheng Gao, Jingjing Zhou, Zelin Zheng, Shijia Ge, Jay Zhu, Yazhe Wang,...
VLA
世界模型
具身智能
机器人操作
编码智能体
固定参数量扫描宽深比,发现只有HC/AttnRes类残差设计能把更多层变成有效计算。
Keyu Wang, Yangyi Huang, Jiale Kang, David González-Martínez, Weiyang Liu, Shiwei Liu
Transformer架构
benchmark
宽度-深度缩放
残差连接
深度利用率
把修图从自回归生成改为条件流匹配直接产出工具参数,延迟降50倍
Thanh-Long V. Le, Steven Walton, Seunghyun Yoon, Branislav Kveton, Trung...
DiT
图像编辑
多模态大模型
强化学习后训练
流匹配
扰动公开文档并做依赖性检验,自动合成数据让35B模型CL-bench成绩从13.7%升至24.6%
Haoyi Wu, Yang Xiao, Yusong Sun, Wenyang Hui, Zhaokai Luo, Chengyue Jiang, Mu Chuan
上下文学习
合成数据
强化学习
数据流水线
长上下文
用扩散Transformer头直接建模奖励分布,突破标量奖励模型的表达瓶颈
Xiangyang Wang, Bingxiang He, Zeyuan Liu, Jiaze WangZiqing Qiao, Yuxin Zuo,...
LLM对齐
RLHF
不确定性估计
奖励模型
扩散模型
用因子化混合控制、压缩记忆与稳定蒸馏,实现实时、精细可控且长时一致的交互世界模型
Haiyu Zhang, Wenqiang Sun, Tengfei Wang, Junta Wu, Jun Zhang, Yunhong Wang,...
交互世界模型
分布匹配蒸馏
实时生成
视频扩散模型
长时一致性
从技能出发、以能力需求为导向自动合成可执行环境并迭代加固,用于智能体后训练
Weiyi Xu, Xiaowen Yang, Wen Da, Hang Xu, Canwei Li, Hongjie You, Pusen Dong,...
后训练
技能学习
智能体
环境合成
监督微调
复用去噪前向自产的同阶段KV缓存,辅以稀疏干净锚点,长视频生成更快且质量更高。
Yikai Wang, Xiao Han, Mengmeng Xu, Juan Camilo Perez, Yiannis Douratsos, Sen...
KV缓存
少步蒸馏
推理加速
流水线并行
自回归生成
保留完整 QK 打分,用在线 softmax 归一化贡献决定每个 tile 是否执行后续计算
Jingze Shi, Zhangyang Peng, Xianduo Li, Yanlin Qi, Xiaotian Lin, Haoxian...
FlashAttention 内核
大模型训练
稀疏注意力
算子工程
长上下文
把支撑大模型的整套系统当作策略,用执行轨迹驱动诊断-验证-晋升闭环实现自演化。
Jingsong Liang, Shuhao Liao, Shizhe Zhang, Diyuan Hou, Yuxin Cai, Xinjian...
LLM Agent
具身智能
机器人操作
系统即策略
自演化智能体
用低秩MLP预测每层视觉记忆,免剪枝加速多模态推理且保留全部视觉token
Jingdi lei, Junxian Li, Di Zhang, Zhanqiu Zhang, Yiwen Guo, Soujanya Poria
低秩适配器
多模态大模型
推理加速
知识蒸馏
视觉token压缩
把训练-推理失配表示为对数几率位移,在位移坐标用单一阈值截断,比值上限随置信度自动收紧
Tianrun Yu, Kaixiang Zhao, Shangzhe Li, Yuxiao Yang, Porter Jenkins, Weitong...
GRPO
LLM 强化学习
MoE
RLVR
训练-推理失配
六个前沿通用模型在34项能力、55个基准上的全景评测,划定通用视觉的能与不能
Hanoona Rasheed, Mohammed Irfan Kurpath, Bin Ren, Hisham Cholakkal, Fahad...
基准测试
多模态大模型
模型评测
能力版图
计算机视觉
保持权重参数量不变,把矩阵乘法换成更便宜的结合代数乘积:吞吐+7%,质量略降
Ilya Koziev, Ivan Oseledets
LLM预训练
代数复杂度理论
快速矩阵乘法
推理加速
算子优化
用问答式重建预训练与带视觉补偿的空间思维链微调,让VLM显式用几何推理解答空间问题
Yang Cao, Jiaxin Zhang, Dave Zhenyu Chen, Yingji Zhong, Ruiyuan Gao, Lanqing...
3D重建
多模态大模型
思维链
空间推理
视觉语言模型
以三层九维量规为轴,用自适应提示蒸馏为集合重排补上文档级信用分配
Kailin Jiang, Lei Liu, Jian Xi, Yangqi Chen, Hui Xu, Hongwei Zhao, Bin Li,...
Rubric
强化学习
文档重排
检索增强生成
深度研究
首个跨仓库协同编码基准:120个真实任务,最强智能体组合仅解出42.5%
Baoyi Wang, Xingliang Wang, Jinyang Wu, Keming Wu, Chen Zhi, Jianwei Yin
SWE-bench
编码智能体
评测基准
跨仓库协同
软件工程
延迟感知门控融合加表情子空间随机细化,让AI倾听者反应及时、能自然眨眼,并可部署上真机器人
Peizhen Li, Longbing Cao, Yang Zhang
人机交互
倾听头生成
具身智能
随机运动细化
音频驱动动作生成
把长程历史按KV头互补划分、集体覆盖全部因果历史,以稀疏成本逼近全注意力质量。
Jingze Shi, Zhangyang Peng, Xianduo Li, Yanlin Qi, Xiaotian Lin, Haoxian...
大语言模型
注意力架构
稀疏注意力
长上下文
高效训练与推理
提出EMem-Bench基准与EMem记忆系统,诊断并缓解具身智能体的四大记忆缺陷
Lizhou Liang, Xinyu Zhong, Miao Pan, Xiaohe Zhou, Xuanyu Liu, Qinfeng Li,...
具身智能
基准评测
多模态大模型
智能体记忆
长程任务
首个支持流式编辑指令与参考图随时注入的视频世界模型 EditWorld
Xinyao Liao, Xianfang Zeng, Zhu Liang, Zhoujie Fu, Qianxun Xu, Jiachi Liu,...
参考图条件生成
流式编辑
稀疏注意力
自回归视频扩散
视频世界模型
首帧外观锚点加紧凑运动令牌做扩散压缩预训练,运动基准全面领先且算力减半
Shih-Ying Yeh, Daniel Z. Kaplan, Xuehai Wang, Fu-En Yang, Min-Hung Chen,...
扩散模型
架构-目标协同
视频自监督学习
运动表征
高效预训练
将在线蒸馏重构为 KL 正则强化学习,用乐观最小二乘目标实现离策略复用与更高 Pass@k
Shangzhe Li, Yuxiao Yang, Tianrun Yu, Kaixiang Zhao, Xiaoyun Wang, Taylor W....
LLM推理
强化学习
样本效率
知识蒸馏
策略优化
把DiT残差流从被动求和改为跨层主动检索,镜像路由最多省1.73倍训练步数
Yuhe Liu, Xinyin Ma, Gongfan Fang, Songhua Liu, Xinchao Wang
Transformer
图像生成
扩散模型
架构设计
残差连接
让模型看图解题并直接改图:最强生成模型在SolveEdit上也只得57.0分
Wenjie Shu, Yexin Liu, Harold Haodong Chen, Xuerui Qiu, Zehan Wang, Yidi...
图像编辑
基准评测
多模态推理
测试时规划
视觉问题求解
构建科学图像可解释验证基准,用两阶段课程RL训练8B验证器,媲美更大闭源模型
Jiali Chen, Zhengteng Lin, Zuqi Wang, Shirong Lin, Xi Yu, Xusen Hei, DingBa...
GRPO
可解释验证
多模态大模型
强化学习
科学图像生成
训练单一模型解读权重更新印迹,并用其梯度对原模型做零样本行为干预
Guanxu Chen, Qihao Lin, Jing Shao
安全对齐
权重空间学习
模型编辑
模型自省
自我改进
将技能合成重构为对原始经验轨迹的按需主动导航,让 agent 动态策展任务专属技能
Kwangwook Seo, Dongha Lee
Agent Harness
LLM Agent
技能合成
检索与导航
经验学习
Nereus用EMU状态抽象与代价感知控制器,让RL后训练作业在线适应资源与负载漂移并安全重分片
Songlin Jiang, Tuo Shi, Sitong Zhang, Zeke Wang, Mario Di Francesco, Bo Zhao
LLM后训练
分布式GPU集群
弹性并行
强化学习系统
状态重分片
重建可复现观测的物理场景,施加物理干预后引导视频生成反事实
Conghan Yue, Yuanjie Chen, Yue Han, Ya Gao, Yunyan Xiao, WeiYao Zhang, Zhineng Chen
3D场景重建
反事实
物理推理
视频生成
视频编辑
用固定程序在结构化解析上算出答案,以逐断言校验取代多数投票,让 VLM 可靠自进化
Ahmed Heakl, Sungik Choi, Moontae Lee, Salman Khan
GRPO
可验证奖励
场景图解析
数据合成
自进化
流式前馈框架联合估计手部MANO参数与相机轨迹,快速重建世界系手部运动
Kerui Ren, Kaiwen Song, Weiguang Zhao, Yuxi Wang, Yufei Liu, Bo Dai, Haoyu...
MANO
SLAM
世界坐标系
具身智能
手部运动估计
形式化水印残差跨图可迁移性(RT),定位架构为根因,并提出免重训的内容绑定防御CoverLock。
Ziping Dong, Qi Li, Xinchao Wang
内容绑定
即插即用防御
数字水印
架构分析
残差可迁移性
在DA3几何潜空间做扩散,注入Wan2.2视频先验与点云空间记忆,9秒生成世界一致新视角
Kerui Ren, Tao Lu, Linning Xu, Changjian Jiang, Mu Huang, Chunhua Shen,...
世界模型
几何潜扩散
少步蒸馏
新视角合成
视频扩散先验
在线贝叶斯记忆为顾问可靠性建模,动态决定中心模型“信谁”与“要不要问人”。
Peilin Feng, Zhengyang Huang, Soujanya Poria
LLM记忆
可靠性估计
多智能体系统
智能体路由
注意力调控
将文档渲染为图像并压缩成视觉令牌做重排序:令牌减少16.5%–35.5%,精度反超同级文本模型
Seongtae Hong, Youngjoon Jang, Jungseob Lee, Hyeonseok Moon, Heuiseok Lim
RAG
信息检索
多模态大模型
知识蒸馏
视觉文本压缩
EER 与人类听感脱钩,嵌入有效维度 deff 才是音色相似度的真指标
Szu-Chi Chen, Jia-Kai Dong, Yi-Cheng Lin, Sung-Feng Huang, Hung-yi Lee
TTS评测
度量学习
表示几何
语音嵌入
说话人验证
冻结的全Token自身副本当教师,在学生自采样轨迹上做分布蒸馏,5%视觉Token保留82.3%性能
Junxian Li, Ruixuan Yang, Tianao Zhang, Tiange Xu, Weisheng Dong, Yulun Zhang
在线策略蒸馏
多模态大模型
推理加速
视觉Token压缩
课程学习