提出DisCo智能体,把ML仓库蒸馏为可验证技能库,使研究性能最高提升134.3%
Jianlyu Chen, Yuyang Hu, Hongjin Qian, Jiawei Liu, Wenqing Wei, Xiaolong...
LLM Agent
ML工程自动化
技能蒸馏
操作知识
自主研究智能体
开源143万片段数据引擎与四模型训练栈,5秒序列训练即达小时级世界生成
Junchao Huang, Guian Fang, Shengju Qian, Xianghao Kong, Zhuoran Zhao, Wei...
开源数据集
扩散蒸馏
相机控制
视频世界模型
视频生成
首个把评测单元从任务答案换成可运行基础设施的基准,测 LLM 建框架与养框架的能力
Yuhao Wu, Jingyuan Zhang, Jiajun Shi, Xinping Lei, Qingshui Gu, Yuxuan...
Agent Harness
创建-进化双阶段
执行成本分析
智能体评测基准
自我进化
让模型在思维链中声明注意力范围,推理引擎据此跳过大部分KV缓存读取
Namgyu Ho, Huzama Ahmad, Woosung Koh, Se-Young Yun, Tal Schuster, Cicero...
KV缓存
推理优化
提示工程
稀疏注意力
长上下文
在智能体跑完前预测其最终成败并提前停机,节省13%–26%步骤且榜单排名基本不变
Yuling Shi, Zhensu Sun, Junsen Dong, Chengcheng Wan, David Lo, Xiaodong Gu
LLM智能体评测
LightGBM
基准蒸馏
早停
高效评测
智能体能跑通自我训练闭环,却难把模糊目标转化为可保留的真实能力提升
Yuhao Wu, Jingyuan Zhang, Jiajun Shi, Yuxuan Zhang, Xinping Lei, Junting...
Agent Harness
LLM自我进化
后训练
智能体基准
隐藏评估
训练查询侧与物品侧两个LLM关键词生成器,经交替GRPO强化学习协同进化,直接以倒排索引完成检索
Runpeng Dai, Kaili Huang, Changsung Kang, Ciya Liao
GRPO
信息检索
大语言模型
强化学习
生成式检索
交替执行权重微调与可执行框架搜索,让智能体的模型与外壳代码协同进化
Haechan Kim, Yoonho Lee, Gisang Lee, Chelsea Finn, Kangwook Lee
LLM智能体
交替优化
拒绝采样微调
框架搜索
联合优化
从零预训练的单塔双向多模态编码器,检索比肩 3.75B 模型且吞吐翻倍
Aurélien Lac, Tony Wu
双向编码器
基础模型
多模态嵌入
掩码离散扩散
视觉文档检索
七游戏交互基准,检验 LLM 能否把交互经验经自测自判转化为可靠自我改进
Jiajun Shi, Siyuan Tao, Yuhao Wu, Zexuan Wang, Jingyuan Zhang, Jiaheng Liu,...
LLM-as-a-Judge
LLM智能体
交互式基准
智能体评估
经验记忆
系统消融出像素文本表示学习的四大设计原则,训练出SOTA原生分辨率视觉文本编码器
Chaohao Yuan, Ruifeng Yuan, Zhuoxu Huang, Yu Rong, Hong Cheng, Hou Pong...
像素文本表示学习
多语言
对比学习
视觉上下文压缩
视觉文档检索
嵌套前缀分词+参数共享迭代解码,1个词元即可高保真重建3D物体,较COD-VAE缩短32倍
Mingda Lin, Weijie Wang, Zeyu Zhang, Bowen Cui, Yefei He, Haoyu Zhao, Yuanyu...
3D分词器
3D生成
嵌套Dropout
迭代精化
隐式表示
用冻结图像嵌入的对比对齐替代描述标注,单次推理即可逼近多阶段验证管线的细粒度描述质量
Suryaansh Jain, Rahasya Barkur, Vishal G, Ryan Rossi, Franck Dernoncourt,...
LoRA微调
图像描述生成
对比学习
强化学习
无参考监督
教师定位推理首个错误,把rollout切成对错两段分别赋优势,以极低成本增强RLVR
Peixuan Han, Runhui Wang, Ketan Ramaneti, Jie Hao, Gerald Friedland, Chris Kong
GRPO
LLM强化学习
奖励塑形
知识蒸馏
过程奖励
首个基于LLM的端到端流式说话人归属ASR,单一模型边听边输出谁说了什么
Yujie Tu, Zhiliang Peng, Jianwei Yu, Li Dong, Songchen Xu, Yaoyao Chang,...
大语言模型
流式ASR
端到端
语音识别
说话人分离
用一阶局部熵影响定位压低多样性的更新,按师生分歧自适应收缩,保住蒸馏后的pass@k
Run Yang, Runpeng Dai, Jie Sun, Jielei Zhang, Fan Zhou, Hongtu Zhu, Peiyi...
LLM推理
在线蒸馏
强化学习后训练
知识蒸馏
策略熵
SFT+RL+GenCorrect闭环精炼,AI在IOI 2026现场首次超越人类最高分
Aleksander Ficek, Sean Narenthiran, Mehrzad Samadi, Somshubra Majumdar,...
IOI
大模型后训练
强化学习
测试时计算
竞争性编程
首个MLLM嵌入检索器KBMR:用实体语义对齐替代CLIP视觉相似性,检索R@1最高提升14.7%
Hangrui Xu, Zhengxian Wu, Yunyao Yu, Zhuohong Chen, Rui Cong, Xiangwen Deng,...
困难负样本挖掘
多模态大模型
多模态检索
检索增强生成
知识型视觉问答
构建10.5万条多视角多模态检索基准,用噪声注入法SPIN大幅提升视角覆盖。
Seokwon Song, Sohyeon Kim, Gunhee Kim
信息检索
参数高效微调
多模态检索
检索多样性
评测基准
模块化流水线将147万张历史报纸扫描转化为163亿token的开放数据集
Matteo Cargnelutti, Catherine Brobston, Eben English, Jake Sadow, Kacie...
LLM预训练数据
OCR
数字人文
数据集构建
版面分析
将论文证据编译为带所有权与非退化约束的仓库级规格,再按契约逐文件生成代码
Yunhao Liu, Hong Phuc Pham, Jaehong Yoon
AI复现
LLM智能体
仓库级代码生成
代码保真度评估
规格编译
把执行验证的单编辑缺陷变体植入检索池,暴露嵌入检索rank-1的功能辨别短板
Aaryan Kapoor, Md Abdullah Al Hafiz Khan
代码检索
变异测试
基准构建
嵌入模型评测
执行验证
把棋类引擎的内部表示直接投影成LLM可读的连续token,首次量化并消除语言化瓶颈。
Harini S I, Somesh Singh, Yaman K Singla, Rajiv Ratn Shah, David Doermann,...
DAPO强化学习
LLM智能体协作
围棋迁移
国际象棋基准
潜状态内化
首个成对式拍图问答检索基准:图像退化最伤检索、粗文本反而拖累、双模态退化超可加
Zirong Chen, Fuda Ye, Kuan Zhang, Enjun Du, Junfu Pu, Xinlei Wang, Xinyu...
基准构建
多模态检索
模态融合校准
移动端AI
鲁棒性评测
用锚点结构质量替代JSD路由、用噪声底阈值替代累积覆盖率,修复稀疏预填充的O(n)噪声累积
Huu Huy Nguyen, Chien Van Nguyen, Franck Dernoncourt, Ryan A. Rossi, Linh...
LLM推理加速
注意力机制
稀疏注意力
训练免费方法
长上下文推理
构造协议把几KB私有知识工件做成显式开关,使Opus通过率从0%跃升至68%
Hanlin Tian, Minhao Li, Yu Mi, Sihan Zhu, Zhao Yang, Yuxiang Wang, Hongquan...
LLM智能体
任务校准
可验证奖励
合成数据构造
知识门控
AM-Bench将空间组合与代码表达分离:纯文本LLM仅编码通用布局,具体画面生成时才逐步确定
Ashwin Nedungadi, Stefan Oehmcke, Stefan Lüdtke
LLM评测基准
代码生成
可解释性
因果干预
空间推理
用结构化记忆检索与分组置换聚合替代选择器微调,实现免训练的列表式 SQL 候选选择
Yeonseok Jeong, Soyoung Yoon, Seongjun Lee, Seung-won Hwang
LLM排序
Text-to-SQL
位置偏差
免微调
检索增强
从野外视频重建动物3D运动,构建AiM3D数据集,用文本+图像双条件扩散模型自动生成3D动物动画。
Brian Nlong Zhao, Zhuoyang Pan, James M. Rehg, Jiajun Wu, Shangzhe Wu
3D重建
动物运动生成
多模态数据集
扩散模型
网格动画
用VLM智能体联动折纸模拟器、批评家与回滚机制,从教学视频还原可执行折叠程序。
Maya Moriya, Sigal Raab, Yael Vinker, Tali Dekel
物理模拟验证
程序推断
视觉语言模型智能体
计算折纸
逆向视觉任务
在SparseGPT剪枝目标中加入刻板印象对照文本的二阶项,压缩去偏两不误
Irina Proskurina, Guillaume Metzler, Antoine Gourru, Julien Velcin
LLM公平性
二阶优化
后训练剪枝
大语言模型压缩
模型剪枝
把LM头稀疏分解为读出特征,精确解释lens分数并暴露拟合语料偏差
Matteo He, William F. Shen, Xinchi Qiu, Nicholas D. Lane
Logit Lens
可解释性
稀疏自编码器
词典学习
语言模型
1.7B小模型隐层探针可作量规RL奖励,以10.7倍时间优势训出比8B生成式裁判更强的策略
Fengyu Xie, Yilun Zhao, Bingsen Chen, Arman Cohan, Chen Zhao
GRPO
LLM-as-a-Judge
Rubric-based RL
奖励模型
小模型
以新闻嵌入分布的 Wasserstein 分离构造组合方差上界,免估协方差即可选出低风险配置
Marcus Gawronsky, Chun-Sung Huang
分布场
投资组合风险
文本金融
最优传输
语言模型嵌入
用新闻文本嵌入分布的Wasserstein重心重构构造公司交互场,赋予空间系数暴露调整解释
Marcus Gawronsky, Chun-Sung Huang
Wasserstein距离
文本嵌入
最优传输
空间计量经济学
网络金融
无需对话语料,仅凭评论、元数据与协同信号主动选择并用LLM合成对话即可训练有效CRS
Rohan Surana, Junda Wu, Zhouhang Xie, Yu Xia, Nathan Kallus, Julian McAuley
主动学习
合成数据
大语言模型
对话式推荐系统
零数据引导