系统综述LLM在数据清洗、集成、增强三大数据准备任务中的方法、评估与挑战
Wei Zhou, Jun Zhou, Haoyu Wang, Zhenghao Li, Qikang He, Shaokun Han,...
大语言模型
数据准备
数据增强
数据清洗
数据集成
用GitHub PR数据和真实执行轨迹做智能体中期训练，在SWE-Bench上刷新开源方案SOTA。
Ji Zeng, Dayuan Fu, Tiantian Mi, Yumin Zhuang, Yaxing Huang, Xuefeng Li,...
中期训练
代码智能体
数据合成
智能体训练
软件工程
三智能体框架将粗粒度对话自动转化为电影级长视频
Chenyu Mu, Xin He, Qu Yang, Wanshun Chen, Jiadi Yao, Huang Liu, Zihao Yi, Bo...
多智能体
强化学习
电影制作自动化
视频生成
长时域一致性
通过元强化学习生成自适应课程，突破数学推理性能瓶颈
Shobhita Sundaram, John Quan, Ariel Kwiatkowski, Kartik Ahuja, Yann...
元学习
大语言模型
强化学习
数学推理
自博弈
提出代码驱动的科学图像生成框架ImgCoder和评测基准SciGenBench，揭示精度-表现力权衡
Honglin Lin, Chonghan Qin, Zheng Liu, Qizhi Pei, Yu Li, Zhanping Zhong, Xin...
代码生成
合成数据
基准评测
多模态推理
科学图像生成
提出DeepPlanning基准评估LLM在多日旅行和购物规划中的长期约束优化能力
Yinger Zhang, Shutong Jiang, Renhao Li, Jianhong Tu, Yang Su, Lianghao Deng,...
agent评估
基准测试
工具使用
约束优化
长期规划
用2σ(1.6x)-1替换tanh，使FSQ同时实现100%利用率和最优精度
Bin Lin, Zongjian Li, Yuwei Niu, Kaixiong Gong, Yunyang Ge, Yunlong Lin,...
tokenizer
向量量化
图像生成
扩散模型
离散表示
通过轻量路由器在推理时动态分配注意力头到全注意力或稀疏模式
Zecheng Tang, Quantong Qiu, Yi Yang, Zhiyi Hong, Haiya Xiang, Kebin Liu,...
动态路由
混合注意力
稀疏注意力
长上下文
高效推理
将RGB-D相机缺失深度视为自然掩码，通过掩码建模学习联合几何-外观表征
Bin Tan, Changjiang Sun, Xiage Qin, Hanat Adai, Zelin Fu, Tianxiang Zhou,...
RGB-D感知
机器人操控
深度估计
深度补全
自监督学习
利用预训练视频生成器作为自改进器，通过预测-扰动循环提升视频物理真实性和运动连贯性
Sangwon Jang, Taekyung Ki, Jaehyeong Jo, Saining Xie, Jaehong Yoon, Sung Ju Hwang
Flow Matching
扩散模型
推理时优化
无训练方法
物理一致性
单遍处理60分钟音频，统一ASR/说话人分离/时间戳的端到端框架
Zhiliang Peng, Jianwei Yu, Yaoyao Chang, Zilong Wang, Li Dong, Yingbo Hao,...
多模态
大语言模型
端到端系统
语音识别
说话人分离
提出EGAgent框架，通过实体场景图实现跨天超长视频的多跳推理问答
Aniket Rege, Arka Sadhu, Yuliang Li, Kejie Li, Ramya Korlakai Vinayak,...
场景图
多模态推理
智能体
检索增强生成
视频理解
首个无需扩散解码器的统一自回归多模态模型，支持文本、图像、语音的任意到任意生成
Dongjie Cheng, Ruifeng Yuan, Yongqi Li, Runyang You, Wenjie Wang, Liqiang...
图像生成
多模态大语言模型
统一模型
自回归生成
语音合成
K-means聚类构建多样化子表+LLM生成查询+对比微调提升表格检索
Tsung-Hsiang Chou, Chen-Jui Yu, Shui-Hsiang Hsu, Yao-Chung Fan
合成数据
大语言模型
对比学习
表格检索
表示学习
发现状态信息丰富度和规划复杂度是 RL 训练保留跨域泛化能力的关键因素
Zhihan Liu, Lin Guan, Yixin Nie, Kai Zhang, Zhuoqun Hao, Lin Chen, Asli...
GRPO
LLM Agent
Post-training
强化学习
跨域泛化
C-RADIOv4通过多教师蒸馏构建聚合视觉骨干模型，提升下游任务性能并支持任意分辨率
Mike Ranzinger, Greg Heinrich, Collin McCarthy, Jan Kautz, Andrew Tao, Bryan...
基础模型
多分辨率训练
蒸馏
视觉编码器
计算机视觉
首个覆盖感知/推理/预测/决策四维度的多模态时间序列推理基准，评测30+主流模型
Fangxu Yu, Xingang Guo, Lingzhi Yuan, Haoqiang Kang, Hongyu Zhao, Lianhui...
基准评测
多模态
大语言模型
推理能力
时间序列
通过双代理执行反馈循环自动生成难度可控的深度搜索问答数据
Fangyuan Xu, Rujun Han, Yanfei Chen, Zifeng Wang, I-Hung Hsu, Jun Yan, Vishy...
强化学习
数据生成
智能体
检索增强
深度搜索
基于扩散Transformer的统一多模态视频生成框架
Debang Li, Zhengcong Fei, Tuanhui Li, Yikun Dou, Zheng Chen, Jiangping Yang,...
多模态学习
扩散模型
视频生成
计算机视觉
从状态构建和动力学建模两个维度，系统梳理视频生成模型迈向世界模拟器的技术路径
Luozhou Wang, Zhifei Chen, Yihua Du, Dongyu Yan, Wenhang Ge, Guibao Shen,...
世界模型
扩散模型
状态空间模型
综述
视频生成
通过语义聚类和加权融合提升表格检索的语义表示质量
Shui-Hsiang Hsu, Tsung-Hsiang Chou, Chen-Jui Yu, Yao-Chung Fan
信息检索
大语言模型
聚类方法
表格检索
语义表示
提出原位自进化范式，通过工具动态合成与优化，使智能体在无监督开放环境中自主提升能力。
Haotian Li, Shijun Yang, Weizhen Qi, Silei Zhao, Rui Hua, Mingzhu Song,...
多智能体系统
工具学习
开放任务
智能体
自进化
四阶段智能体框架自动生成高质量学术反驳
Peixuan Han, Yingjie Yu, Jingjun Xu, Jiaxuan You
LLM应用
学术写作
学术评审
智能体
长文本处理
用轻量门控模块直接从隐藏状态预测KV重要性，免去运行时重建开销
Jang-Hyun Kim, Dongyoon Han, Sangdoo Yun
KV缓存压缩
注意力门控
长上下文推理
高效推理
从视觉编码器提取亲和力提示注入语言模型，免训练提升VLA模型的空间理解能力
Jongwoo Park, Kanchana Ranasinghe, Jinhyeok Jang, Cristina Mata, Yoo Sung...
Vision-Language-Action
免训练方法
多模态学习
机器人操作
空间推理
元学习驱动的个性化奖励建模，少样本快速适应任意用户偏好
Hongru Cai, Yongqi Li, Tiezheng Yu, Fengbin Zhu, Wenjie Wang, Fuli Feng, Wenjie Li
RLHF
个性化对齐
元学习
奖励建模
少样本学习
通过多阶段草稿-修订框架恢复块扩散模型的全局一致性
Linrui Ma, Yufei Cui, Kai Han, Yunhe Wang
半自回归生成
多阶段生成
文本生成
离散扩散模型
语言模型
基于Whisper的端到端框架，联合建模ASR和儿童-成人说话者角色分离
Anfeng Xu, Tiantian Feng, Somer Bishop, Catherine Lord, Shrikanth Narayanan
临床应用
儿童语音
端到端模型
语音识别
说话者分离
首个覆盖5种语言组合的多人群码混对话基准，揭示当前大模型在真实码混场景下的显著不足
Mohammad Rifqi Farhansyah, Hanif Muhammad Zhafran, Farid Adilazuarda,...
代码混用
低资源语言
基准数据集
多语言NLP
对话系统
动态重分配过载设备的token和专家权重至空闲设备，实现5倍加速
Xuan-Phi Nguyen, Shrey Pandit, Austin Xu, Caiming Xiong, Shafiq Joty
专家并行
分布式训练
大模型推理
混合专家模型
负载均衡
研究发现MLLM多图像推理能力越强，越容易受到多图像关系攻击，存在聪明的副作用现象。
Renmiao Chen, Yida Lu, Shiyao Cui, Xuan Ouyang, Victor Shea-Jay Huang,...
多图像推理
多模态安全
安全评估
对抗攻击
注意力熵
首次大规模分析1444万条智能体搜索日志，揭示意图驱动的查询重构模式
Jingjie Ning, João Coelho, Yibo Kong, Yunfan Long, Bruno Martins, João...
信息检索
搜索行为建模
智能体搜索
查询日志分析
深度研究
将整个 Transformer 重写为高阶注意力张量，统一编码所有子组件用于模型理解
Ido Andrew Atad, Itamar Zimerman, Shahar Katz, Lior Wolf
Transformer 可解释性
张量分析
模型理解
注意力机制
线性算子
推理模型在用户描述生命危险时仍坚持解数学题，暴露严重安全缺陷
Etienne Lanzeray, Stephane Meilliez, Malo Ruelle, Damien Sileo
基准测试
大语言模型安全
奖励误规范
对齐
推理模型
基于多模态检索增强生成的UI设计系统，帮助终端用户通过真实示例进行迭代式界面设计
Junling Wang, Hongyi Lan, Xiaotian Su, Mustafa Doga Dogan, April Yi Wang
UI设计
人机交互
创意支持系统
检索增强生成
终端用户设计
通过轻量级评分器和混合裁判实现动态模型选择，成本降低89.8%且性能更强
Jize Wang, Han Wu, Zhiyuan You, Yiming Song, Yijun Wang, Zifei Shan, Yining...
LLM集成
多智能体协作
效率优化
模型路由
FluidGym：首个全自包含、全可微分的流体控制强化学习基准平台
Jannis Becktepe, Aleksandra Franz, Nils Thuerey, Sebastian Peitz
基准测试
多智能体
强化学习
流体控制
计算流体力学
揭示视觉token压缩如何使LVLM变得脆弱，并提出针对性攻击方法CAA
Xiaomei Zhang, Zhaoxi Zhang, Leo Yu Zhang, Yanjun Zhang, Guanhong Tao, Shirui Pan
token压缩
对抗攻击
模型安全
视觉语言模型
鲁棒性
基于NTK理论统一分解幻觉为数据驱动与推理驱动两类，并提出检测方法
Xinyue Zeng, Junhong Lin, Yujun Yan, Feng Guo, Liang Shi, Jun Wu, Dawei Zhou
LLM可靠性
不确定性估计
幻觉检测
理论分析
神经正切核
通过渐进式对应感知对齐实现免训练的纹理3D形变生成
Xiaolu Liu, Yicong Li, Qiyuan He, Jiayin Zhu, Wei Ji, Angela Yao, Jianke Zhu
3D形变
3D生成
对应学习
扩散模型
注意力插值