多智能体协作自动生成出版级学术插图,包含方法图与统计图
Dawei Zhu, Rui Meng, Yale Song, Xiyu Wei, Sujian Li, Tomas Pfister, Jinsung Yoon
VLM
图像生成
多智能体系统
学术可视化
科学绘图
通过填空式多选题构造,将不可验证文本转化为可用RL训练数据
Ximing Lu, David Acuna, Jaehun Jung, Jian Hu, Di Zhang, Shizhe Diao, Yunheng...
LLM推理
RLVR
多选题
强化学习
数据合成
通过MS-EDEN无偏量化技术,在NVFP4格式下实现高效且精确的LLM预训练。
Andrei Panferov, Erik Schultheis, Soroush Tabesh, Dan Alistarh
GPU加速
LLM预训练
NVFP4
低精度训练
微缩放格式
一个完全自动化的端到端框架,通过可扩展的数据合成和可验证的强化学习来训练工具增强的语言智能体。
Xiaoyu Tian, Haotian Wang, Shuaiting Chen, Hao Zhou, Kaichi Yu, Yudian...
多轮交互
工具增强语言模型
强化学习
数据合成
智能体训练
通过拒绝引导激发模型内生安全知识,无需外部教师实现安全对齐
Seanie Lee, Sangwoo Park, Yumin Choi, Gyeongman Kim, Minki Kang, Jihun Yun,...
KL散度优化
大推理模型
安全对齐
拒绝引导
自蒸馏
将推理链渲染为图像来引导VAE框架下的潜在推理,实现高效压缩且超越显式CoT
Fanmeng Wang, Haotian Liu, Guojiang Zhao, Hongteng Xu, Zhifeng Gao
变分自编码器
大语言模型
思维链
潜在推理
视觉-文本压缩
通过合成课程问题与求解器协同进化,实现测试时自适应推理提升
Chengyi Yang, Zhishang Xiang, Yunbo Tang, Zongpei Teng, Chengsong Huang, Fei...
GRPO
大语言模型
强化学习
数学推理
测试时训练
提出LingBot-VA自回归扩散框架,统一视频动态预测与动作推理实现闭环机器人操控
Lin Li, Qihang Zhang, Yiming Luo, Shuai Yang, Ruilin Wang, Fei Han, Mingrui...
世界模型
扩散模型
机器人操控
自回归生成
视觉-语言-动作模型
RLVR优化的推理模型作为嵌入模型骨干时并无优势,但对比学习可对齐两者
Wun Yu Chan, Shaojin Chen, Huihao Jing, Kwun Hang Lau, Elton Chun-Chai Li,...
可解释性
强化学习
推理模型
文本嵌入
表征学习
将文本记忆渲染为视觉图像,通过自适应信息密度突破上下文预算瓶颈
Yaorui Shi, Shugui Liu, Yu Yang, Wenyu Mao, Yuxin Chen, Qi GU, Hui Su,...
多模态
强化学习
智能体记忆
视觉压缩
长上下文推理
0.9B参数VLM在文档解析达到94.5% SOTA,新增印章识别与文本定位能力
Cheng Cui, Ting Sun, Suyin Liang, Tingquan Gao, Zelun Zhang, Jiaxuan Liu,...
OCR
多任务学习
布局分析
文档解析
视觉语言模型
用Beta分布建模攻击成功率的缩放规律,从小规模测量准确预测大规模对抗风险
Mingqian Feng, Xiaodong Liu, Weiwei Yang, Chenliang Xu, Christopher White,...
LLM安全
对抗攻击
贝叶斯统计
越狱攻击
风险评估
基于频域滑动窗口引导dLLM实现结构到细节的解码策略
Siyang He, Qiqi Wang, Xiaoran Liu, Hongnan Ma, Yiwei Shi, Yuerong Song, Ying...
代码生成
扩散语言模型
数学推理
解码策略
非自回归生成
用逐步密集奖励和自适应噪声校准改进流匹配模型的人类偏好对齐
Haoyou Deng, Keyu Yan, Chaojie Mao, Xiang Wang, Yu Liu, Changxin Gao, Nong Sang
人类偏好对齐
奖励建模
强化学习
文生图
流匹配
在超球面流形上对齐DINO语义特征,实现高保真重建与高效生成
Hun Chang, Byunghee Cha, Jong Chul Ye
图像生成
扩散模型
流形学习
自编码器
视觉基础模型
利用策略模型隐藏状态实时更新奖励模型,解决RLHF中的奖励过度优化问题
Zixuan Huang, Xin Xia, Yuxi Ren, Jianbin Zheng, Xuefeng Xiao, Hongyan Xie,...
RLHF
奖励模型
奖励过度优化
对齐
强化学习
基于时空上下文学习的通用角色动画框架
Mingshuang Luo, Shuang Liang, Zhengkun Rong, Yuxuan Luo, Tianshu Hu, Ruibing...
上下文学习
多模态学习
扩散模型
视频生成
角色动画
通过分层奖励将策略引导至解空间最优区域,实现样本效率提升2.5倍
Jinyang Wu, Changpeng Yang, Yuhao Shen, Fangzhi Xu, Bolin Ni, Chonghua Liao,...
GUI智能体
可验证奖励RL
奖励塑造
强化学习
智能体训练
扩散大语言模型用于音频理解,四阶段训练超越自回归基线
Jiaming Zhou, Xuxin Cheng, Shiwan Zhao, Yuhang Jia, Cao Liu, Ke Zeng,...
偏好优化
多模态
扩散语言模型
语音处理
音频理解
提出测试维护评估基准TAM-Eval,揭示LLM在测试生成/修复/更新上的能力局限
Elena Bruches, Vadim Alperovich, Dari Baturova, Roman Derunets, Daniil...
单元测试
基准评测
大语言模型
测试维护
软件工程
DS-MCM框架通过快速一致性监控和慢速经验驱动监控,提升深度搜索代理的鲁棒性和准确性。
Zhongxiang Sun, Qipeng Wang, Weijie Yu, Jingxuan Yang, Haolang Lu, Jun Xu
元认知监控
推理
检索
深度搜索
认知神经科学
通过在标记化阶段强制因果依赖,弥合标记化与生成之间的鸿沟
Bin Wu, Mengqi Huang, Weinan Jia, Zhendong Mao
Transformer
VQ-VAE
图像生成
自回归模型
视觉标记化
通过动态形式逻辑验证与生成过程交替,增强LLM多步推理的逻辑一致性,实现跨域SOTA提升。
Chuxue Cao, Jinluan Yang, Haoran Li, Kunhao Pan, Zijian Zhao, Zhengyu Chen,...
形式逻辑验证
神经符号方法
策略优化
自然语言推理
逻辑推理基准
轻量奖励模型预测单元测试质量,无需编译运行即可评估覆盖率和变异得分
Elena Bruches, Daniil Grebenkin, Mikhail Klementev, Vadim Alperovich, Roman...
LLM4SE
代码质量评估
单元测试生成
奖励模型
强化学习
通过AI反馈的逐动作过程奖励训练多智能体,解决信用分配和样本效率问题
Ed Li, Junyu Ren, Cat Yan
AI反馈
多智能体系统
大语言模型
强化学习
过程奖励
提出RAPTOR方法,用验证调优的岭回归逻辑探针提取稳定概念向量用于激活引导
Ziqi Gao, Yaotian Zhu, Qingcheng Zeng, Xu Zhao, Ziqing Wang, Feng Ruan, Kaize Ding
探针方法
模型可解释性
激活引导
表示学习
高维统计
FISSION-GRPO 框架:将执行错误转化为在线策略纠正性监督,提升工具使用错误恢复能力。
Zhiwei Zhang, Fei Zhao, Rui Wang, Zezhong Wang, Bin Liang, Jiakang Wang, Yao...
GRPO
多轮对话
工具使用
强化学习
错误恢复
将隐式推理重新定义为潜在空间规划,实现动态终止和可解释性
Jiecong Wang, Hao Peng, Chunyang Liu
大语言模型
强化学习
思维链
规划
隐式推理
用在序列中插入并聚合 Landmark token 的简单池化策略,显著提升长上下文检索的泛化能力,同时不牺牲短上下文性能。
Meet Doshi, Aashka Trivedi, Vishwajeet Kumar, Parul Awasthy, Yulong Li,...
dense embeddings
landmark tokens
long-context retrieval
pooling
提出GUI-AiF框架,通过双奖励机制实现GUI智能体在域和分辨率漂移下的持续学习
Ziwei Liu, Borui Kang, Hangjie Yuan, Zixiang Zhao, Wei Li, Yifan Zhu, Tao Feng
Continual Learning
GRPO
GUI Agent
Reinforcement Fine-Tuning
Visual Grounding
提出RTL框架,为不同数据子集发现专门的稀疏子网络,替代传统单一全局剪枝
Grzegorz Stefanski, Alberto Presta, Michal Byra
彩票假说
模型剪枝
模型压缩
稀疏网络
自适应计算
通过理论分析揭示数据维度决定扩散模型最优预测目标,提出可学习框架k-Diff自动优化
Qing Jin, Chaoyang Wang
图像生成
扩散模型
理论分析
生成模型
计算机视觉
知识蒸馏可将训练数据记忆减少50%以上,同时提升模型泛化能力
Jaydeep Borkar, Karan Chadha, Niloofar Mireshghallah, Yuchen Zhang,...
大语言模型
数据记忆
模型压缩
知识蒸馏
隐私保护
通过注意力软MIL池化实现token级隐式选择,提升开放词汇检测与分割性能
Junyi Hu, Tian Bai, Fengyi Wu, Wenyan Li, Zhenming Peng, Yi Zhang
多实例学习
开放词汇检测
视觉-语言对齐
长尾分类
零样本分割
V-JEPA视频预训练+模拟器多模态轨迹蒸馏,实现SOTA端到端驾驶规划
Linhan Wang, Zichong Yang, Chen Bai, Guoxiang Zhang, Xiaotong Liu, Xiaoyin...
多模态学习
端到端驾驶
自动驾驶
自监督学习
视频预训练
提出 TAPPA 框架,从时序连续性角度统一解释 LLM 中多样化的注意力模式。
Qingyue Yang, Jie Wang, Xing Li, Yinqi Bai, Xialiang Tong, Huiling Zhen,...
RoPE
大语言模型
模型压缩
注意力机制
提出VPTT评估范式和VPRAG框架,以感知不可区分性衡量生成模型的上下文视觉个性化能力
Rameen Abdal, James Burgess, Sergey Tulyakov, Kuan-Chieh Jackson Wang
个性化生成
文本到图像
检索增强生成
视觉风格
评估基准
用下游信号训练任务设计器,间接引导自监督预训练更新方向
Shuqi Ke, Giulia Fanti
下游反馈
任务构建
元学习
大语言模型
持续预训练
首个结合原生音频-视频输入、时序定位和人口统计学元数据的多模态理解基准
Ahmed Y. Radwan, Christos Emmanouilidis, Hina Tabassum, Deval Pandya, Shaina Raza
公平性评估
基准测试
多模态学习
视频理解
音频-视频问答
基于知识和经验记忆的迭代程序优化框架,在MLE/ALE基准上取得SOTA
Alireza Nadaf, Alireza Mohammadshahi, Majid Yazdani
代码智能体
知识检索
程序合成
迭代优化
长时程推理
贝叶斯优化+高斯过程用于异构多核系统调度参数自动调优
Zheyuan Hu, Yifei Shi
多目标优化
嵌入式系统
异构多核调度
贝叶斯优化
高斯过程