统一扩散语言模型训练、推理与评估的开源框架,并提供从BERT/AR模型转换为DLM的实用配方
Zhanhui Zhou, Lingjie Chen, Hanghang Tong, Dawn Song
块扩散
开源框架
扩散语言模型
掩码扩散
模型转换
通过大规模智能体 RL 训练 LLM 生成超越 torch.compile 的高性能 CUDA 内核
Weinan Dai, Hanlin Wu, Qiying Yu, Huan-ang Gao, Jiahao Li, Chengquan Jiang,...
CUDA内核优化
GPU计算
代码生成
强化学习
智能体系统
提出专用空间奖励模型与数据集,显著提升图像生成的多对象空间关系理解能力
Zhenyu Tang, Chaoran Feng, Yufan Deng, Jie Wu, Xiaojie Li, Rui Wang, Yunpeng...
奖励模型
强化学习
扩散模型
文本到图像生成
空间关系理解
提出T-RANK等测试时计算方法,显著提升多语言基准测试翻译质量
Hanna Yukhymenko, Anton Alexandrov, Martin Vechev
LLM评估
基准测试
多语言评估
机器翻译
测试时计算
用解耦扩散Transformer将短视频保真度与长时序一致性分离,实现分钟级快速视频生成
Shengqu Cai, Weili Nie, Chao Liu, Julius Berner, Lvmin Zhang, Nanye Ma,...
Flow Matching
扩散模型
知识蒸馏
视频生成
长视频
提出直接优化接受率的LK损失函数,在6个目标模型上提升8-10%的平均接受长度
Alexander Samarin, Sergei Krutikov, Anton Shevtsov, Sergei Skvortsov, Filipp...
大语言模型推理加速
序列生成
投机解码
损失函数设计
知识蒸馏
LLM时代首个大规模幻觉引用检测基准和多代理验证框架
Zhengqing Yuan, Kaiwen Shi, Zheyuan Zhang, Lichao Sun, Nitesh V. Chawla, Yanfang Ye
基准数据集
多代理系统
学术诚信
幻觉检测
引用验证
首次提出图像记忆度反馈任务,用激活引导让MLLM生成可执行的记忆度改进建议
Francesco Laiti, Davide Talon, Jacopo Staiano, Elisa Ricci
可操作反馈
图像记忆度
多模态大语言模型
摄影辅助
激活引导
组合泛化的三个理想性质迫使视觉嵌入必须呈线性因子分解加跨概念正交的几何结构
Arnas Uselis, Andrea Dittadi, Seong Joon Oh
CLIP
嵌入几何
组合泛化
表示学习
视觉-语言模型
证明对比学习中 InfoNCE 目标函数在高维表示空间中渐近诱导出高斯分布结构
Roy Betser, Eyal Gofer, Meir Yossef Levi, Guy Gilboa
InfoNCE
对比学习
理论分析
自监督学习
表征学习
通过缓存RNN记忆状态检查点,使有效记忆容量随序列长度增长,在固定与二次复杂度间灵活权衡
Ali Behrouz, Zeman Li, Yuan Deng, Peilin Zhong, Meisam Razaviyayn, Vahab Mirrokni
序列建模
循环神经网络
记忆机制
长上下文建模
高效注意力
通过层次化推理和主动探索,实现高效长视频问答
Jihao Qiu, Lingxi Xie, Xinyue Huo, Qi Tian, Qixiang Ye
多模态大语言模型
强化学习
智能体
视频问答
长视频理解
提出Ref-Adv基准测试,暴露MLLM在指代表达理解上对视觉捷径的依赖
Qihua Dong, Kuo Yang, Lin Ju, Handong Zhao, Yitian Zhang, Yizhou Wang,...
基准测试
多模态大语言模型
指代表达理解
视觉定位
视觉推理
提出轻量级快捷模型学习掩码图像生成中的特征演化动力学,实现4倍以上加速且保持质量。
Kaiwen Zhu, Quansheng Zeng, Yuandong Pu, Shuo Cao, Xiaohui Li, Yi Xin, Qi...
掩码图像生成
模型加速
潜在动力学
特征缓存
轻量级模型
用网络敏感度指导缓存决策,加速视频扩散模型推理
Yasaman Haghighi, Alexandre Alahi
扩散模型
推理加速
敏感度分析
缓存优化
视频生成
提出RLAD框架,通过信任区域比率蒸馏将教师指导嵌入GRPO更新,实现选择性模仿
Zhaoyang Zhang, Shuli Jiang, Yantao Shen, Yuting Zhang, Dhananjay Ram, Shuo...
GRPO
大语言模型
强化学习
推理增强
知识蒸馏
通过视觉侧局部聚类+语言侧文本引导逐层剪枝的双阶段框架,实现VLM的极致token压缩
Aditya Kumar Singh, Hitesh Kandala, Pratik Prabhanjan Brahma, Zicheng Liu,...
token压缩
多模态推理
注意力剪枝
视觉语言模型
高效推理
STATIC方法将前缀树转换为CSR矩阵,实现硬件加速的约束解码,延迟极低。
Zhengyang Su, Isay Katsman, Yueqi Wang, Ruining He, Lukasz Heldt,...
推荐系统
生成式检索
硬件加速
稀疏矩阵
约束解码
用动态认知图谱打破LLM群体思维,在推理时为每个模型注入独特认知轨迹
Guancheng Tu, Shiyang Zhang, Tianyu Zhang, Yi Zhang, Diji Yang
创造力评估
多样性增强
推理时干预
知识图谱
罕见病诊断
首个针对小尺度物体编辑的基准,揭示现有模型在精细定位和编辑上的严重不足
Shibo Hong, Boxian Ai, Jun Kuang, Wei Wang, FengJiao Chen, Zhongyuan Peng,...
图像编辑
基准测试
多模态评估
小目标检测
指令跟随
首个针对软件工程的上下文学习基准,定义四种上下文类型并评估其对代码生成、摘要、审查和补丁评估的影响
Haichuan Hu, Ye Shang, Guoqing Xie, Congqing He, Quanjun Zhang
上下文学习
代码审查
代码摘要
代码生成
大语言模型
提出用认知模型和AI算法作为语言代理设计模板的方法论框架
Ryan Liu, Dilip Arumugam, Cedegao E. Zhang, Sean Escola, Xaq Pitkow, Thomas...
可解释性
多LLM系统
模板设计
认知模型
语言代理