混合线性与softmax注意力,兼顾长序列推荐的效率与精度
Lei Xin, Yuhao Zheng, Ke Cheng, Changjiang Jiang, Zifan Zhang, Fanhu Zeng
序列建模
推荐系统
注意力机制
生成式推荐
长序列
MolHIT通过HDDM和DAE,首次在图扩散中实现99.1%有效率。
Hojung Jung, Rodrigo Hormazabal, Jaehyeong Jo, Youngrok Park, Kyunggeun Roh,...
分子图
分子生成
图神经网络
离散扩散模型
药物发现
通过双路径KV-Cache加载,聚合所有引擎的存储带宽,打破智能体推理的I/O瓶颈
Yongtong Wu, Shaoyuan Chen, Yinmin Zhong, Rilin Huang, Yixuan Tan, Wentao...
KV-Cache管理
LLM推理优化
PD分离架构
分布式系统
智能体推理
双流MMDiT架构统一视频-音频联合生成、修复与编辑任务
Guibin Chen, Dixuan Lin, Jiangping Yang, Youqiang Zhang, Zhengcong Fei,...
DiT
修复
多模态
扩散模型
视频生成
统一框架同时实现参考生成、视频编辑和音频驱动动画三任务
Xu Guo, Fulong Ye, Qichao Sun, Liyang Chen, Bingchuan Li, Pengze Zhang,...
DiT
人物可控生成
多模态
扩散模型
音视频生成
首个多人 Minecraft 视频世界模型,支持多视角一致性生成
Georgy Savva, Oscar Michel, Daohan Lu, Suppakit Waiwitlikhit, Timothy...
Minecraft
世界模型
多智能体
扩散模型
视频生成
通过四维策略梯度分析揭示ARL训练不稳定根源,提出SAMPO统一算法实现稳定训练
Xiaoxuan Wang, Han Zhang, Haixin Wang, Yidan Shi, Ruoyan Li, Kaiqiao Han,...
LLM智能体
多轮交互
强化学习
策略优化
训练稳定性
提出球形编码器,通过将图像均匀映射到球面潜在空间,实现单步高质量图像生成。
Kaiyu Yue, Menglin Jia, Ji Hou, Tom Goldstein
图像生成
少步生成
潜在空间
球形分布
自编码器
提出动作感知SFT和保守RL框架,解决GUI代理推理-定位干扰和部分可验证奖励下的训练不稳定问题
Rui Yang, Qianhui Wu, Zhaoyang Wang, Hanyang Chen, Ke Yang, Hao Cheng,...
GUI代理
人机交互
强化学习
监督微调
视觉语言模型
将未来观测压缩到条件空间,引导VLA模型精准生成动作
Yue Su, Sijin Chen, Haixin Shi, Mingyu Liu, Zhengshen Zhang, Ningyuan Huang,...
世界模型
机器人操作
条件生成
模仿学习
视觉-语言-动作模型
将图像编辑重新定义为物理状态转移,利用视频监督学习物理先验,提升编辑的物理合理性。
Liangbing Zhao, Le Zhuo, Sayak Paul, Hongsheng Li, Mohamed Elhoseiny
图像编辑
扩散模型
物理感知
状态转移
视频监督
基于MoE架构、时序对齐RoPE和音视频DPO,实现高质量同步音视频联合生成
Kai Liu, Yanhao Zheng, Kai Wang, Shengqiong Wu, Rongjunchen Zhang, Jiebo...
MoE
偏好对齐
多模态生成
扩散模型
音视频生成
单个多模态LLM直接从文本或图像生成可编辑矢量字形
Xiaoke Huang, Bhavul Gauri, Kam Woh Ng, Tony Ng, Mengmeng Xu, Zhiheng Liu,...
SVG
多模态LLM
字体设计
矢量字形生成
自回归生成
系统评估文本排序方法在深度研究Agent中的效果,发现BM25+重排序优于大模型嵌入
Chuan Meng, Litu Ou, Sean MacAvaney, Jeff Dalton
LLM Agent
信息检索
文本排序
检索增强
深度研究
利用开源预训练数据构建基准,量化LLM参数知识与外部知识的交互机制
Lingwei Gu, Nour Jedidi, Jimmy Lin
检索增强生成
知识溯源
语言模型评估
问答系统
预训练数据分析
提出稀疏拓扑注意力和33K多尺度QA数据集,专攻肝癌WSI诊断
Yuxuan Yang, Zhonghao Yan, Yi Zhang, Bo Yun, Muxi Diao, Guowei Zhao,...
全切片图像分析
多模态大语言模型
数字病理学
注意力机制
肝细胞癌诊断
首个统一文本、图像、音频的三模态掩码扩散模型,通过SDE参数化消除最优批量大小搜索
Louis Bethune, Victor Turrisi, Bruno Kacper Mlodozeniec, Pau Rodriguez...
多模态学习
扩散模型
文本到图像生成
离散扩散
缩放定律
通过锚点式集群丢弃和球谐系数截断解决稀疏视角3DGS过拟合问题
Shuangkang Fang, I-Chao Shen, Xuanyang Zhang, Zesheng Wang, Yufeng Wang,...
3D Gaussian Splatting
新视角合成
模型压缩
正则化
稀疏视角重建
通过频谱演化感知的缓存策略,在保留内容质量的同时加速扩散模型推理
Jiwoo Chung, Sangeek Hyun, MinKyu Lee, Byeongju Han, Geonho Cha, Dongyoon...
图像生成
扩散模型
推理加速
缓存策略
视频生成
54个GPU推理优化任务评估编程智能体,硬指标高估能力。
Ayush Nangia, Shikhar Mishra, Aman Gokrani, Paras Chopra
LLM推理优化
代码生成
基准测试
性能评估
编程智能体
首份系统性实证研究:97.1% 的 MCP 工具描述存在"坏味道",增强全部组件可使任务成功率提升 5.85 个百分点但执行步骤激增 67.46%。
Mohammed Mehedi Hasan, Hao Li, Gopi Krishnan Rajbahadur, Bram Adams, Ahmed E. Hassan
AI Agent
LLM评估
MCP
Prompt Engineering
工具描述
首个统一评估视频基础模型理解、生成、编辑和重构能力的综合基准
Jianhui Wei, Xiaotian Zhang, Yichen Li, Yuan Wang, Yan Zhang, Ziyi Chen,...
多模态
统一评估
视频基础模型
视频理解
视频生成
提出FCD框架实现C1连续的时间序列参数化分解
Teymur Aghayev
信号处理
函数拟合
时间序列分析
神经网络加速
LLM对真实性的表示形成泛化程度连续变化的光谱,而非单一通用方向或完全分离的领域方向
Zhuofan Josh Ying, Shauli Ravfogel, Nikolaus Kriegeskorte, Peter Hase
LLM可解释性
因果干预
真实性检测
线性探针
表示几何
首个将视听LLM扩展到3D空间,实现精确声源定位和推理的框架
Zhan Liu, Changli Tang, Yuxin Wang, Zhiyuan Zhu, Youjun Chen, Yiwen Shao,...
3D感知
LLM扩展
空间音频
视听融合
对比多模态与纯文本输出分布,动态抑制语言先验,有效减少LVLM物体幻觉
Lingfeng Ren, Weihao Yu, Runpeng Yu, Xinchao Wang
对比解码
物体幻觉
视觉语言模型
解码策略
语言先验
小语言模型结合翻译策略从波斯语临床转录中提取信息
Mohammadreza Ghaffarzadeh-Esfahani, Nahid Yousefian, Ebrahim...
临床NLP
低资源语言
小语言模型
隐私保护
零样本学习
层次化对比学习实现IMU与视频骨架的亚秒级精确对齐
Duc Duy Nguyen, Tat-Jun Chin, Minh Hoai
IMU-视频融合
多模态学习
对比学习
时间同步
运动分析
首个约鲁巴语反讽检测数据集,436个实例经三位母语者标注,达到实质至近乎完美的标注者一致性
Toheeb Aduramomi Jimoh, Tabea De Wille, Nikola S. Nikolov
低资源语言
反讽检测
标注者一致性分析
语料库建设
非洲语言
首个系统评估扩散模型在CT重建中性能的综合基准测试平台
Jiayang Shi, Daniel M. Pelt, K. Joost Batenburg
图像重建
基准测试
扩散模型
计算机断层成像
逆问题
揭示现有AI安全数据集过度依赖触发线索的缺陷,提出意图清洗方法并验证其作为越狱技术的有效性
Shahriar Golchin, Marc Wetter
AI安全
对抗性攻击
对齐鲁棒性
数据集评估
越狱攻击