联合训练扩散先验和解码器学习潜变量表示,实现高效生成
Jonathan Heek, Emiel Hoogeboom, Thomas Mensink, Tim Salimans
变分自编码器
图像生成
扩散模型
潜变量学习
生成模型效率
提出GUI-Owl-1.5模型家族,通过混合数据飞轮和多平台RL扩展实现跨设备GUI自动化
Haiyang Xu, Xi Zhang, Haowei Liu, Junyang Wang, Zhaozai Zhu, Shengjie Zhou,...
GUI Agent
多平台自动化
多模态大模型
工具调用
强化学习
混合Top-k/Top-p掩码+速度蒸馏,实现95%稀疏率且不损质量
Jintao Zhang, Kai Jiang, Chendong Xiang, Weiqi Feng, Yuezhou Hu, Haocheng...
注意力加速
知识蒸馏
稀疏注意力
视频扩散模型
高效推理
对前沿AI在网络安全、说服操纵、欺骗和自我复制等维度的风险进行了系统评估与缓解。
Dongrui Liu, Yi Yu, Jie Zhang, Guanxu Chen, Qihao Lin, Hanxi Zhu, Lige...
AI Safety
Cybersecurity
Frontier Models
Misalignment
Risk Assessment
400B总参数/13B激活的MoE模型,采用交错注意力和新型负载均衡策略
Varun Singh, Lucas Krauss, Sami Jaghouar, Matej Sirovatka, Charles Goddard,...
大语言模型
开源模型
混合专家模型
稀疏激活
训练稳定性
提出首个桌面软件世界模型CUWM,通过文本+视觉两阶段分解预测UI状态转换,提升智能体决策质量
Yiming Guan, Rui Yu, John Zhang, Lu Wang, Chaoyun Zhang, Liqun Li, Bo Qiao,...
GUI智能体
世界模型
强化学习
桌面软件
测试时规划
LLM驱动的进化搜索自动发现并蒸馏CFR和PSRO新算法
Zun Li, John Schultz, Daniel Hennes, Marc Lanctot
不完全信息博弈
元学习
博弈论
多智能体强化学习
大语言模型
通过显式提供环境先验信息,让 LLM 智能体学会最优的成本-不确定性权衡
Wenxuan Ding, Nicholas Tomlin, Greg Durrett
Calibration
Cost-Aware Exploration
Decision Making
LLM Agent
Reinforcement Learning
通过动态调整去噪步骤中的patch大小,在保持生成质量的同时实现3.5倍加速
Dahye Kim, Deepti Ghadiyaram, Raghudeep Gadde
动态计算
扩散模型
效率优化
文本到图像
文本到视频
研究车载AI助手在多步骤任务中提供中间反馈对用户体验、信任和认知负荷的影响
Johannes Kirmayr, Raphael Wennmacher, Khanh Huynh, Lukas Stappen, Elisabeth...
LLM代理
人机交互
反馈设计
用户体验
车载系统
用Rectified Flow对齐人类手套与机器人触觉传感器的潜空间,实现跨具身策略迁移
Youngsun Wi, Jessica Yin, Elvis Xiang, Akash Sharma, Jitendra Malik, Mustafa...
Rectified Flow
人机策略迁移
灵巧操作
触觉感知
跨传感器对齐
从arXiv原始LaTeX训练1.36B科学语言模型的端到端实践报告
Anuj Gupta
LaTeX处理
数据工程
科学文本处理
语言模型训练
领域专用模型
首个星际争霸II世界模型,通过预测未来观测实现LLM决策的前瞻性优化
Yixin Zhang, Ziyi Wang, Yiming Rong, Haoxi Wang, Jinling Jiang, Shuang Xu,...
世界模型
决策优化
大语言模型
星际争霸II
部分可观测
通过简化Mamba-2并引入二阶隐藏状态,实现线性复杂度下接近Softmax注意力精度
Gabriel Mongaras, Eric C. Larson
Mamba
注意力机制优化
状态空间模型
线性注意力
高效Transformer
揭示两层神经网络学习模加法的傅里叶机制、特征涌现动力学与grokking三阶段过程
Jianliang He, Leda Wang, Siyu Chen, Zhuoran Yang
grokking
傅里叶特征
机制可解释性
模加法
神经网络理论
通过两阶段微调和多视觉基础模型并行对齐,为VLA模型注入隐式世界建模能力
Han Zhao, Jingbo Wang, Wenxuan Song, Shuai Chen, Yang Liu, Yan Wang, Haoang...
世界模型
扩散策略
机器人学习
模仿学习
视觉语言动作模型
建模人类干预时机,让协作式网页智能体更智能
Faria Huq, Zora Zhiruo Wang, Zhanqiu Guo, Venu Arvind Arangarajan, Tianyue...
LLM微调
交互建模
人机协作
网页智能体
行为预测
提出轻量级安全基准 NESSiE,测试 LLM 在简单规则遵循任务中的安全行为
Johannes Bertram, Jonas Geiping
LLM安全
代理系统
基准测试
指令遵循
用Roofline建模结合损失缩放定律,实现设备端LLM架构的精度-延迟帕累托优化
Luoyang Sun, Jiwen Jiang, Yifeng Ding, Fengfa Li, Yan Song, Haifeng Zhang,...
Roofline建模
帕累托优化
混合专家模型
硬件协同设计
神经架构搜索
通过低曲率投影约束优化实现LLM编辑时的能力保持
Zarif Ikram, Arad Firouzkouhi, Stephen Tu, Mahdi Soltanolkotabi, Paria Rashidinejad
K-FAC
二阶优化
大语言模型
模型编辑
能力保持
利用高质量参考输出指导LLM评估器,实现无需外部监督的有效模型自我改进
Kejian Shi, Yixin Liu, Peifeng Wang, Alexander R. Fabbri, Shafiq Joty, Arman Cohan
DPO
LLM对齐
RLHF
参考引导评估
自我改进
通过识别和聚类安全相关神经元,实现高效的后置安全对齐,大幅减少训练参数并保持模型能力。
Sasha Behrouzi, Lichao Wu, Mohamadreza Rostami, Ahmad-Reza Sadeghi
参数高效微调
大语言模型安全
安全对齐
神经元级干预
越狱防御
用选择性状态空间模型替代GRU,实现高效水下立体深度估计
Zeyu Ren, Xiang Li, Yiran Wang, Zeyu Zhang, Hao Tang
水下视觉
深度估计
状态空间模型
立体匹配
零样本学习