找到 134 条结果

4系数闭式定律预测LLM推理每token能耗,误差较SOTA低3.1–3.5倍,无需逐模型校准

Hiari Pizzini Cavagna, Andrea Proia, Daniele Cesarini, Zeynep Kiziltan,... 2026-11-05
Green AI LLM推理 Token经济学 注意力机制 能耗建模

零初始化残差适配器让冻结全模态模型按步聚焦关键证据,缓解 GUI 智能体的序列干扰

Fuyao Zhang, Wenwen He, Jiaming Zhang, Yurong Hao, Xuan Wang, Guowei Guan,... 2026-10-21
GUI智能体 全模态模型 参数高效微调 序列决策 注意力机制

两个可折叠的线性变换让 GQA-2 同时赢下 KV 缓存、FLOPs 与质量的不可能三角

Xibo Ding, Guoxia Wang, Jinle Zeng, Jiabin Yang, Sirui Tao, Chao Yang, Dianhai Yu 2026-10-16
KV缓存压缩 MoE 注意力机制 结构重参数化 长上下文

用核化与加权 softmax 注意力替换线性注意力,导出按需增长的键值记忆网络及其学习规则

Maximilian Schlegel, Rajai Nasser, Seijin Kobayashi, Yanick Schimpf, Oliver... 2026-10-09
优化器 函数梯度 核方法 注意力机制 线性注意力

保留少数垂直线token和局部窗口为全精度,其余低比特量化,实现近无损长上下文推理加速

Jiatong Ding, Bingxin Xing, Yu Zhang, Dian Ding, Xiaodong Yi, Xianbin... 2026-09-11
KV缓存压缩 LLM推理加速 模型量化 注意力机制 混合精度