找到 114 条结果

提出注意力状态记忆,无训练地将长前缀外部化为查找记忆

Yasuyuki Okoshi, Hao Mark Chen, Guanxi Lu, Hongxiang Fan, Masato Motomura,... 2026-05-20
KV缓存 推理优化 注意力分解 注意力机制 长上下文

将注意力机制嵌入循环反馈通路,构造多跳路由的Sessa解码器,理论上获得ℓ^-β的多项式记忆衰减与灵活选择性检索能力。

Liubomyr Horbatko 2026-04-27
序列建模 架构设计 注意力机制 状态空间模型 理论分析

首项AVLLMs机械可解释性研究,揭示视觉主导的模态偏向机制

Ramaneswaran Selvakumar, Kaousheik Jayakumar, S Sakshi, Sreyan Ghosh, Ruohan... 2026-04-07
因果中介分析 多模态大语言模型 机械可解释性 模态偏见 注意力机制

提出统一推荐系统三大主流架构的缩放框架UniMixer,提升参数和计算效率。

Mingming Ha, Guanchen Wang, Linxun Chen, Xuan Rao, Yuexin Shi, Tianbao Ma,... 2026-04-02
TokenMixer 推荐系统 注意力机制 深度学习架构 缩放定律