用闭式岭回归从分割层状态预测各深层输入并填充缓存，无需训练即可加速预填充

利用头内键值可预测性在测试时拟合值预测器，配合低秩键压缩，最高实现26.9倍近无损KV缓存压缩

低秩敏感性门控+匹配滤波读出，让线性注意力全面超越GDN-2与Transformer

频繁压缩上下文即可让前沿模型在长程与长输入任务上保持精度，成本最高省233倍

用标量修正的克罗内克德尔塔法则构建KronLSTM,实现低干扰、有界稳定的长上下文线性注意力

用强化学习训练构建者智能体，提前把语料整理成文件系统，供后续查询反复复用。

两个可折叠的线性变换让 GQA-2 同时赢下 KV 缓存、FLOPs 与质量的不可能三角

用零通信掩码变换打通 Hopper 内核与多机上下文并行，长上下文训练端到端提速至 11%

持续预训练将全开放文本模型升级为具备图像音频理解、262K上下文与思考模式的多模态推理器

分离记忆定位与证据读取的稀疏注意力，4k 训练零样本外推到 256k

免训练稀疏记忆让线性注意力百万 token 检索从 1.7% 升至 70.3%

冻结模型权重，测试时训练文档专属KV缓存，32×压缩下RULER达96.7%

用分数上界证书无损剪枝稀疏注意力索引器，Indexer最高加速2.74倍

以相对信息增益密集奖励与思考-阅读交错机制强化长上下文推理

在摘要后附加可学习软记忆向量，让冻结LLM逼近全上下文表现

从位置偏置视角解释混合架构为何擅长长上下文，并提出滑动窗口线性注意力实现16倍免训练外推。

KV状态加密落盘、字节级零重算恢复，5000万token记忆比重算快2.8–4.3倍。

冻结LLM内部读出检索信号,仅训不到50万参数,同时胜任语料检索与长上下文证据选择

首次揭示混合注意力LLM的多语言表征组织方式,证明首层全注意力布局让多语言训练提速至2.5倍

模型持续从自身输出学习会损害对真实文本的预测，因果分解锁定反馈回路并给出独立证据验证修复。