找到 49 条结果

通过内部模型路由引入轻量级中间验证器,实现分层推测解码,降低拒绝率并提升推理速度

Yuchen Xian, Yang He, Yunqiu Xu, Yi Yang 2026-06-12
KL散度 分层验证 推测解码 推理加速 模型压缩

通过TTT架构实现Softmax Transformer到线性复杂度的快速转换

Yining Li, Dongchen Han, Zeyu Liu, Hanyi Wang, Yulin Wang, Gao Huang 2026-06-01
Transformer优化 扩散模型 模型压缩 测试时训练 线性注意力

限制蒸馏 rollout 到前 N 个 token,解决 OPD 的离策略教师衰减问题

Zhou Ziheng, Jiaqi Li, Huacong Tang, Ying Nian Wu, Demetri Terzopoulos 2026-05-28
在线策略蒸馏 大语言模型 模型压缩 知识蒸馏

用 RL options 框架训练 MoE 控制器,把切换率从 50%+ 压到 5% 以下。

Zeyu Shen, Peter Henderson 2026-04-24
LLM推理优化 Mixture-of-Experts Options Framework 强化学习 模型压缩

剪枝在非生成任务有效但生成任务失效,softmax非线性放大是关键

Shwai He, Guoheng Sun, Haichao Zhang, Yun Fu, Ang Li 2026-04-08
模型压缩 生成任务 网络剪枝 表示学习 语言模型