找到 71 条结果

复用教师轨迹做离线多轮 agent 蒸馏,零工具调用、4倍加速且不掉点。

Baohao Liao, Hanze Dong, Christof Monz, Xinxing Xu, Li Dong, Furu Wei 2026-07-24
多轮交互 强化学习 智能体 模型压缩 知识蒸馏

通过内部模型路由引入轻量级中间验证器,实现分层推测解码,降低拒绝率并提升推理速度

Yuchen Xian, Yang He, Yunqiu Xu, Yi Yang 2026-06-12
KL散度 分层验证 推测解码 推理加速 模型压缩

通过TTT架构实现Softmax Transformer到线性复杂度的快速转换

Yining Li, Dongchen Han, Zeyu Liu, Hanyi Wang, Yulin Wang, Gao Huang 2026-06-01
Transformer优化 扩散模型 模型压缩 测试时训练 线性注意力

限制蒸馏 rollout 到前 N 个 token,解决 OPD 的离策略教师衰减问题

Zhou Ziheng, Jiaqi Li, Huacong Tang, Ying Nian Wu, Demetri Terzopoulos 2026-05-28
在线策略蒸馏 大语言模型 模型压缩 知识蒸馏

用 RL options 框架训练 MoE 控制器,把切换率从 50%+ 压到 5% 以下。

Zeyu Shen, Peter Henderson 2026-04-24
LLM推理优化 Mixture-of-Experts Options Framework 强化学习 模型压缩