找到 80 条结果

拆解 MTP 梯度滤除低信噪比残差,一行代码零开销恢复 KL 自蒸馏信号

Jayden Teoh 2026-10-30
多词预测 大模型预训练 投机解码 梯度分析 自蒸馏

用稀疏历史分布缓存替代持久教师模型,实现单策略、时序稳定的自蒸馏强化学习

Aryan Das, Arnab Bhattacharya, Vinay Kumar Verma 2026-10-26
LLM推理 RLVR后训练 内存效率 函数空间正则化 持续学习

构建真正需要音视频协同的基准、11.2万条证据接地数据与模态分解自蒸馏训练方法,提升全模态联合推理

Junming Lin, Yuxuan Wang, Zhenxin Lei, Yuxin Liu, Ruixun Liu, Yinsong Yan,... 2026-10-06
基准评测 多模态大模型 强化学习 数据引擎 自蒸馏

用类BPE方法从轨迹中零LLM调用挖掘技能树,并以数据、奖励、上下文三种方式注入智能体训练

Sitao Cheng, Xunjian Yin, Zhiyuan Sun, Yuxuan Li, Ruiwen Zhou, Xiangru Jian,... 2026-10-02
LLM智能体 奖励塑形 层次化技能学习 强化学习 经验复用