标签： 全部 强化学习 扩散模型 大语言模型 基准测试 视频生成 LLM智能体 世界模型 视觉语言模型 GRPO 多模态大模型 知识蒸馏 基准评测 具身智能 流匹配 机器人操作 多智能体系统 智能体 LLM Agent 可解释性 图像生成 代码生成 多模态学习 检索增强生成 注意力机制 RLVR 后训练 视频理解 机器人学习 长上下文 多模态 数学推理 图像编辑 VLA 数据合成 多模态大语言模型 推理加速 高效推理 评测基准 自监督学习 工具调用 对比学习 扩散语言模型 视觉-语言-动作模型 参数高效微调 Transformer 工具使用 LoRA 持续学习 LLM评估 自蒸馏 多模态推理 RAG 模仿学习 综述 LLM推理 信息检索 信用分配 在线策略蒸馏 模型压缩 合成数据
找到 305 条结果
相关性 | 日期

反思大模型在线蒸馏 II：一条训练样本

👍 82

单条样本即可逼近全量数据在线蒸馏收益：OPD 数据过剩而算法饥饿

Zixuan Fu, Bingxiang He, Yuxin Zuo, Haohuan Huang, Jinqian Zhang, Ruhang... 2026-09-04
LLM后训练 在线蒸馏 数据效率 知识蒸馏 训练动力学
✅ 已总结
详情 →

Cliff：从第一个错误学习过程奖励

👍 16

教师定位推理首个错误，把rollout切成对错两段分别赋优势，以极低成本增强RLVR

Peixuan Han, Runhui Wang, Ketan Ramaneti, Jie Hao, Gerald Friedland, Chris Kong 2026-09-03
GRPO LLM强化学习 奖励塑形 知识蒸馏 过程奖励
✅ 已总结
详情 →

中期训练中的知识蒸馏偏向推理而非事实记忆

👍 9

中期训练时标准蒸馏以牺牲事实记忆换推理提升，按教师熵切换蒸馏与NTP监督可两者兼得

Jacqueline He, Howard Yen, Shuyue Stella Li, Margaret Li, Hanqing Zeng,... 2026-09-02
OLMo-2 中期训练 推理-事实权衡 教师预测熵路由 知识蒸馏
✅ 已总结
详情 →