三阶段后训练把文档语料内化为参数知识,免检索答题同时保住通用能力。
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
把黑盒智能体框架当作不透明环境,用沙箱、服务代理与前缀树实现稳定的智能体RL
固定免记忆近窗推理,用思考模式蒸馏与线索门控让4B学生追平9B教师
训练时预测未来视觉嵌入、推理时直接作答,精度持平或超越Visual CoT且延迟降5倍以上
反转师生不对称方向:教师看原图、学生看增强退化视图,用视图落差当免费蒸馏信号
397B 参数科学智能体基础模型:多模态科学理解、可验证强化学习与长程智能体训练的统一
用对抗学习的动态表征补足静态Fréchet目标盲区,抑制Fréchet hacking
让统一多模态模型自主推理、调用工具并原生生成图像。
把模态平衡本身作为在线自蒸馏的特权信息,用正负双教师提升多模态推理
用信息匹配的锚点修复在线自蒸馏中师生信息不对称导致的特权幻觉。
揭示 LLM 系统性回避删除代码的偏差,构建 CanItDelete 基准并证明训练可缓解。
三阶段后训练流水线把企业问答可接受率从52.76%提升到91.51%。
把 LLM 裁判升级为教练,用可迁移经验知识替代标量奖励训练模型。
把后训练重构为token级正确性二元分类,提升分布外事实忠实度
将VLA后训练重构为多租户服务,解耦训练/推理/环境并组批调度,GPU时间降28%
在线策略差分蒸馏
👍 37用教师与基础模型的概率差作为蒸馏奖励,大幅提升推理蒸馏效果。
通过直接在策略蒸馏实现由弱到强的泛化
👍 143Direct-OPD:用小模型RL的策略位移当隐式奖励,低成本提升更强的学生模型
PUST用轻量代理模型探索更新信号再迁移到更强主模型,实现弱到强、可复用的后训练。
通过训练专用ACI实现语言模型的自主端到端后训练
后训练如何塑造生物推理模型
👍 3研究后训练阶段对生物推理模型泛化的不同影响