用执行中心的能力分类法训练四类专家再合并蒸馏成统一具身VLM
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
面向多语言数学推理的在线策略增量蒸馏
👍 10将OPD2蒸馏扩展至英/韩/日数学推理,揭示推理迁移与语言保留的差异。
统一模型实现多镜头视频生成、参考生成与编辑,单GPU达16.74FPS。
当教师误导时:伪信号感知的在线策略蒸馏
👍 19过滤在线蒸馏中既不依赖输入又高影响的虚假教师信号
RSTG在负零方差样本上选择性施加自适应蒸馏,恢复GRPO丢失的梯度信号
把模态平衡本身作为在线自蒸馏的特权信息,用正负双教师提升多模态推理
对比师生轨迹差异,把行为差距蒸馏成可验证的文本技能,增强冻结的弱学生智能体
用像素桥接与可切换适配器把异构教师能力蒸馏进单一学生
面向智能体强化学习自蒸馏的持久一致性方法
👍 27按教师信号的局部持久性,为每个 token 分配自适应蒸馏权重。
首个在任意异构流匹配模型间实现跨族在策略蒸馏的通用框架
用8个可学习恢复token生成上下文条件化紧凑缓存,弥补KV驱逐损失。
用反事实视觉干预分离教师修正中由视觉解释的部分并重构学生监督目标
把 Gemma 4 微调成开源离散扩散模型,单 H100 上约 1500 tokens/s。
面向在策略蒸馏的稳定优势融合
👍 27提出SAF四阶段流水线融合GRPO与OPD优势,避免熵坍塌并稳定提升性能。
弱到强同策略蒸馏
👍 20用弱模型的对数几率差合成代理教师,蒸馏出超越弱教师、逼近自身的强学生。
通过反向KL分解,把演化上下文作为在线监督信号注入蒸馏目标。
把在线自蒸馏视为β=1的KL正则化策略优化特例,借logit插值与回报到当前信贷分配改进推理
自适应多教师蒸馏框架,用单类SVM加权与关系相似矩阵损失压缩语音情感模型到边缘设备
把游戏求解器的状态价值变化转成逐回合信用信号,注入 RLVR 实现无需 logits 的策略蒸馏
用无源程序合成轨迹蒸馏27B模型,逼近前沿大模型的编程能力