将大模型推理能力蒸馏到系统提示中,实现无需参数更新的高效推理
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
通过二元验证器信任信号改进在线策略蒸馏,在数学推理基准上平均提升1.98%
通过将推理内化到分数分布中超越标量奖励
👍 67提出Z-Reward教师-学生框架,将推理增强的分数分布蒸馏到高效的学生奖励模型中
提出Latent Memory,将每条多模态证据压缩为一个高维潜在token,实现高效的问答系统
TRD通过轨迹级修正解决OPD前缀失效问题
首个MoE转密集架构框架,DO-ACP评分+纯剪枝优于D2D剪枝6.3pp
研究在知识蒸馏前压缩教师推理轨迹的准确率-效率权衡
提出OPDLM方法,将ARLM转换为DLM,训练token减少15-7000倍
首次将在线蒸馏提升到隐藏状态空间,解决方差瓶颈和信息压缩问题,实现Pareto优势
通过模态感知的一致性蒸馏,将世界动作模型的推理延迟从8.1秒降至348毫秒,实现23倍加速
GeoVR 通过从2D视频提取几何约束,零推理成本赋予MLLMs强大的3D空间感知能力。
自蒸馏策略梯度
👍 27把全词表自蒸馏与RLVR奖励统一为策略梯度,稳定提升LLM推理性能。
FiRe-OPD 用轨迹级硬过滤加 token 级软加权协同优化在线蒸馏粒度。
信任域在线策略蒸馏
👍 46用信任域分割策略梯度可靠区,稳定蒸馏推理小模型。
语言模型需要睡眠:学习自我修改与巩固记忆
👍 28提出受人类睡眠启发的范式,让LLM通过知识蒸馏与做梦实现持续学习与自我改进。
用 chunk 级语义验证替代 teacher logits,实现黑盒模型蒸馏并超越白盒 OPD
解耦LLM编排器与短窗DiT,实现实时流式角色音视频生成
重构分词器+均值映射+离线蒸馏,高效把多语言教师适配到土耳其语
将人类专家的痕迹(文档、聊天、决策)自动蒸馏为可检查、可修正的AI技能包
基于信任区域的行为融合用于策略蒸馏
👍 64通过KL信任区域引导早期rollout行为,提升策略蒸馏效果