联合扩展环境、任务与验证三大维度,打造可验证、跨平台的开源 GUI 智能体
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
OPD的增益并非来自教师蒸馏,而是压制学生低概率token;据此提出零监督OPSA,性能反超OPD
用学生自身SDE分支探索替代教师目标,免教师实现流匹配模型的密集逐步蒸馏对齐
提出HAT训练法,让紧凑模型学会理解不断演化的Harness配置,兼顾低延迟与业务敏捷迭代。
定位多教师蒸馏的预算错配根因,三个机制把能力恢复率从35.6%提到83.4%
token级干净上下文蒸馏使最强自适应注入ASR从94%降至9%且效用无损
OPD迁移的是教师推理行为而非答案,同源才能整体对齐策略,多教师路由因此产生跷跷板效应
固定免记忆近窗推理,用思考模式蒸馏与线索门控让4B学生追平9B教师
GRPO无参考奖励+SFT-RL插值,46语言翻译比肩GPT-5
用稀疏位置探测与验证器校准的蒸馏目标,提升小模型数学推理覆盖
面向多语言数学推理的在线策略增量蒸馏
👍 10将OPD2蒸馏扩展至英/韩/日数学推理,揭示推理迁移与语言保留的差异。
当教师误导时:伪信号感知的在线策略蒸馏
👍 19过滤在线蒸馏中既不依赖输入又高影响的虚假教师信号
通过反向KL分解,把演化上下文作为在线监督信号注入蒸馏目标。
统一在线蒸馏框架修复三大失效模式,0.5B学生达GSM8K 69.8%
接力棒:轨迹接力的在线策略蒸馏
👍 32在学生推理出错处让老师短暂接管再交还,修复在线策略蒸馏的前缀失败
用可控环境系统揭示长程规划能力在预训练、GRPO/OPD、多教师蒸馏三阶段的获取、塑造与整合规律。
发现多教师蒸馏会把工具调用边界推向过度调用,提出 Soft Clamp 局部校准方案
在线策略差分蒸馏
👍 37用教师与基础模型的概率差作为蒸馏奖励,大幅提升推理蒸馏效果。
揭秘在线策略蒸馏:角色、病理与调控
👍 18系统揭示OPD的探索催化本质,诊断信号失真病理,用零开销信号调控修复训练不稳定
首次将多教师在线策略蒸馏用于跨平台GUI智能体持续学习,解决行为模式混合和灾难性遗忘问题