提出DAIL自蒸馏方法,通过分布对齐和对比学习将专家解法转化为可学习的推理轨迹
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
通过聚类-对比学习-检索增强生成的三阶段框架,从设计数据中提取风格知识以指导风格化设计改进。
GeoCLIP 以卫星剪裁作地理锚点,以对比学习对齐卫星-地面语义,提高全球图像地理定位精度与泛化能力
K-means聚类构建多样化子表+LLM生成查询+对比微调提升表格检索
构建1亿中文图文对数据集,通过系统化清洗流程显著提升中文视觉-语言预训练性能
通过温度校准、负样本课程和协方差对齐三个轻量模块,将VLM转化为全模态嵌入模型
统一对比学习与3D字幕生成,通过测试时搜索提升跨域鲁棒性
通过对比感知损失增强VLM视觉推理能力的RL微调方法