标签： 全部 强化学习 扩散模型 大语言模型 基准测试 视频生成 视觉语言模型 世界模型 GRPO 多模态大模型 知识蒸馏 LLM智能体 多智能体系统 智能体 多模态学习 流匹配 具身智能 图像生成 基准评测 代码生成 LLM Agent 检索增强生成 注意力机制 机器人操作 多模态大语言模型 视频理解 可解释性 数学推理 图像编辑 多模态 机器人学习 RLVR 自监督学习 长上下文 后训练 Transformer 工具使用 对比学习 数据合成 视觉-语言-动作模型 推理加速 工具调用 LoRA 多模态推理 RAG 计算机视觉 LLM评估 信息检索 视觉推理 评测基准 高效推理 参数高效微调 扩散语言模型 自蒸馏 综述 Flow Matching 3D重建 模型压缩 自回归生成 持续学习 自回归模型
找到 191 条结果
相关性 | 日期

LK损失：投机解码中直接优化接受率的训练目标

👍 18

提出直接优化接受率的LK损失函数，在6个目标模型上提升8-10%的平均接受长度

Alexander Samarin, Sergei Krutikov, Anton Shevtsov, Sergei Skvortsov, Filipp... 2026-03-02
大语言模型推理加速 序列生成 投机解码 损失函数设计 知识蒸馏
✅ 已总结
详情 →

面向LLM推理的强化学习感知知识蒸馏

👍 6

提出RLAD框架，通过信任区域比率蒸馏将教师指导嵌入GRPO更新，实现选择性模仿

Zhaoyang Zhang, Shuli Jiang, Yantao Shen, Yuting Zhang, Dhananjay Ram, Shuo... 2026-03-02
GRPO 大语言模型 强化学习 推理增强 知识蒸馏
✅ 已总结
详情 →

jina-embeddings-v5-text: 任务特定嵌入蒸馏

👍 31

通过结合模型蒸馏和任务特定对比损失训练紧凑高性能嵌入模型

Mohammad Kalim Akram, Saba Sturua, Nastia Havriushenko, Quentin Herreros,... 2026-02-18
信息检索 多语言 对比学习 嵌入模型 知识蒸馏
✅ 已总结
详情 →

面向语言模型的特权信息蒸馏

👍 28

利用训练时特权信息蒸馏前沿模型，无需Chain-of-Thought

Emiliano Penaloza, Dheeraj Vattikonda, Nicolas Gontier, Alexandre Lacoste,... 2026-02-06
强化学习 智能体 特权信息 知识蒸馏 语言模型
✅ 已总结
详情 →

OVD：在策略语言蒸馏

👍 6

用离散语言分数替代token级概率匹配，实现内存高效的推理能力蒸馏

Jing Xiong, Hui Shen, Shansan Gong, Yuxin Cheng, Jianghan Shen, Chaofan Tao,... 2026-02-03
Web问答 强化学习 推理 数学推理 知识蒸馏
✅ 已总结
详情 →

语言模型知识蒸馏中的记忆动态研究

👍 4

知识蒸馏可将训练数据记忆减少50%以上，同时提升模型泛化能力

Jaydeep Borkar, Karan Chadha, Niloofar Mireshghallah, Yuchen Zhang,... 2026-02-02
大语言模型 数据记忆 模型压缩 知识蒸馏 隐私保护
✅ 已总结
详情 →