标签： 全部 强化学习 扩散模型 大语言模型 基准测试 视频生成 LLM智能体 世界模型 视觉语言模型 GRPO 多模态大模型 知识蒸馏 基准评测 具身智能 流匹配 机器人操作 多智能体系统 智能体 LLM Agent 可解释性 图像生成 代码生成 多模态学习 检索增强生成 注意力机制 RLVR 后训练 视频理解 机器人学习 多模态 长上下文 数学推理 图像编辑 VLA 数据合成 多模态大语言模型 推理加速 评测基准 高效推理 自监督学习 工具调用 对比学习 扩散语言模型 参数高效微调 视觉-语言-动作模型 Transformer 工具使用 LoRA 持续学习 自蒸馏 LLM评估 多模态推理 RAG 模仿学习 综述 信息检索 LLM推理 信用分配 在线策略蒸馏 合成数据 模型压缩
找到 305 条结果
相关性 | 日期

MemT-1.0：迈向记忆原生的进化

👍 138

把记忆内化为模型原生计算，128K 历史下推理提速 1.86 倍、存储省 66 倍

Zhiyu Li, Zeyu Zhang, Linyun Liu, Yiwei Bu, Chenyang Xi, Xichong Zhang, Yi... 2026-10-20
Gated DeltaNet Mixture-of-Storage 参数化记忆 智能体经验复用 知识蒸馏
✅ 已总结
详情 →

DLite：面向智能体 AI 的无历史投机解码

👍 22

DLite 复用目标模型隐状态、免维护草稿历史 KV 缓存，智能体负载加速最高 2.7 倍

Jiaming Xu, Hanzhen Wang, Tianlang Zhao, Jiewen Xiao, Chengze Yuan, Jiayi... 2026-10-19
LLM推理加速 投机解码 智能体系统 知识蒸馏 系统效率
✅ 已总结
详情 →

OPMD：超越输出监督的在策略机制蒸馏

👍 15

构建学生兼容教师把教师中间计算翻译成学生可用形式，再在策略上内化，超越输出监督。

Yingdong Shi, Zhihong Li, Changming Li, Jingyi Yu, Quan Li, Kan Ren 2026-10-19
大语言模型 推理增强 机制可解释性 激活补丁 知识蒸馏
✅ 已总结
详情 →

基于信念更新与世界模型的长程智能体失败恢复

👍 6

用持久信念图与隐式世界模型跨回滚积累证据、指导失败恢复，并蒸馏到9B小模型降低教师成本

Xiyang Wu, Zhichao Liu, Shengxin zhang, Zongxia Li, Ming Li, Tianyi Zhou,... 2026-10-19
世界模型 信念更新 失败恢复 知识蒸馏 终端智能体
✅ 已总结
详情 →

选择不等于学习：为模型挑选未来

👍 3

自进化训练应实证确认每次更新而非盲目继承，并把参数继承与经验继承解耦

Haoyi Yang, Kshitij Mishra, Nils Lukas, Salem Lahlou 2026-10-19
更新验收 知识蒸馏 经验存档 自博弈训练 自进化语言模型
✅ 已总结
详情 →

ActionOPD：蒸馏决策而非词元

👍 55

以语义动作为监督单元的黑盒在线蒸馏，让小模型 agent 对齐教师决策而非复刻词元

Huining Yuan, Xiangmin Yi, Zelai Xu, Zixu Wang, Xinlei Chen, Xiao-Ping... 2026-10-15
LLM Agent 工具调用 知识蒸馏 策略优化 黑盒蒸馏
✅ 已总结
详情 →

基于批评引导的在线策略蒸馏恢复可靠监督

👍 26

教师会跟随学生错误但仍能识别错误，CriticOPD 用批评引导改写恢复蒸馏监督可靠性

Kaixiang Zhao, Tianrun Yu, Shangzhe Li, Yuxiao Yang, Amanda Hughes, Weitong... 2026-10-15
在线策略蒸馏 大语言模型推理 数学推理 特权信息 知识蒸馏
✅ 已总结
详情 →

基于测试时训练的潜空间压缩

👍 6

冻结模型权重，测试时训练文档专属KV缓存，32×压缩下RULER达96.7%

Yingfa Chen, Xingyu Shen, Chaojun Xiao, Xu Han 2026-10-15
KV缓存压缩 测试时训练 知识蒸馏 长上下文 高效推理
✅ 已总结
详情 →

UltraBERT：突破BERT预训练的极限

👍 61

混合5%与50%双掩码率并解耦LM头，首个分类与检索同时SOTA的编码器

Jungwoo Park, Taewhoo Lee, Jaewoo Kang 2026-10-14
BERT 掩码语言建模 文本嵌入 知识蒸馏 预训练
✅ 已总结
详情 →

基于语言正则化的在策略自蒸馏（VRSD）

👍 22

给自蒸馏教师加“反思”系统提示以削弱特权信息的捷径偏置，平均Pass@1提升3.9个百分点

Jiazheng Li, Yawei Li, Junru Lu, Zhenyi Shen, Di Yin, Lin Gui, Xing Sun,... 2026-10-14
分布熵与探索 在策略自蒸馏 提示正则化 理论分析 知识蒸馏
✅ 已总结
详情 →