找到 507 条结果

把条件记忆变成可编辑知识接口,联合更新共享n-gram嵌入实现近乎完美的知识修改

Hongru Cai, Ran Wei, Wenjie Wang, Chengfa Wu, Ning Song, Yongqi Li, Wenjie Li 2026-10-08
MoE 大语言模型 条件记忆 模型更新 知识编辑

用多轮强化学习让教师模型适应不同学习偏好的模拟学生,直接最大化学习成效

Weixian Xu, Yanzhe Zhang, Zora Zhiruo Wang, Changyu Chen, Diyi Yang 2026-10-07
多轮对话 大语言模型 强化学习 教育AI 数学辅导

以参数位置与获取时机两轴,系统梳理大模型参数内记忆增强方法

Haoyu Huang, Zhongwei Xie, Jiaxin Bai, Yisen Gao, Hong Ting Tsang, Wuganjing... 2026-10-07
参数内记忆 大语言模型 测试时训练 知识增强 综述

把每层要删除的子空间参数化为可学习正交投影,端到端对齐网络输出,高压缩率下大幅超越现有低秩压缩方法

Massimo Bini, Anders Christensen, Stephan Alaniz, Judah Goldfeder, Ole... 2026-10-07
KV缓存优化 低秩分解 大语言模型 模型压缩 知识蒸馏

低秩梯度草图+预测KL步长控制,RL训练内存省45.7%,27B单机8卡稳定训练

Shaokun Zhang, Yifan Zhang, Jian Hu, Yueying Li, Hao Zhang, Binfeng Xu, Jan... 2026-10-06
低秩近似 内存优化 大语言模型 强化学习 训练效率

仅固定开头两个token,基础模型推理性能即可追平RL版本

Sophie L. Wang, Amil Dravid, Rulin Shao, Kevin Farhat, Sewon Min, Alexei A. Efros 2026-10-06
大语言模型 强化学习 推理能力 模型安全 训练数据分析

融合专家输出分布与隐藏状态双重监督,单个1.5B学生模型超越各领域专家教师

Zhengyu Fang, Seoyeon Hong, Jie Yang, Muyang Li, Koyoshi Shindo, Brandon... 2026-10-05
在线蒸馏 多教师学习 大语言模型 知识蒸馏 表示对齐

仅凭单个词的教师回复,同源学生即可习得私有小样本微调的能力

Ziyang Zhang, Yubin Jing, Yuanhao Zeng, Yuyao Li, Haofan Wang, Yichen Gong 2026-09-29
AI安全 LoRA微调 大语言模型 知识蒸馏 隐蔽学习