免回放持续学习:以专家轨迹扰动放大风险加权张量重要性,逐张量缩放 AdamW 学习率抑制遗忘
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
后训练
RLVR
视频理解
机器人学习
多模态
长上下文
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
评测基准
高效推理
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
Transformer
参数高效微调
工具使用
LoRA
持续学习
自蒸馏
LLM评估
多模态推理
RAG
综述
信息检索
模仿学习
LLM推理
信用分配
在线策略蒸馏
合成数据
模型压缩
实证表明框架跨任务持续自我进化会灾难性遗忘,并归纳三类框架冲突成因
无需参数更新,TAL把教学视频固化成教程书记忆并用TOC检索,让冻结LLM持续学习
RL 也是最大似然拟合:全流程统一为单一算法,靠数据混合决定学什么与何时学
Harness–模型协同的长时程持续学习
👍 11经验卡外部记忆加经验条件化LoRA持续微调,兼顾快速复用与长期保留
五级职业任务阶梯基准:最强智能体仅通过47.7%关卡,反馈修正中位增益5.3pp
把条件计算从MLP扩展到注意力,NESTOR以嵌套稀疏超越MoE,算力效率提升1.13–1.29倍
函数空间时序自蒸馏策略优化(FSPO)
👍 25用稀疏历史分布缓存替代持久教师模型,实现单策略、时序稳定的自蒸馏强化学习
面向AI智能体的记忆中心持续学习
👍 22提出记忆中心持续学习框架:三轴分类、双环生命周期、行为化评估与记忆缩放律
Cortex:将上下文固化为参数记忆
👍 68提出记忆固化问题与Cortex方法,把上下文增益蒸馏进FFN参数,CR/RR兼优
跨任务继承轻量actor-critic并用蒸馏保住旧技能,新任务更快学会且几乎不遗忘。
基于合成自蒸馏的小型模型持续后训练
👍 37把自蒸馏重写外包给稍大的同家族模型并配合拒绝采样,让小模型学新领域能力而不遗忘旧能力。
首个具身仿真持续学习基准,用组合泛化度量智能体的经验积累与迁移能力
模型可自生成重放数据保护旧能力,较大模型还能挑选重放目标。
让冻结的LLM/VLM用技能、知识记忆与多模态知识库从部署经验中持续进化
用PI敏感步骤选择与特权行为保持,阻止多轮自蒸馏部署中的性能坍塌
用可回放证据卡绑定技能编辑,经重放验证与跨轮传播实现LLM智能体技能可靠演化。
把物理动作的选择权留给语言智能体、把几何执行委托给后端的机器人Agent框架
把重复访问同一知识源变成积累可复用的源理解,15项设置中13项最佳
推导出梯度步长应随历史知识有效秩按√R增长的节奏律,实现持续学习稳定-可塑性的最优平衡