推导出梯度步长应随历史知识有效秩按√R增长的节奏律,实现持续学习稳定-可塑性的最优平衡
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
多模态
长上下文
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
评测基准
高效推理
自监督学习
工具调用
对比学习
扩散语言模型
参数高效微调
视觉-语言-动作模型
Transformer
工具使用
LoRA
持续学习
自蒸馏
LLM评估
多模态推理
RAG
模仿学习
综述
信息检索
LLM推理
信用分配
在线策略蒸馏
合成数据
模型压缩
用 GMM 门控把微调更新的影响限制在新数据支撑域内,让大模型学新不忘旧
构建多阶段后训练基准,诊断智能体遗忘机制,提出LoRA专家混合方法MLE
路由器与智能体在强化学习闭环中共同进化,用隐状态熟悉度评分实现自适应路由与能力分化。
持续学习机制组合实现长程记忆保持
👍 94数据/函数/权重锚点与合并LoRA组合,将100任务留存率从1.2%提升至34.9%
把研究者协作转化为任务与评分规则,嵌套耦合外壳进化与模型强化学习,实现科研智能体持续自改进。
面向持续学习的快速权重注意力
👍 31把循环状态视为读后写语义下的在线学习器,导出归一化 Falcon 更新族,提升长度外推
验证器诱导的在线策略优化支持重塑
👍 6RLVR 在提升当前任务的同时,会把未来任务的成功轨迹挤到固定预算内难以采样
冻结底座叠加LoRA专家、递归自我改进闭环,让智能体部署后持续学习
用源自土壤微生物网络的图韧性指数作正则项,显著缓解 LLM 微调的灾难性遗忘
用When/Where/How三轴框架重定义大模型时代的持续学习
提出评估智能体在长任务流中持续学习与技能演化的动态基准
统一流式评估框架揭示自演化智能体收益受场景、模型与方法的共同制约。
首次将多教师在线策略蒸馏用于跨平台GUI智能体持续学习,解决行为模式混合和灾难性遗忘问题
SDPO在专业化任务上表现强劲但持续学习中易遗忘
持续学习系统,自动编写机器人程序并积累可重用技能库
提出AGENTODYSSEY评估框架,通过程序化生成文本游戏测试代理五大关键能力
用数据集蒸馏创建紧凑源锚点,提升持续测试时适应的稳定性
重新思考自进化大语言智能体的持续经验内化
👍 26揭示多迭代经验学习中能力崩溃问题,提出原理级经验、逐步注入和off-policy蒸馏的稳定内化方案
语言模型需要睡眠:学习自我修改与巩固记忆
👍 28提出受人类睡眠启发的范式,让LLM通过知识蒸馏与做梦实现持续学习与自我改进。