用进化损失+适配损失的分解框架,结合多智能体进化、分支树路由与人机介入,实现开放式任务流上的持续自改进线束部署。
标签:
全部
强化学习
扩散模型
大语言模型
基准测试
视频生成
LLM智能体
世界模型
视觉语言模型
GRPO
多模态大模型
知识蒸馏
基准评测
具身智能
流匹配
机器人操作
多智能体系统
智能体
LLM Agent
可解释性
图像生成
代码生成
多模态学习
检索增强生成
注意力机制
RLVR
后训练
视频理解
机器人学习
长上下文
多模态
数学推理
图像编辑
VLA
数据合成
多模态大语言模型
推理加速
高效推理
评测基准
自监督学习
工具调用
对比学习
扩散语言模型
视觉-语言-动作模型
参数高效微调
Transformer
工具使用
LoRA
持续学习
LLM评估
自蒸馏
多模态推理
RAG
模仿学习
综述
LLM推理
信息检索
信用分配
在线策略蒸馏
模型压缩
合成数据
提出受控任务流与可塑性/稳定性/泛化三类增益指标,严格评估智能体的持续学习。
将外部记忆转化为参数化技能的具身智能体记忆框架
按时间顺序预训练的LLM比打乱训练更具时效性知识
180任务×10模型基准,揭示智能体难以把单次经验沉淀为可复用过程技能。
用正交梯度投影剔除安全更新中干扰通用能力的分量,缓解对齐税。
通过轨迹级奖励塑形和跨任务优势归一化,有效缓解RFT方法在视觉持续学习中的灾难性遗忘问题
学习,快与慢:迈向持续自适应的语言模型
👍 17提出Fast-Slow Training框架,将慢权重RL与快权重提示词优化协同演化
用 Wasserstein 距离衡量任务几何冲突,既解释又控制 LLM 持续后训练遗忘
提出BR-MoE双层路由MoE机制,把PTM-based类增量学习首次扩展到300+非重叠任务。
提出存储-反思-经验三阶段演化框架,统一LLM智能体记忆机制的研究视角。
用上三角几何约束让多个领域适配器可堆叠成准阿贝尔群,O(1)推理并缓解灾难性遗忘。
让步数蒸馏扩散模型持续学习新概念而保持少步推理能力
为什么微调会诱发幻觉以及如何修复
👍 25把 SFT 幻觉重新解读为事实遗忘,并给出参数冻结与自蒸馏两类缓解方案。
语义聚类指导的分布感知采样,DoRA+持续学习缓解跨语言负迁移
首个评估智能体技能持续学习的基准,含20个真实任务和三级评估框架
用LLM自身调用日志训练轻量替代模型,按一致性门槛自动路由降本。
用OT理论在线学多中心GMM,缓解OCIL中数据多模态与灾难遗忘问题
冻结 MoE-LoRA 栈 + 零空间投影 + 经验路由,发现适配器实际编码可迁移的认知原语。
通过token级路由漂移分析与漂移感知的动态MoE扩展,解决VLM持续学习中的灾难性遗忘