← 返回 2026-10-06

从知识访问到源学习:培养源特定的可复用能力 From Knowledge Access to Source Learning: Developing Source-Specific Competence

Lucheng Fu, Kejing Xia, Yiyang Wang, Yiqiao Jin, Jinjin He, Xiyuan Yang, Haoxin Liu, Ye Yu, Haibo Jin, Yijia Xiao, Wenke Lee, B. Aditya Prakash, Haohan Wang 📅 2026-10-01 👍 8 2026-11-11 18:30
LLM智能体 持续学习 智能体记忆 检索增强生成 知识源建模

把重复访问同一知识源变成积累可复用的源理解,15项设置中13项最佳

前置知识

RAG(检索增强生成)

在任务执行时用检索器从外部知识源中找出与查询相关的片段,拼进上下文交给 LLM 生成答案的范式,典型实现是向量与关键词并用的混合检索。它只优化「这一次如何取到证据」,检索行为在不同任务之间互不积累、无法沉淀。

论文的核心论点是「访问不等于学习」,即 RAG 把对同一知识源的重复使用当成一次次孤立访问;所有对照实验都以 Hybrid RAG 为共同基线,理解 RAG 才能看懂各项提升数字的含义。

静态源表示(RAPTOR / GraphRAG / HippoRAG 2)

在离线建库阶段一次性把文档组织成层级摘要(RAPTOR)、知识图谱(GraphRAG、LightRAG)或联想索引(HippoRAG 2)等结构化表示,之后查询时直接复用,不再随任务经验而修订,结构一旦建好即被冻结。

它们是本文「静态源表示」类对照方法。SourceLearn 的关键区别是源模型持久且可随学习持续精炼,理解静态表示的局限才能明白为什么持续学习能带来更一致的跨基准收益。

智能体记忆与经验学习(A-MEM、AWM)

让智能体把历史交互中的反馈、洞察、技能与工作流沉淀为可复用记忆,使过去经验影响未来行为。AWM 从任务轨迹中抽象可复用工作流,A-MEM 将记忆组织成互联网络,ReMe 维护程序性记忆。

经验记忆存储的是「交互产物」,而本文坚持持久更新必须回到权威知识源重新阅读后重建,两者在学习对象与知识权威上根本不同,这是读懂 Task-Guided Source Learning 设计的前提。

实体中心的源模型

把知识源(文档集、代码库、API 文档)组织成以实体为单元的持久模型:每个实体 $e$ 附带可复用表示 $m_e$,记录其性质、机制、生效条件、流程、例外以及与其他实体的关系,其上还可有组织跨实体模式的高层结构。

源模型 $M$ 是全文的核心数据结构:自导向学习、任务导向学习都在实体表示及其区域上进行,推理时的源模型激活也按构建期建立的区域选择,必须先掌握它。

研究动机

LLM 智能体越来越依赖持久的外部知识源——一个文档集、一个代码仓库或一份 API 文档——来完成一连串知识密集型任务。现有两条路线各有短板:其一是源访问方法(检索、长上下文、RAPTOR/GraphRAG/HippoRAG 2 等静态源表示),它们优化的是查询时如何取用内容;即使索引持久,可复用知识仍可能碎片化,跨任务需要反复重建「证据该如何解释与组合」——例如智能体反复使用同一份 API 文档时,每次都要重新推断哪些调用之间存在前置依赖;一次性建成的表示也无法连接分布在不同位置的信息,或把只在隐含处出现的适用条件显式化。其二是智能体记忆(A-MEM、AWM 等),保存的是交互经验而非对源本身的理解;把观察到的答案或纠错直接存入记忆,还有「学到任务而非学到源」的风险。基线数据也印证了这一点:Hybrid RAG 在同一源上反复作答,MultiDoc2Dial 上始终只有 64.9(GPT-5.6-Luna 后端),没有任何跨任务积累。

本文的目标是本文提出并形式化「源学习」(source learning)问题:把智能体对同一持久权威知识源的反复研读与使用,变成源特定能力的累积过程,而非孤立的访问事件。形式上,对知识源 $D$ 与积累的学习历史 $H_t$,学习一个持久且可修订的源模型 $M_t = \mathrm{Learn}(D, H_t)$,使未来任务在保留直接源访问的同时获得累积理解:$\hat{y} = F(q, R(D, q), M_t)$。这种能力不只是压缩内容,而要刻画源知识如何被结构化、解释与应用——概念之间的关系、规则的适用条件、流程以及信息如何组合以支撑推理与行动。实验目标是:在文档问答、代码问答、工具使用与交互环境五类基准、三个 LLM 后端上,验证源学习能显著超越任务局部检索(Hybrid RAG)、静态源表示(RAPTOR、HippoRAG 2)与经验记忆(AWM)三类基线。

与已有工作不同的是,本文的独特切入角度在于重新定义了学习的对象与权威。现有工作要么把「源内容如何组织」当作一次性工程(RAPTOR、GraphRAG 建完即冻结),要么把「任务经验」当作学习对象(AWM 存工作流、A-MEM 存互联记忆),而本文把「对某个源的特定能力」本身当作学习对象。关键设计约束是一条不变量:学习信号(自研读发现的观察、任务失败的诊断、跨任务的表示偏好)只决定「什么值得重新考虑」,而一切持久化知识必须回到权威源 $D$ 重读后经接地重建机制(Eq. 5)生成,观察本身绝不直接写入模型。这使重复使用从「重复访问」变成「累积学习」,同时从机制上排除了把任务答案背诵进模型的捷径。

核心方法

直觉上,SourceLearn 模仿人类工程师反复研读同一份代码库或 API 文档的过程:先粗读建立框架,再带着疑问深读、把分散的知识连起来,最后用实战失误反过来修正理解。技术路线是一条三阶段流水线:$M_0 = \mathrm{Construct}(D)$ 通过源感知的实体中心阅读构建临时源模型;$M_S = \mathrm{SelfLearn}(D, M_0)$ 自导向学习主动补全与连接理解;$M_T = \mathrm{TaskLearn}(D, M_S; G)$ 用引导任务集 $G$ 的经验进一步精炼。推理时受上下文预算 $B$ 约束做源模型激活 $A_B(M, q)$,与任务时检索证据一起交给求解器:$\hat{y} = F(q, R(D, q), A_B(M, q))$。源模型以实体为中心组织,只保留紧凑且可复用的结构化理解,易检索的低层细节仍留在原始源中随时可查——两者互补而非替代。

核心创新是「读多次、写一次」(read-many, write-once)的接地重建机制。无论哪个学习阶段,都先用学习信号 $\xi$ 产生临时观察 $O_R = \mathrm{Inspect}(D_R, M_R; \xi)$,再回到权威源重建持久更新:$M' = \mathrm{GroundApply}(M, \mathrm{Reconstruct}(M_R, O_R); D_R)$。重建只有在提出的内容有源证据支持、且既有被支持的含义不被破坏时才提交;重建可以合并碎片知识、显式化条件与关系、删除冗余组织,但观察本身永不直接入库。这与记忆类方法的本质区别在于权威性:AWM 等把任务经验直接固化为记忆,这里任务经验只用来指出哪里理解不足,内容必须重新从源推导。第二个创新是把任务信号拆成两条互补通路:具体失败修复局部表示缺口,跨任务反复出现的表示偏好聚合为策略 $\Pi_1$ 去改变整个模型的表示方式,且 $\Pi_1$ 本身不引入任何新事实。

方法步骤详情

第一步初始构建:把源切成连贯区域(优先利用代码模块、章节等原生组织),按通用指令 $\Pi_0$ 为主要实体建立表示 $m_e$(性质、机制、条件、流程、关系),得到临时模型 $M_0$。第二步自导向学习,每轮遵循检查—研读—固化(Eq. 8):$O = \mathrm{Inspect}(D, M)$ 逐实体重读 $S_e$ 与 $m_e$($O_e = \mathrm{Observe}(S_e, m_e)$),找出表示仍解释不了的内容;规划器 $\Gamma_b = \mathrm{PlanStudy}(M, O_b, H_{<b})$ 选择 $\mathrm{DEEPEN}$ 或 $\mathrm{CONNECT}$ 动作,带着研读问题重读源并累积观察;最后经接地重建一次性提交,得 $M_S$。第三步任务导向学习:对引导任务先 $\mathrm{Diagnose}$ 得支持证据 $E^*_t$ 与源需求 $C_t$;答错时以缺失需求 $C^-_t$ 触发 $\mathrm{Refine}$ 局部精炼;同时总结表示教训 $\ell_t$ 并聚合为策略 $\Pi_1$,回源重校准得 $M_T$。第四步推理激活:超预算 $B$ 时按区域选 $A_B(M, q)$,与检索证据拼接后求解。

技术新颖性

技术新颖性有四个层面。第一,问题层面首次把「源特定能力」当作学习对象并给出形式化 $M_t = \mathrm{Learn}(D, H_t)$,区别于一次性建索引(RAPTOR/HippoRAG 2/GraphRAG)与存经验(A-MEM/AWM/ReMe)两大既有范式。第二,接地重建不变量:持久知识必须由权威源重建而非从交互直接存储,从机制上排除「记住任务答案」的捷径,这是与经验学习的根本分野。第三,任务信号的两级迁移设计:失败诊断 $C^-_t$ 只精炼涉事区域,已表示的需求不触发写入(从而把「表示缺失」与「理解已有但仍答错」区分开);表示教训 $\ell_t$ 聚合成不含任务标识的策略 $\Pi_1$ 再触发全模型重校准,实现跨任务泛化。第四,分析证明学习确实重组了表示而非单纯压缩:显式适用条件的单元占比从 $M_0$ 的约 30% 升至 $M_T$ 的 65–82%,测试题所需论断覆盖率从 23.2% 升至 40.0%。

Overview of SourceLearn. Initial Construction builds a provisional source model M0 from the authoritative source D. Self-Directed Source Learning deepens and connects source understanding through adaptive study, producing MS. Task-Guided Source Learning uses guidance-task failures and recurring representation needs to further refine the model into MT. At inference time, Source-Model Activation combines relevant source-model context with directly retrieved evidence for downstream tasks.
Figure 2: Overview of SourceLearn. Initial Construction builds a provisional source model M0 from the authoritative source D. Self-Directed Source Learning deepens and connects source understanding through adaptive study, producing MS. Task-Guided Source Learning uses guidance-task failures and recurring representation needs to further refine the model into MT. At inference time, Source-Model Activation combines relevant source-model context with directly retrieved evidence for downstream tasks.

实验结果

主实验(Table 1)覆盖五基准、三后端共 15 项设置:SourceLearn 在 13 项最佳、1 项次佳(gpt-oss 的 SWE-QA,53.4 对 HippoRAG 2 的 56.7),相对 Hybrid RAG 平均提升 GPT-5.6-Luna +14.3、gpt-oss-120b +4.9、DeepSeek-V4.1-Flash +13.4。GPT-5.6-Luna 下 APIBench 从 47.8 升至 70.4(+22.6,全文最大),NarrativeQA 66.0→80.2,MultiDoc2Dial 64.9→77.6,SWE-QA 56.9→69.5,AppWorld 72.0→81.5;DeepSeek 下 MultiDoc2Dial +18.0、SWE-QA +15.7。基线提升不均匀甚至为负,如 gpt-oss 下 RAPTOR 在 SWE-QA 掉 19.7 点。消融(Figure 3)显示完整 $M_T$ 在三个问答基准全部最优,去掉任一机制都下降,$M_0$ 最差;任务导向两条通路去掉任一都在所有基准下降,都去掉(回到 $M_S$)降幅更大。Figure 4 表明学习超出压缩:显式适用条件占比从约 30% 升至 65–82%,论断覆盖率从 23.2% 升至 40.0%,且与正确率强相关——零覆盖 67.5%、全覆盖 86.6%。唯一例外:gpt-oss 的 AppWorld 27.4,比基线低 3.0 点。

Main results across document QA, code QA, tool use, and interactive environments. We report task performance (%) with changes relative to Hybrid RAG shown as subscripts. The best and second-best results are highlighted with bold and underline, respectively.
Table 1: Main results across document QA, code QA, tool use, and interactive environments. We report task performance (%) with changes relative to Hybrid RAG shown as subscripts. The best and second-best results are highlighted with bold and underline, respectively.
Ablation of SourceLearn with GPT-5.6-Luna: the source learning stages (left) and the two pathways of Task-Guided Source Learning (right). Each bar reports answer accuracy (%) on two sources of a QA benchmark.
Figure 3: Ablation of SourceLearn with GPT-5.6-Luna: the source learning stages (left) and the two pathways of Task-Guided Source Learning (right). Each bar reports answer accuracy (%) on two sources of a QA benchmark.
Source learning beyond compression. From M0 to MS to MT, source learning (a) changes what the model represents, (b) makes conditions more explicit, (c) increases coverage of source knowledge required by future tasks, and (d) higher coverage is associated with higher answer accuracy.
Figure 4: Source learning beyond compression. From M0 to MS to MT, source learning (a) changes what the model represents, (b) makes conditions more explicit, (c) increases coverage of source knowledge required by future tasks, and (d) higher coverage is associated with higher answer accuracy.
查看结构化数据
任务指标本文基线提升
MultiDoc2Dial 文档问答(GPT-5.6-Luna) 任务表现 (%) 77.6 Hybrid RAG 64.9 +12.7
NarrativeQA 文档问答(GPT-5.6-Luna) 任务表现 (%) 80.2 Hybrid RAG 66.0 +14.2
SWE-QA 代码问答(GPT-5.6-Luna) 任务表现 (%) 69.5 Hybrid RAG 56.9 +12.6
APIBench 工具使用(GPT-5.6-Luna) 任务表现 (%) 70.4 Hybrid RAG 47.8 +22.6
AppWorld 交互环境(GPT-5.6-Luna) 任务表现 (%) 81.5 Hybrid RAG 72.0 +9.5
MultiDoc2Dial 文档问答(gpt-oss-120b) 任务表现 (%) 68.7 Hybrid RAG 64.5 +4.2
NarrativeQA 文档问答(gpt-oss-120b) 任务表现 (%) 56.7 Hybrid RAG 45.6 +11.1
SWE-QA 代码问答(gpt-oss-120b) 任务表现 (%) 53.4 Hybrid RAG 52.5 +0.9
APIBench 工具使用(gpt-oss-120b) 任务表现 (%) 71.8 Hybrid RAG 60.3 +11.5
AppWorld 交互环境(gpt-oss-120b) 任务表现 (%) 27.4 Hybrid RAG 30.4 -3.0
MultiDoc2Dial 文档问答(DeepSeek-V4.1-Flash) 任务表现 (%) 81.3 Hybrid RAG 63.3 +18.0
NarrativeQA 文档问答(DeepSeek-V4.1-Flash) 任务表现 (%) 76.2 Hybrid RAG 64.2 +12.0
SWE-QA 代码问答(DeepSeek-V4.1-Flash) 任务表现 (%) 61.6 Hybrid RAG 45.9 +15.7
APIBench 工具使用(DeepSeek-V4.1-Flash) 任务表现 (%) 82.2 Hybrid RAG 67.1 +15.1
AppWorld 交互环境(DeepSeek-V4.1-Flash) 任务表现 (%) 89.9 Hybrid RAG 83.9 +6.0

局限与改进

作者自己承认的局限是适用范围:目前只研究持久、权威且相对稳定的知识源上的同源任务,演化中、含噪或互相冲突的源留待未来。我还观察到更多问题:其一,gpt-oss-120b 后端下方法在 AppWorld 上反而比 Hybrid RAG 低 3.0 点(27.4 对 30.4),说明源学习的收益依赖后端本身的阅读与学习能力,弱模型可能无法完成高质量的检查—研读循环。其二,问答基准的答案由 GPT-5.6-Luna 判分,而它同时是三个被测后端之一,存在裁判与参赛者重叠的潜在偏置。其三,任务导向学习需要带参考答案 $y_t$ 的引导任务,并用答案反查支持证据 $E^*_t$,真实部署中往往没有标注。其四,自研读的多轮规划加上逐任务精炼与全模型重校准带来大量额外 LLM 调用,论文未报告学习阶段的 token 与成本开销。其五,激活 $A_B$ 只是规则式地按区域选择,未学习选择策略;源模型随任务数增长的规模控制也缺乏长期分析。

独立分析的弱点

第一个弱点是监督依赖:Diagnose 需要参考答案 $y_t$ 来定位支持证据并推导源需求 $C_t$,在无标注的开放域任务上不可用,改进方向是用自洽性多数投票、独立验证器模型或执行反馈替代参考答案。第二个弱点是后端敏感性:gpt-oss-120b 在 AppWorld 上退步 3.0 点,而同期 RAPTOR 也掉 3.6 点,暗示交互式环境的长轨迹对弱后端而言是噪声学习信号,可引入置信度门控,只让高置信失败触发持久写入。第三个弱点是成本结构:每轮自学习要对全体实体做 Inspect 加多轮 Study,每个引导任务还要 Diagnose 与 Refine,聚合后又全模型 Recalibrate,适合离线批处理但难以流式增量,值得设计摊销式更新与增量固化。第四个弱点是假设源权威且稳定,面对文档更新或信息冲突时缺少版本管理与信念修正机制。第五个弱点是评测设置:30%/70% 固定切分只测了一种难度分布,且判分模型与后端重叠,应补充人工评估与多裁判协议。

未来方向

作者提出的方向是把源学习扩展到演化、含噪与互相冲突的源,这需要版本追踪与信念修正——当权威源本身变化时,如何检测 $M_T$ 中失效的知识并安全重建。基于本文成果还可延伸:多源能力共享与迁移,研究多个源上学到的表示策略 $\Pi_1$ 能否跨源复用;把源模型与参数化记忆结合,将累积理解蒸馏进模型权重;用学习到的策略取代规则式的激活 $A_B$,做自适应预算分配;研究源投毒与安全问题——既然持久知识从源重建,恶意内容会被系统性放大,重建阶段需要对抗过滤;从理论上刻画哪些源结构可被有限预算 $B$ 的模型捕获、源学习的样本复杂度边界;以及在真实生产环境中长期部署,观察模型随源演化带来的维护成本与失效模式。

复现评估

复现条件较好。代码已在 GitHub 开源(github.com/luchengfu6/SourceLearn2026),并有项目主页 sourcelearn.github.io。五个基准全部公开:MultiDoc2Dial、NarrativeQA、SWE-QA、APIBench、AppWorld,其中 APIBench 与 AppWorld 使用官方评测器,避免了自建评测的争议。三个后端中 gpt-oss-120b 是开放权重模型,可本地部署;DeepSeek-V4.1-Flash 与 GPT-5.6-Luna 走 API。所有方法共享同一嵌入模型,AppWorld 上共享同一智能体脚手架,对比设置公平。数据切分为固定的 30%/70% 引导/测试三组切分(AppWorld 用官方 train/test-normal 切分),结果可严格对齐。主要成本在源模型构建与自导向学习的多轮长上下文 LLM 调用(整库逐实体检查、多轮规划研读),单源估算几十到上百次调用,中等 API 预算即可复现;跑全 15 项设置需要一定算力与时间。总体复现难度:中等。

相似论文推荐