PANINI：通过结构化记忆在Token空间中实现持续学习 Panini: Continual Learning in Token Space via Structured Memory
提出基于GSW的非参数持续学习框架，通过写入时结构化构建实现读取时高效多跳推理
前置知识
检索增强生成(RAG)
RAG是一种将外部知识库与大语言模型结合的技术范式。系统将文档分割为片段存储，在推理时根据查询检索相关片段并作为上下文提供给LLM生成答案。传统RAG面临两个核心问题：一是LLM需要反复处理相同文档片段导致推理计算浪费；二是chunk检索可能注入不相关上下文，引发幻觉生成和unsupported answers。
PANINI正是针对传统RAG的这些缺陷提出改进方案，理解RAG的基本原理和局限性是理解本文动机和方法创新的关键基础。
非参数持续学习(NPCL)
NPCL是指保持基础模型参数固定，通过外部存储和检索机制实现对新知识持续适应的学习范式。与参数化持续学习（更新模型权重）不同，NPCL在推理时从外部记忆中检索相关信息。这种方法避免了灾难性遗忘问题，同时可以实现源归因和选择性信息撤回。
PANINI被定位为一个NPCL框架，论文提出了NPCL系统的三个评估标准：支持性能、推理效率和可靠弃权。理解NPCL的定义和动机是理解本文核心贡献的前提。
多跳问答(Multi-hop QA)
多跳问答要求系统通过多个推理步骤连接不同文本段落中的信息。例如'Lothair II的母亲去世日期是什么？'需要先识别出母亲是谁（第一跳），再查找她的去世日期（第二跳）。这类任务的挑战在于相关信息分散在不同文档中，标准检索方法往往无法通过单次查询获取完整的推理链。
本文使用多跳QA作为评估PANINI推理能力的主要测试平台，包括MuSiQue、2WikiMultihopQA、HotpotQA等基准数据集。PANINI的核心创新RICR正是为解决多跳推理设计的。
Generative Semantic Workspace (GSW)
GSW是本文提出的一种文档结构化表示形式。每个文档的GSW包含三个组件：(1)实体节点E，标注角色和状态（如'Barack Obama: 44th President'）；(2)动词短语/事件节点V，捕获动作和关系（如'was born'）；(3)QA对Q，连接动词短语和实体（如'When was Barack Obama born?'→'August 4, 1961'）。这种表示使实体关系显式化，便于高效检索和推理。
GSW是PANINI的核心创新之一，它决定了'写入什么'到记忆中。与传统RAG存储原始文本片段不同，GSW提供了足以让LLM重建经历情境和挖掘潜在知识的结构化语义网络。
Reasoning Inference Chain Retrieval (RICR)
RICR是PANINI提出的推理链检索机制。给定查询q，RICR执行三个步骤：(1)规划：将查询分解为原子子问题序列；(2)检索：通过BM25实体索引和稠密QA对索引的双重搜索获取候选QA对，使用beam search维护B条并行推理链；(3)生成：基于检索的QA证据生成最终答案。链的评分使用各跳相关性分数的几何均值。
RICR是PANINI读取记忆的核心机制，它实现了在不使用迭代LLM调用的情况下进行多跳推理。与agentic系统（如IRCoT、Search-R1）需要多次LLM调用不同，RICR通过单次分解和结构化遍历实现高效推理。
研究动机
现有非参数持续学习（NPCL）方法存在三个核心问题。首先，传统RAG将文档存储为原始文本片段，推理时LLM需要反复处理相同内容。如Table 3所示，标准chunk检索平均需要705个token，而结构增强方法如GraphRAG需要8,122个token，agentic系统如IRCoT更是需要10,745个token。这种重复处理造成严重的计算浪费。其次，chunk检索容易注入不相关上下文。论文指出，在Platinum评估中（Table 4），大多数系统在回答可回答问题和正确拒绝不可回答问题之间存在权衡：弱检索器经常弃权但遗漏可回答问题，强检索器回答更多但在证据不足时产生幻觉。第三，现有结构化记忆方法（如RAPTOR的层次摘要、GraphRAG的社区摘要）主要优化压缩和主题总结，而非针对跨链接推理以检索特定潜在知识。HippoRAG使用Personalized PageRANK遍历知识图谱，但存在两个关键限制：实体共现即连接导致虚假连接（如所有日期相互连接），且PPR仅基于边权重传播激活而不理解连接语义。
本文的目标是本文的具体目标是设计一个NPCL框架，同时解决记忆架构设计（写入什么）和记忆读取机制（如何检索）两个关键选择。作者提出三个NPCL系统应满足的评估标准：(1)支持性能：综合和推理存储经验以回答支持问题的能力；(2)推理效率：随着经验存储增长的检索效率；(3)可靠弃权：识别存储经验不支持答案时的能力。目标是在这三方面都优于现有方法，特别是实现比chunk检索少2-30倍的推理token使用量，同时保持或提升答案准确性。
与已有工作不同的是，本文的独特切入角度是将计算投入从推理时转移到写入时，通过结构化经验表示实现高效读取。与现有方法的根本区别在于：传统RAG存储'可检索的片段'，PANINI存储'可推理的工作空间'。GSW不是简单压缩或主题总结，而是构建一个实体-事件感知的QA网络，足以让LLM重建经历情境并挖掘潜在知识。这种设计使PANINI能够在推理时只遍历GSW（而非原始文档），检索最可能的推理链。作者指出这类似于人类记忆机制：大脑需要慢速学习的新皮质系统提取统计规律和快速学习的海马系统编码个体情景，计算基础是稳定性-可塑性困境。PANINI的GSW相当于海马体的情景记忆，而固定的LLM参数相当于新皮质的语义知识。
核心方法
PANINI的整体思路可以概括为'写入时投资，读取时收益'。系统流程分为两个阶段：写入阶段（Build Time）将每个文档独立转换为Generative Semantic Workspace（GSW），这是一个实体和事件感知的QA网络；读取阶段（Query Time）使用Reasoning Inference Chain Retrieval（RICR）遍历持续更新的GSW，通过beam search维护多条推理链，最终基于检索的QA证据生成答案。直觉上，GSW将文档中的关键事实结构化为原子单元（实体、事件、QA对），使后续检索可以直接定位到相关信息，而无需处理冗长的原始文本。技术路线包括：(1)GSW构建：使用LLM从文档中提取实体节点（带角色/状态）、动词短语节点和双向QA对；(2)双重索引：构建BM25实体索引和稠密QA对向量索引；(3)RICR：查询分解→hop检索→beam search链构建→答案生成。
PANINI的核心创新是将文档表示为Generative Semantic Workspace（GSW），而非传统RAG中的原始文本片段或层次摘要。GSW的关键特性包括：(1)实体节点显式化：每个实体带有角色（如'person'）和状态（如'44th President'），使检索可以精确匹配实体属性；(2)QA对作为边：连接动词短语和实体的QA对使关系查询成为原子操作，例如'When was Barack Obama born?'→'August 4, 1961'；(3)双向QA：每个关系生成正向和反向两个问题，增加检索覆盖。与已有方法的本质区别在于：RAPTOR和GraphRAG优化的是'压缩'（回答'主题是什么'），而GSW优化的是'推理'（回答'特定事实是什么'）。HippoRAG使用图遍历但返回原始chunk，PANINI只返回QA对——更紧凑、更精准的证据单元。此外，RICR的beam search机制（维护B=5条并行链，使用几何均值评分）比agentic系统的迭代LLM调用更高效，同时比单一路径检索更鲁棒。
方法步骤详情
PANINI方法包含以下完整步骤： Step 1: GSW构建（写入时） 输入：文档d。使用LLM（GPT-4.1-mini）提取三类组件：(i)实体节点E，每个实体标注角色（如person, location, date）和状态（如deceased, historical figure）；(ii)动词短语/事件节点V，捕获动作和关系（如born in, married to）；(iii)QA对Q，每个QA对连接动词短语v到实体e，形式为有向标记边(v q→e)。例如，'Barack Obama was born on August 4, 1961'生成实体Barack Obama（role: 44th President）、动词短语was born、实体August 4, 1961（state: birth date），以及QA对'When was Barack Obama born?'→'August 4, 1961'和'Who was born on August 4, 1961?'→'Barack Obama'。 Step 2: 双重索引构建 为所有文档的GSW构建两个语料库级索引：(i)BM25实体索引，每个条目包含实体表面形式及其关联角色/状态信息；(ii)稠密向量索引，对所有GSW中的QA对进行嵌入，支持语义检索。 Step 3: 查询分解（规划） 给定输入查询q，DECOMPOSE模块将其重写为一个或多个并行的原子子问题序列。每个子问题接受参数：初始子问题是查询中的静态实体；后续子问题是前一子问题的答案。例如，'Who died later, the mother of Lothair II or the father of Amadeus I?'分解为两个并行序列。 Step 4: RICR（读取时） 对每个子问题序列独立执行RICR。RICR通过迭代执行检索hop组装结果到评分链中。每个hop执行RETRIEVEANDSCORE子程序：(a)查询BM25实体索引获取高分实体节点，收集附着的QA对；(b)查询稠密QA对索引直接检索语义相似QA对；(c)合并候选并使用交叉编码器（VoyageAI Rerank-2.5）重排序，保留top-k对。维护B=5条并行链，使用几何均值评分，确保一致高质量的hop证据。 Step 5: 答案生成 最终，top-B存活链的GSW QA对被去重，作为证据传递给答案模型（GPT-4o-mini）。答案模型仅基于这些短小、针对性的QA对生成最终答案，而非冗长的原始文档。
技术新颖性
PANINI的技术新颖性体现在三个层面。首先是表示层面的创新：GSW将文档从'可检索的文本'转变为'可推理的语义网络'，每个实体带有角色/状态标注，每个关系以双向QA对形式存储，这种设计使检索粒度从chunk级别细化到原子事实级别。其次是检索机制的创新：RICR的beam search+几何均值评分策略在保持多样性的同时确保推理链质量，避免了agentic系统的迭代LLM开销和单一路径检索的脆弱性。第三是架构层面的创新：将计算从推理时转移到写入时的'睡眠计算'理念，与神经科学的互补学习系统（CLS）理论形成跨学科呼应——GSW相当于海马体的情景记忆，固定LLM相当于新皮质的语义记忆。与现有方法的本质区别在于：HippoRAG的图遍历返回原始chunk，PANINI返回QA对；RAPTOR的层次摘要优化压缩，GSW优化推理；Search-R1的agentic检索需要多次LLM调用，RICR只需单次分解。
实验结果
PANINI在六个QA基准测试上进行了全面评估，结果表明其在NPCL的三个标准上都达到了最优性能。 支持性能（Table 2）：PANINI在六个基准上的平均F1达到56.06%，比最强的结构增强基线HippoRAG2（53.3%）高2.76个百分点，比稠密检索方法（Qwen3-Embedding 50.5%）高5.56个百分点。在多跳任务上优势更明显：MuSiQue 52.27% vs HippoRAG2 49.3%（+2.97%），2Wiki 72.37% vs HippoRAG2 69.7%（+2.67%），HotpotQA 71.88% vs HippoRAG2 71.1%（+0.78%）。在单跳任务上也保持强劲：NQ 67.44%（vs 最佳基线NV-Embed-v2 59.9%），PopQA 57.56%（vs Qwen3-Embedding 59.8%）。 推理效率（Table 3）：PANINI平均只使用319.79个token，比chunk检索（705.27 token）少2.2倍，比RAPTOR（1,166.6 token）少3.6倍，比GraphRAG（8,121.6 token）少25倍，比LightRAG（32,746 token）少102倍，比IRCoT（10,745.1 token）少33倍，比Search-R1（2,457.7 token）少7.7倍。这种效率提升源于GSW的QA对表示比原始chunk更紧凑。 可靠弃权（Table 4）：在Platinum评估中，PANINI打破了性能-弃权权衡。在MuSiQue-Platinum上，可回答准确率75.0%（vs HippoRAG2 63.6%），不可回答准确率72.6%（vs HippoRAG2 50.3%）。在2Wiki-Platinum上，可回答准确率84.8%（vs HippoRAG2 81.5%），不可回答准确率73.1%（vs HippoRAG2 66.7%）。平均可回答准确率79.9%（vs 最佳基线HippoRAG2 72.5%），平均不可回答准确率72.8%（vs BM25 79.1%但可回答准确率仅36.4%）。 开源管道（Tables 7-11）：使用Qwen3-8B作为reader时，PANINI平均F1 63.47%，仍优于HippoRAG2 60.02%。GSW构建使用Qwen3-8B时性能下降但仍具竞争力（2Wiki 55.38%，MuSiQue 40.24%），使用GPT-OSS-120B时接近主实验性能（2Wiki 70.65%，MuSiQue 48.50%）。 GSW作为通用基础设施（Table 16）：将PANINI的GSW索引替换Search-R1的默认BM25 chunk检索（不重新训练Search-R1 agent），平均F1从47.3%提升至49.4%，多跳任务一致性提升，证明GSW可作为通用检索层。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 单跳问答-NQ | F1 (%) | 67.44 | NV-Embed-v2 (59.9), HippoRAG2 (60.0) | +7.44% vs NV-Embed-v2 |
| 单跳问答-PopQA | F1 (%) | 57.56 | Qwen3-Embedding (59.8), HippoRAG2 (55.7) | -2.24% vs Qwen3-Embedding, +1.86% vs HippoRAG2 |
| 多跳问答-MuSiQue | F1 (%) | 52.27 | HippoRAG2 (49.3), Qwen3-Embedding+RR (43.7) | +2.97% vs HippoRAG2 |
| 多跳问答-2Wiki | F1 (%) | 72.37 | HippoRAG2 (69.7), GraphRAG (61.0) | +2.67% vs HippoRAG2 |
| 多跳问答-HotpotQA | F1 (%) | 71.88 | HippoRAG2 (71.1), Qwen3-Embedding (69.2) | +0.78% vs HippoRAG2 |
| 多跳问答-LV-Eval | F1 (%) | 14.81 | HippoRAG2 (14.0), Qwen3-Embedding+RR (11.8) | +0.81% vs HippoRAG2 |
| 平均性能 | F1 (%) | 56.06 | HippoRAG2 (53.3), Qwen3-Embedding+RR (50.5) | +2.76% vs HippoRAG2 |
| 推理效率-平均token数 | Tokens | 319.79 | chunk检索 (705.27), Search-R1 (2457.7), GraphRAG (8121.6) | 2.2x少于chunk检索, 7.7x少于Search-R1, 25x少于GraphRAG |
| Platinum可回答-MuSiQue | F1/EM (%) | 75.0 | HippoRAG2 (63.6), Qwen3-Embedding (53.3) | +11.4% vs HippoRAG2 |
| Platinum不可回答-MuSiQue | 拒绝准确率 (%) | 72.6 | BM25 (78.4), HippoRAG2 (50.3) | +22.3% vs HippoRAG2 |
局限与改进
作者在论文中承认了几个关键局限性。首先，PANINI目前不执行潜在链接缓存或经验驱动的协调：如果某些跨文档关系在推理时频繁出现，记忆可以更新以协调这些链接并进一步降低未来检索成本。其次，虽然开源管道可行，但使用专有模型构建高质量GSW仍然更昂贵，而较小开源模型的可靠性更低；降低写入时成本和提高提取与QA构建的鲁棒性是关键实用目标。第三，虽然轻量级设计避免了繁重的全局协调，但更丰富的协调策略（如使用agent导航GSW并协调实体和链接）可以加强底层结构。 从实验数据观察，GSW构建质量对下游性能有显著影响。Table 11显示，使用Qwen3-8B构建GSW时2Wiki性能55.38%，使用GPT-OSS-120B时70.65%，差距达15.27%。这表明小模型常遗漏关键动词短语节点、未能提取完整事件节点、或生成错误/不完整QA对（见Appendix F.2）。此外，RICR的beam search机制虽然比agentic系统更高效，但仍需要维护多条链（B=5），在极长推理链上可能面临扩展性挑战。论文未详细讨论实时部署场景下的延迟和吞吐量限制，也未探索在叙事密集型或多模态场景（如长视频流）中的应用。
独立分析的弱点
基于独立分析，PANINI存在以下弱点和改进方向： GSW构建成本和质量权衡：Table 15显示，使用GPT-4.1-mini构建MuSiQue（11,656个段落）的GSW成本为$48.02（Batch API），标准API估计$96.04。对于大规模语料库，这可能成为瓶颈。改进方向包括：(1)开发轻量级GSW提取模型，可能通过知识蒸馏从GPT-4.1-mini到小模型；(2)设计增量GSW更新机制，避免全量重建；(3)探索更高效的提取策略，如分层提取或基于模板的快速构建。 跨文档实体协调不足：论文指出GSW在单文档范围内协调实体，跨文档连接在推理时通过RICR动态出现。这意味着频繁出现的跨文档关系每次都需要重新检索。改进方向：(1)实现潜在链接缓存，记录推理时发现的高频跨文档连接；(2)设计轻量级全局实体协调机制，在写入时合并重复实体（如同一人物的不同称呼）；(3)构建实体重要性评分，优先协调hub实体。 推理链长度限制：虽然beam search（B=5）提供了多样性，但论文未讨论极长推理链（>4跳）的性能。Table 13显示beam width=1在多跳任务上显著下降（MuSiQue 44.6% vs 52.3%），表明单一路径在复杂推理上不足。改进方向：(1)设计自适应beam宽度策略，根据查询复杂度动态调整；(2)引入链级缓存，避免重复推理相同子链；(3)探索层次化beam search，在不同抽象级别维护候选。 错误传播鲁棒性：Table 18显示三类错误模式：缺失动词短语节点、QA对构建错误、不完美查询分解。这些错误会沿推理链传播。改进方向：(1)在GSW构建中引入多轮验证，检测和修复结构缺陷（已有two-pass refinement的初步探索）；(2)设计抗噪声的beam search评分，降低早期错误的影响；(3)实现推理链后验证，使用独立模型检查链的逻辑一致性。
未来方向
作者提出的未来研究方向包括：(1)潜在链接缓存和经验驱动协调——如果某些跨文档关系在推理时频繁出现，更新记忆以协调这些链接；(2)降低写入时成本和提高GSW提取鲁棒性；(3)探索GSW作为通用检索基础设施用于多样下游框架。 基于本文成果可延伸的方向包括： 多模态扩展：GSW框架可以扩展到多模态场景，如长视频或流式视频。视频中的实体、时空结构和跨模态事件可能从结构化记忆中获益更多。挑战包括：如何表示视觉实体、如何捕获时序关系、如何处理跨模态共指。 参数化与非参数化学习的协同：论文提到CLS框架认为大脑需要两种互补系统。未来可以探索选择性巩固机制：识别频繁出现或作为hub的实体，将其从GSW编码到LLM参数中。这可以使用GSW分析来指导参数高效微调（如LoRA）的目标选择。 实时持续学习部署：当前系统假设批量构建GSW，未来可以探索流式场景：文档到达时实时构建GSW，增量更新索引，支持在线QA。挑战包括：GSW构建延迟、索引更新成本、一致性保证。 更复杂的推理任务：PANINI主要在fact-centric QA上评估，未来可以探索：(1)数值推理（需要聚合多个事实）；(2)因果推理（需要构建因果链）；(3)对比推理（需要比较多条路径）；(4)反事实推理（需要假设检验）。 隐私保护部署：论文提到开源管道对数据隐私应用很重要。未来可以探索：(1)联邦GSW构建，多个参与方协作构建而不共享原始文档；(2)差分隐私保护，确保GSW不泄露敏感实体信息；(3)本地部署优化，使整个管道在单GPU上高效运行。
复现评估
PANINI的复现评估显示较好的可重复性。开源情况：论文明确提到'Code is available here'，并提供了Appendix D详细描述全开源管道配置。数据：使用与HippoRAG2相同的基准分割（Table 1），包括NQ、PopQA、MuSiQue、2Wiki、HotpotQA、LV-Eval共6个数据集，以及新构建的Platinum评估集（MuSiQue-Platinum 766/153，2Wiki-Platinum 906/94 answerable/unanswerable）。算力需求：Table 19显示MuSiQue（11,656段落）的端到端运行需求——PANINI索引时间100.1分钟，QA延迟3.3秒/查询。GSW构建使用GPT-4.1-mini成本$48.02（Batch API）。使用全开源组件时，Qwen3-8B/14B构建GSW可行但性能下降约10-15%。复现难度：中等。关键挑战包括：(1)GSW构建需要精心设计的prompt（Figure 4约2页详细指令）；(2)RICR实现涉及beam search、双重索引、交叉编码器重排序等多个组件；(3)Platinum评估集需要多agent系统构建和人工审核。论文提供了详细的超参数（Appendix A）、示例trace（Appendix C）和消融研究（Appendix E），降低了复现难度。
论文图表
展示用于从文档构建GSW的详细prompt，包括系统提示（'You are an expert linguist...'）和用户提示（12条详细规则，如原子实体提取、时间规则、缩写处理、两个问题+完整内容、问题格式+ID、通用对象/内容捕获、权威/领导背景、特殊关系、完整内容捕获、实体完整性、强制连通性、文档标题捕获）。每条规则都包含Do/Don't示例。
这个prompt是GSW构建的核心技术细节。理解这些规则对于复现PANINI和改进GSW提取质量至关重要。它解释了为什么GSW能够生成高质量的结构化表示。
展示用于二轮GSW构建的prompt，要求模型审查现有GSW结构，修复错误，添加缺失的实体和动词短语，改进问题质量。包括5条精炼规则：(1)保留正确内容；(2)检查并添加新实体；(3)检查双向QA正确性；(4)按需添加新动词短语；(5)确保实体覆盖。
这个prompt展示了Table 11中two-pass refinement的技术细节。它说明了如何通过迭代改进提升小模型构建的GSW质量，对于在资源受限场景下部署PANINI有实际意义。
展示用于将复杂多跳问题分解为原子子问题的prompt。核心指导是'Build Smart Bridges, Don't Just Collect Nouns'，强调使用已知实体作为上下文找到下一个实体，而非分别收集所有实体再尝试连接。以'What is the phone number of the mother of the tallest player on the Lakers?'为例，展示低效路径（3步）vs高效路径（3步但更直接）。格式要求：每个子问题标注requires_retrieval: True/False。
这个prompt决定了RICR的规划阶段质量。理解分解策略对于多跳推理性能至关重要。它解释了为什么PANINI能够高效处理复杂查询。
展示答案生成模型使用的oracle-style prompt。系统提示要求模型从QA证据中推理，输出'Thought: '后跟推理过程，'Answer: '后跟简洁答案。用户提示提供示例QA对（如'Who directed The Last Horse? A: Edgar Neville'），然后是检索的证据QA对和用户问题。对于Platinum评估，指令包含'If you don't know the answer, say No Answer'。
这个prompt展示了PANINI如何利用检索的QA对生成答案。它说明了为什么紧凑的QA对表示比原始chunk更有效——模型可以专注于原子事实而非冗长上下文。
展示查询'What is the place of birth of the performer of song Changed It?'的完整RICR过程。Step 1: 分解为'Who performed the song Changed It?'和'What is the place of birth of <ENTITY_Q1>?'。Step 2.1 (Hop 1): 检索top-5实体（Changed It, Liar Liar, The Supremes等），重排序后top-5 QA对（第一名：Who performed Changed It? A: Nicki Minaj, Lil Wayne, score 0.8320），beam expansion保留5条链（C1: Nicki Minaj, C2: Lil Wayne, C3: Changed It, C4: No Frauds, C5: Regret in Your Tears）。Step 2.2 (Hop 2): 检索top-5实体（全为Nicki Minaj变体），重排序后top-5 QA对（第一名：Where was Nicki Minaj born? A: Saint James, Port of Spain, score 0.8945），最终链评分0.9315。Step 3: 答案生成'Answer: Saint James, Port of Spain'。
这个trace是理解RICR工作原理的最佳具体示例。它展示了从查询分解到beam search链构建再到答案生成的完整过程，包括中间状态（候选实体、QA对分数、链评分更新）。
展示在MuSiQue数据集（200个问题）上，随着语料库从4K扩展到完整集合（约12K段落），不同方法的F1分数变化。x轴是语料库大小百分比（33.3%到100%），y轴是F1分数（20%到55%）。PANINI保持最稳定性能（约50-52%），而BM25（约25-30%）、BM25+RR（约30-35%）、Qwen3-Embedding（约35-40%）、Qwen3-Embedding+RR（约40-45%）、IRCoT（约35-40%）、Search-R1（约35-40%）都表现出更大下降。
这张图展示了PANINI在持续学习场景下的鲁棒性。当语料库增长但相关证据保持不变时，PANINI的性能下降最小，证明了结构化记忆对分布偏移的弹性。这对实际部署（知识库不断扩展）有重要意义。