面向跨文档检索增强生成的层次化抽象树（Ψ-RAG） Hierarchical Abstract Tree for Cross-Document Retrieval-Augmented Generation

索引阶段：第一步 Similarity ranking——把全部 $n$ 个 chunk 送入 Qwen3-Embedding-8B 得到 $e(D)\in\mathbb{R}^{n\times d_e}$，计算对称相似度矩阵 $S = e(D)e(D)^\top$，按 $S$ 从大到小生成 chunk 对队列。第二步 Iterative merging and collapse——遍历队列，对每对 $(u, v)$：若 $\text{root}(u)$ 和 $\text{root}(v)$ 都不存在，执行 merging 新建抽象节点 $a$ 并令 $c(a)=\{u, v\}$；若一方已有父节点 $p(u)$，执行 leaf collapse 令 $c(p(u)) \leftarrow c(p(u))\cup\{v\}$；若双方各自有抽象节点 $p(u), p(v)$ 且根不同，执行 abstract collapse：若 $\delta(u) = \delta(v)$ 则建新父节点合并两根，若 $\delta(u) > \delta(v)$ 则把 $\text{root}(v)$ 挂到 $p_{\delta(v)+1}(u)$ 之下，对称处理 $\delta(u) < \delta(v)$；共执行 $n-1$ 步把所有节点连成一棵树，再做 rebalance 把子节点过多的内部节点分裂。第三步 Abstraction——对每个抽象节点调用 Llama-3.3-70B 抽象智能体，生成 summative abstract（连贯段落）或 keyword abstract（短语列表），两种模式分别记为 $\Psi\text{-RAG}_A$ 和 $\Psi\text{-RAG}_\emptyset$。第四步同步构建 BM25S 稀疏索引。检索阶段：第一步 Dense top-down retrieval——给定查询 $q$，从根开始按余弦相似度选 top-k 节点 $U_l$，取 $U_l$ 的子节点作为下一层候选，迭代到叶层返回 $D_0^*$。第二步 R&A agent 推理——把 $q$ 与 $D_0^*$ 拼成 prompt 喂给 LLM，输出三元组 $a = (R, \text{\texttt{}}, \cdot)$，若 \texttt{} 则返回 $R$ 中提取的答案。第三步 Iterative retrieval-generation——若 \texttt{}，智能体生成新查询 $q'$，执行查询重写加同位语后做混合检索（reranker 或 RRF 融合树检索和 BM25 检索），得到 $D_i^*$，再让智能体基于 $\cup_{j=0}^i D_j^*$ 重新推理，循环至 \texttt{} 或达到最大步数 $i_\text{max}$。

技术新颖性主要体现在三点：① 算法层面提出"merging + collapse"的三元操作建树算法，把 AHC 的二叉合并范式扩展为可挂载、可坍缩的任意多叉结构，并通过 rebalance 步骤控制每个抽象节点的子节点数；② 理论层面用 Dasgupta 代价给出两个定理（定理 4.3 和 4.4），严格证明 Ψ-RAG 不会产生均匀效应，并且在偏态分布中倾向于把少数类保留为独立子树，定理 4.4 还进一步证明把多数类叶节点移入少数类子树的增量代价严格大于反向操作；③ 系统层面首次把 R&A 智能体 + 查询重写 + BM25 混合检索整合进 Tree-RAG，弥补了 Tree-RAG 在精确实体匹配和顺序因果推理上的先天短板，实验上首次让 Tree-RAG 在 4 个多跳基准上全面超越 Graph-RAG。这些贡献共同使 Ψ-RAG 成为目前唯一一个"All-in-One" Tree-RAG 框架。

独立分析认为 Ψ-RAG 仍存在以下可改进点：① 相似度矩阵是 $n \times n$ 的稠密矩阵，对 100 万 chunk 级别就要占用 TB 级内存，单纯 HNSW 近似会带来 recall 损失，建议用 IVF-PQ 或 DiskANN 这类兼顾内存与召回的工业级 ANN 索引；② 论文默认 top-k 选 5，没有给出 top-k 与 R&A 智能体多轮检索的协同敏感性分析，但 HotpotQA 检索 Recall@5 达 96%、F1 仅 74.85% 表明仍有 ~20% 的 chunk 正确但答案错误，需要在 R&A 智能体的 prompt 工程或 CoT 模板上做更多优化；③ "keyword abstract" 和 "summative abstract" 两种模式差距很小（平均 F1 差 ~0.4），说明抽象阶段的语义收益已被 R&A 智能体部分覆盖，未来可以让智能体自适应选择；④ 树索引不可增量更新——任何新文档加入都需要重建 $S$ 矩阵和全部抽象，对动态语料代价高；⑤ 评测未涉及对抗性查询或长尾事实，对真实工业场景中查询分布偏斜的鲁棒性仍待验证。

作者在文末和附录 E 提出了几个方向：① 用 HNSW + 桶化把 Ψ-RAG 扩展到 10M+ token 工业语料；② 探索更轻量的抽象智能体（如 Qwen3-30B-A3B 类 MoE），在保持 F1 的同时降低抽象时间；③ 在多模态 RAG 上做扩展（树节点是图文混合 chunk）。我基于结果可延伸的方向：① 把 R&A 智能体的"retrieve/answer"动作空间扩展为 function call 风格（多工具调用、规划器+执行器分离），与 LangChain/AutoGen 等智能体框架结合；② 利用 Ψ-RAG 树中每个抽象节点的子节点列表天然形成的"主题-文档"映射做主动学习——对低置信度主题自动生成验证问答；③ 把 Dasgupta 代价作为损失项引入端到端训练，把树结构本身变成可学习的索引；④ 在多语种/中文 RAG 基准（如 C-MTEB、CMRC）上做迁移实验，验证中英文 embedding 在偏态分布下的差异；⑤ 把"查询重写 + 稀疏检索"机制推广到 Graph-RAG，进一步提升多跳召回。

代码完全开源在 https://github.com/Newiz430/Psi-RAG，主要配置如下：嵌入用 Qwen3-Embedding-8B，抽象与 R&A 智能体默认 Llama-3.3-70B（疑似 4-bit 量化版本），reranker 用 Qwen3-Reranker-8B，BM25 用 BM25S 实现。所有数据集（NQ、PopQA、HotpotQA、2Wiki、MuSiQue、MultiHop-RAG、NarrativeQA、∞-LongBook、QMSum、WCEP）均为公开学术基准，作者从 HippoRAG 2 仓库沿用了统一的 1000 条查询采样。训练上无任何微调，是纯 zero-shot 推理框架。算力门槛：70B 模型至少需要 4 张 A100/H100 推理，MuSiQue 全流程索引 + 评测约需 12-15 小时单卡 4-bit 推理（按 8 卡估算）；若改用 L3-8B + G3-27B + BGE 轻量组合，索引时间可压缩到 2,487 秒、单卡即可跑通。复现难度中等偏低——没有自定义算子，依赖 vLLM/transformers 标准推理栈，主要风险是 70B 智能体的推理随机性和 BM25S 缓存策略在不同硬件上的细微差异。