ANTMAN:大信息空间中基于自适应需求追踪的多智能体导航 ANTMAN: Adaptive Need Tracking for Multi-Agent Navigation in Large Information Spaces
以未解需求为协调单元,让多智能体协调成本跟随查询需求而非信息空间规模增长。
前置知识
多智能体 LLM 协作(分区驱动范式)
把一个大任务交给多个由 LLM 驱动的 agent 分工完成:通常有一个编排器负责拆解和分派,多个工人 agent 各处理一部分输入或功能。LongAgent 把长文档切成固定大小的块,每块配一个成员 agent;Chain of Agents(CoA)让一串工人接力处理分段长上下文。这类设计的隐含代价是:工人数量随输入分块数线性增长,信息空间越大、要养活的 agent 越多。
本文批判的正是这种'按空间分区建工人'的组织方式,理解它的成本结构才能看出 ANTMAN 的本质区别。
迭代式检索增强生成(Iterative RAG)
传统 RAG 一次性检索后作答;迭代式方法(DRAGIN、KiRAG、SelfRACG、S2G-RAG 等)让模型在推理过程中多轮检索,根据已积累的证据动态判断还缺什么信息、下一步查什么。其中 S2G-RAG 会显式生成'信息缺口'结构化条目作为下一轮检索查询,是与本文最接近的检索侧基线。
ANTMAN 把'信息缺口驱动检索'的思想从检索层提升到多智能体协调层——缺口不仅决定查什么,还决定派谁去查。
Lost in the Middle(长上下文位置偏差)
Liu 等人 2024 年发现:即使相关证据完整放进上下文,LLM 对出现在上下文中部的信息利用率显著低于开头和结尾,性能随位置呈 U 形。这说明单纯扩大上下文窗口并不能可靠提升信息利用,证据位置本身就是干扰因素。
ANTMAN 的选择性搜索天然缩小每个 worker 处理的上下文,论文用位置鲁棒性实验(Table 6)验证这能消除中部塌陷。
大海捞针评测(Needle-in-a-Haystack)
在超长无害文本中埋入关键信息(针),要求模型据此作答,以测试长上下文检索能力。本文使用 LongAgent 提出的多针扩展版(PLUS):在 32K–512K 语料中埋入多个证据单元,并控制证据出现在 Early/Middle/Late 三种位置,从而在保持信息需求近似固定的前提下隔离'空间增长'这一变量。
论文最核心的受控扩展实验(RQ1、Table 3、Figure 3)完全建立在这一评测协议之上。
互逆排名融合(RRF)
一种无需训练的多路检索结果融合方法:把稀疏词法检索(如 BM25)、精确词匹配、稠密向量检索各自给出的排名列表合并,每个文档的融合得分为各列表中排名倒数的加和 $\sum_i \frac{1}{k + r_i}$,排名越靠前贡献越大,广泛用于混合检索系统。
ANTMAN 两阶段路由的第一阶段就是用稀疏+精确+稠密检索加 RRF 对 WorkerCard 排序,理解它有助于复现路由模块。
研究动机
信息搜索型 agent 越来越多地在远超单模型上下文窗口的大型信息空间中找证据。主流多智能体方案按'空间分区'组织计算:LongAgent 把长文档切成固定大小块、每块配一个成员 agent,CoA 让工人接力处理分段上下文。这种设计减轻了单个 worker 的上下文负担,但也把协调规模和空间的切分方式绑死——只要底层信息需求不变,把可搜索语料从 32K 扩到 512K(16 倍),LongAgent 的成员 agent 就要从 19 个涨到 290.5 个,单查询模型调用从 22.83 次涨到 292.5 次,成本从 $0.098 涨到 $1.397。论文指出这是'协调随空间而非随查询需求增长'的结构性错配:查询需要的信息量没变,凭什么多雇 15 倍的工人?把全部上下文塞给单一模型也不可行——除了成本,还有 lost-in-the-middle 问题:32K 条件下证据位于中部时,全上下文推理的 F1 从 .911(Early)跌到 .590(Middle)。
本文的目标是本文要构造一个协调框架,使运行时协调的规模和方向由'查询还缺什么信息'决定,而不是由'信息空间有多大、怎么切分'决定。具体拆成三个可检验的子目标:(1) 在标准多文档 QA(HotpotQA、2Wiki、MuSiQue)上答案质量不输专门的检索系统,证明需求驱动协调不掉质量;(2) 在受控扩展实验中,当信息空间扩大 16 倍(32K→512K)而信息需求近似固定时,活跃协调(被激活的 worker 数)接近常数,且答案质量稳定;反之当空间固定、需求增加时,协调应主动投入更多计算;(3) 同一套协调机制不经针对性改造就能迁移到代码仓库(RepoProbe、SWE-QA-Pro)和网络工具(GAIA)等异构信息底座,并把非编排器组件换成 8B 小模型后仍保留大部分性能。
与已有工作不同的是,已有工作分两条互不连通的线。一条是自适应信息获取(DRAGIN、KiRAG、SelfRACG、S2G-RAG):根据执行中产生的信息缺口调整'下一步检索什么',但只作用于检索层,不决定哪些 worker 参与计算、计算量多大。另一条是自适应多智能体协调(DyLAN、OWL、Agent-Dropout 等):动态调整计算如何分配,但缺少一个显式的、随证据演化而修订的'未解需求'状态来驱动调整。ANTMAN 的独特切入是把两条线接起来:用一个显式可修订的 Need Graph 作为运行时控制状态,让它同时决定检索方向、worker 激活、路由和恢复策略。消融证明这不是泛泛的'自适应重规划'能替代的——把显式需求状态换成无图的通用自适应控制,512K 条件下 F1 相对掉 23.82%,GAIA 掉 16.67%。
核心方法
直觉上,ANTMAN 像一个侦探办案:先拿到辖区地图(把信息空间切成 $M$ 个'领地',每个领地配一张摘要卡),再在线索板上维护一张不断更新的'未解之谜清单'(Need Graph);每一步挑一个最该查的疑点,派一个熟悉对应辖区的人去查,查完回来更新线索板——有的谜团告破,有的要重新表述,有的还牵出新疑点;查不动了就换辖区、换问法或走备用路径。技术上分三块:(1) 静态底座地图:确定性划分领地并生成 WorkerCard;(2) 可修订 Need Graph:$G_t = (N_t, \Delta_t)$,其中 $N_t$ 是需求节点集、$\Delta_t$ 是节点间依赖,每个需求节点携带解决状态、已积累证据、尝试历史和进度;(3) 需求条件化协调循环:选择—路由—执行—更新—恢复。框架与具体信息底座解耦,同一套协调逻辑可套在文档集、代码仓库或 Web 工具上。
核心创新是把'演化的未解信息需求'本身当作运行时协调的控制状态与协调单位。与 LongAgent/CoA 等分区驱动方式的本质区别在于:分区方法在任务开始时按空间切分实例化全部工人并使其参与,协调量满足 $|A_{partition}(q)| = \Theta(M)$,与分区数线性相关;ANTMAN 中 $M$ 个领地只是'可用候选池',worker 只有在被某个未解需求选中并派发时才激活。论文证明了空间解耦界(Box 1):$|A(q)| \le \min\{M, \rho H(q)\}$,其中 $H(q)$ 是任务全程实现的需求节点数、$\rho$ 是单个需求的最大路由尝试次数。当需求有界 $H(q) \le \bar{H}$ 且 $\rho$ 与 $M$ 无关时,$|A(q)| \le \rho \bar{H} = O(1)$——扩大信息空间不会结构性迫使协调增长。Need Graph 的每个需求 $n$ 携带四元组状态 $z_t(n) = (s_t(n), E_t(n), H_t(n), p_t(n))$:解决状态、已积累证据、尝试历史、当前进度;更新算子 $G_{t+1} = U(G_t, r_t)$ 可解决、保留、重构或新增需求及依赖。这与'固定任务分解'的根本不同在于:图在执行中是非线性演化的,新需求可能在中间证据出现后才产生。
方法步骤详情
完整流程(Algorithm 1)如下。第一步,用底座特定的划分过程 $P$ 把信息空间 $I$ 切成 $M$ 个领地 $T = P(I) = \{\tau_1, \dots, \tau_M\}$,并为每个领地生成轻量元数据 WorkerCard $c_i = \mathrm{Card}(\tau_i)$,概括其范围与内容;整个执行期保持不变。第二步,编排器根据查询 $q$ 初始化 Need Graph $G_0$。第三步进入主循环:用 $\mathrm{Select}(G_t)$ 选出一个未解需求 $n_t$;两阶段路由——先用非 LLM 检索(稀疏词法匹配 + 精确词匹配 + 稠密相似度,经 RRF 融合)对 WorkerCard 排出有界候选集,再由编排器结合 $G_t$ 的运行时状态决定是否派发及派给谁,得 $i_t = \mathrm{Route}(n_t, G_t, C)$;随后 $\mathrm{Exec}(w_{i_t}, n_t, \tau_{i_t})$ 让该 worker 在领地内做有界局部搜索,返回含证据、进度和剩余不确定性的结构化报告 $r_t$。第四步,$G_{t+1} = U(G_t, r_t)$:把需求标记为已解决/未解决,或把失败需求重构为更具体的 $n'$,或依据新证据引入新需求与依赖。第五步,若 $\mathrm{Stuck}$ 检测到停滞,触发任务局部恢复:Reframe(重构需求表述)、Reroute(标记换领地重派)或 Fallback(备用求解路径)。最后选出已解决需求上的证据做最终合成。底座接口按场景定制:长上下文用词法+语义检索加有界阅读,仓库场景增加符号/导入/引用/继承/调用关系导航,GAIA 用 Web 搜索(Tavily)+网页抽取+隔离 Python 执行。
技术新颖性
技术新颖性有三层。其一,状态表示:不同于 S2G-RAG 把'缺口'当作一次性的下一轮检索查询,ANTMAN 的 Need Graph 是持久、可修订、带依赖结构的图,需求可分支、依赖和重构;消融显示去掉修订能力在 GAIA 上相对掉 29.17%,去掉恢复机制在 512K 上掉 28.45%,说明各机制缺一不可。其二,控制范围:需求状态不只决定'下一步检索什么',还决定哪些 worker 激活、路由到哪个领地、何时终止——这是把自适应信息获取和自适应多智能体协调两条研究线统一起来的关键一步(Table 1 显示 ANTMAN 是唯一同时满足'显式演化需求状态、需求驱动协调范围、空间解耦协调'三项的方法)。其三,结构性保证:Proposition 1 把活跃协调约束为 $|A(q)| \le \min\{M, \rho H(q)\}$ 并对比分区方法的 $\Theta(M)$,把经验观察上升为架构性质。此外,编排器(GPT-4.1)与工人解耦后,工人可换成 Qwen3-8B 而性能保留 89.2%–98.3%,验证了'协调智能在编排器、执行可下沉'的设计。
实验结果
论文做了四组实验。第一组,标准多文档 QA(每基准 30 题、共 810 个预测、全线 GPT-4.1):ANTMAN 平均 EM .711 / F1 .814 为最佳,优于最强检索基线 S2G-RAG 的 .700/.799 和多智能体基线 CoA 的 .567/.743、LongAgent 的 .433/.616;HotpotQA 上 EM .700/F1 .842、MuSiQue 上 EM .667/F1 .777 均第一,2Wiki 上 EM .767/F1 .823 仅次于 S2G-RAG 的 .800/.858。第二组,受控空间扩展(10 题 × Early/Middle/Late 三位置,32K→512K):空间扩大 16 倍时 ANTMAN 活跃协调仅从 2.57 涨到 3.17 个 worker(1.23 倍),调用 27.47→33.10(1.21 倍),而 LongAgent 活跃协调涨 15.29 倍到 290.5 个成员、成本 $1.397/查询,CoA 涨 15.33 倍到 78.2 个;同时 ANTMAN 的 F1 从 .775 升到 .840,高于 LongAgent 的 .754 和 CoA 的 .746,即更省的同时更准。第三组,受控需求扩展(固定 512K,需求 1→4→16 个证据单元):活跃协调 5.0→4.3→8.0,调用 35.5→86.2,成本 $0.107→$0.293,三个级别的证据完整率与答案准确率均为 100%;轨迹诊断显示 1 单位需求时 82%(4.1/5.0)的工人活动是与证据无关的探索开销,16 单位时 8.0/8.2 几乎全部对准证据——说明低需求时协调略多源于探索固定开销,而非机制失效。第四组,真实结构化导航:RepoProbe-Python 上 ANTMAN 得 38.21,比最强非基准特定基线(迭代稀疏检索 33.15)相对高 15.3%;SWE-QA-Pro 上 79.78,超过基准专用 SWE-QA-Pro Agent 的 77.58 和 ReAct+RepoGraph 的 67.38(相对最强非基准特定基线 +18.4%);GAIA-Text-103 上总体 58.3(相对最强非基准特定基线 +27.9%),其中 L3 难度 41.7 远超 OWL 的 8.3。换 Qwen3-8B 工人后,ANTMAN-H 在三个基准上分别保留 89.2%/93.5%/98.3%。消融证实显式需求状态必要:Graph-free Adaptive 在 512K 上 F1 仅 64.01(相对掉 23.82%)、GAIA 50.00(掉 16.67%);Static ANTMAN 在 512K 上掉 52.02%。位置鲁棒性上,全上下文推理的中部缺口为 −.181(典型 lost-in-the-middle),ANTMAN 仅 +.015。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 多文档 QA(HotpotQA/2Wiki/MuSiQue 宏平均) | EM / F1 | ANTMAN .711 / .814 | S2G-RAG .700/.799;CoA .567/.743;LongAgent .433/.616 | EM +.011、F1 +.015(对最强基线 S2G-RAG) |
| 受控空间扩展 32K→512K(多针检索 QA) | 活跃协调增长倍数 | 1.23×(2.57→3.17 workers) | LongAgent 15.29×;CoA 15.33× | 协调增长约为基线的 1/12 |
| 受控空间扩展 512K 端点 | F1 / 单查询成本 | .840 / $0.533 | LongAgent .754 / $1.397;CoA .746 / $1.303 | F1 +.086/+.094,成本约为基线 40% |
| RepoProbe-Python(108 题、8 个仓库) | 归一化分数(0-100) | 38.21 | 迭代稀疏检索 33.15(最强非基准特定基线) | 相对 +15.3% |
| SWE-QA-Pro(80 题冻结子集) | 归一化分数(0-100) | 79.78 | 基准专用 Agent 77.58;ReAct+RepoGraph 67.38 | 相对最强非基准特定基线 +18.4%,并超过基准专用参考 |
| GAIA-Text-103(按难度分层) | 准确率(%) | 总体 58.3,L3 41.7 | OWL 40.8(L3 8.3);迭代稀疏检索 45.6 | 相对最强非基准特定基线 +27.9%,L3 提升 33.4 个点(对 OWL) |
| 小工人模型(ANTMAN-H,Qwen3-8B 工人 + GPT-4.1 编排器) | 相对完整 ANTMAN 的性能保留率 | RepoProbe 89.2% / SWE-QA-Pro 93.5% / GAIA 98.3% | 完整 ANTMAN(GPT-4.1 全组件) | 8B 工人保留约九成以上性能 |
| 证据位置鲁棒性(32K-128K,Early/Middle/Late) | 中部位置缺口 $M - \frac{1}{2}(E+L)$(F1) | +.015 | 全上下文直接推理 −.181 | 消除 lost-in-the-middle 式中部塌陷 |
局限与改进
作者承认并可从数据读出的局限:(1) 成本并非完全常数——32K→512K 期间 ANTMAN 单查询成本仍涨 6.90 倍($0.077→$0.533),虽远低于基线的 14–16 倍,说明 worker 报告与编排上下文仍随空间膨胀;(2) 空间解耦声明有边界——附录 A.1 明确承认两阶段路由第一阶段(对 WorkerCard 的稀疏/稠密检索)计算量仍随领地数 $M$ 增长,解耦的只是'多智能体协调'而非全部检索计算;(3) 机制在不同底座上贡献不均——GAIA 只有单一领地型 worker,自适应重路由在该设置下完全不起作用(消融 0 变化);(4) 评测规模偏小:多文档 QA 每基准仅 30 题,SWE-QA-Pro 用 80 题冻结子集,GAIA-Text-103 共 103 题,小样本下 EM 差距 .011 量级的结论稳健性存疑;(5) 受控扩展用合成多针任务,能否代表真实长文档分布未验证;(6) ANTMAN-H 在 MuSiQue(F1 .651 对完整版 .777)和 GAIA L3(25.0 对 41.7)退化明显,困难多跳任务仍依赖强工人模型。另外 RepoProbe 诊断显示 ANTMAN 单查询成本 $0.299,约为 S2G-RAG($0.179)的 1.7 倍——质量提升伴随可观的成本上升。
独立分析的弱点
独立分析几点弱点。第一,Need Graph 的更新算子 $U$、需求选择与路由均由 LLM(GPT-4.1)完成,编排器是单点:一旦早期把需求分解错或路由偏了,后续所有 worker 都在错误方向上烧预算;论文未分析图更新错误的级联率,改进方向是对 resolved 判定做证据回溯校验,或对关键决策做自我一致性采样。第二,WorkerCard 完全静态:领地划分 $P$ 与卡片摘要生成后即冻结,若某证据横跨多个领地或卡片摘要误导(如代码库中一个功能分散在多个模块),路由第一阶段就会被带偏;可在执行期增量更新卡片,或在需求跨领地时动态重划。第三,成本瓶颈转移而非消失:512K 下成本仍涨 6.9 倍,说明报告聚合与编排上下文管理是下一个瓶颈,可借鉴 RepoDistill 的预算分配思路对 Need Graph 本身做分层压缩。第四,协调严格串行——每步最多激活一个 worker,长需求链会拉高延迟;Need Graph 天然表达依赖,自然延伸是识别无依赖的需求子图并行派发并控制总预算。第五,统计功效不足(每基准 30 题、部分消融仅 40 题 GAIA 子集),建议扩大题量或报告 bootstrap 置信区间。第六,两阶段路由第一阶段的检索器配置(词法+稠密+RRF 的具体权重与候选截断)论文未给细节,弱检索器底座上路由质量如何退化需要敏感性分析。
未来方向
作者在结论中提出三个方向:扩展到更丰富的信息底座(隐含多模态、数据库、API 文档)、发展更可迁移的需求表示、改进需求修订与路由策略。基于本文成果还可延伸:(1) 学习化协调——目前 Select/Route/$U$ 全是提示工程,可用轨迹数据训练小型路由与图更新模型,把编排器也从 GPT-4.1 下沉到开源模型;(2) 并行需求执行——按 Need Graph 的依赖结构做 DAG 调度,在预算约束内并行激活无依赖需求以降延迟;(3) 与上下文压缩结合——对已解决需求的证据做增量摘要,正面缓解 6.9 倍的成本增长;(4) 把 Need Graph 作为可解释界面——向用户展示哪些需求未解、证据链如何支撑答案,用于高风险场景的可审计信息检索;(5) 跨底座需求迁移——同一查询在文档/代码/Web 底座间切换时复用图结构,检验需求表示的真正通用性。
复现评估
复现难度中等偏上但可行。有利条件:所有评测基准公开(HotpotQA、2WikiMultiHopQA、MuSiQue、RepoProbe-Python、SWE-QA-Pro、GAIA-Text-103);模型是商用 API 加开源小模型(GPT-4.1 做编排器与基线,Qwen3-8B 可本地部署);核心提示词在附录 E 给出(Need Graph 构建与合并、worker 行动规划、证据选择、需求解决判定);工具栈简单(检索+有界阅读,GAIA 用 Tavily 搜索+网页抽取+隔离 Python);论文还给出详细执行诊断(各变体的调用数、成本、活跃协调),便于对账。不利条件:截至阅读时未见官方代码开源(Preprint. Under review);领地划分 $P$、WorkerCard 生成和两阶段路由的检索器配置只有文字描述,需自行实现;完整复现 9 个基线 × 多基准的 API 开销不小,但按论文报告的单查询成本(ANTMAN 约 $0.08–$0.53/查询)估算,只跑三个核心受控实验(各约 30–120 题)在几十美元量级。建议优先复现受控扩展实验,它对超参最不敏感、结论最稳。
论文图表
在 32K/128K/512K 三个信息空间尺度上对比 ANTMAN、LongAgent、CoA:柱高表示单查询推理成本,气泡面积表示活跃协调(激活的 worker 数),标注给出模型调用次数;附表报告三方法从 32K 到 512K 的增长倍数。ANTMAN 活跃协调仅 1.23×(3.17 workers、$0.533),LongAgent 涨到 290.5 个成员、$1.397,CoA 78.2 个、$1.303。
全文核心卖点的可视化:一张图看清'协调随需求而非空间增长',以及质量-成本-规模三方对比,是理解论文动机的最快入口。