SearchSwarm：面向智能体 LLM 长周期深度研究的委托智能 SearchSwarm: Towards Delegation Intelligence in Agentic LLMs for Long-Horizon Deep Research
通过训练委托智能让 LLM 代理在长周期任务中有效管理有限上下文
前置知识
ReAct 框架
ReAct（Reasoning + Acting）是一种大语言模型与工具交互的框架范式。在每个交互轮次中，模型首先进行内部推理，分析当前证据、识别信息缺口、评估假设的合理性并规划下一步行动，然后执行相应的工具调用。这个过程形成 Thought-Action-Observation 的循环，使模型能够通过多轮交互逐步推进任务。ReAct 框架将推理与行动显式分离，提高了模型的可解释性和可控性。
本文采用 ReAct 框架来组织代理与环境的交互，理解这个框架是理解整个方法的基础，包括主代理如何分解任务、子代理如何执行子任务等核心机制。
上下文窗口
上下文窗口是大语言模型在单次推理中能够处理的输入输出 token 总量的硬性限制。当任务的上下文需求超过这个限制时，模型必须丢弃部分信息。传统的上下文管理方法包括在超过长度阈值后压缩交互历史，或者只保留部分工具输出等。这些方法本质上是被动的，缺乏前瞻性规划。上下文窗口是当前 LLM 系统面临的基本约束，任何面向长周期任务的系统都必须解决这个核心矛盾。
本文的核心动机正是解决上下文窗口有限与长周期任务信息需求无限之间的根本矛盾。理解上下文窗口的限制是理解为什么需要委托智能的关键。
监督微调（SFT）
监督微调是指使用标注好的示例数据，通过标准的 next-token prediction 损失函数对预训练模型进行进一步训练的过程。在本文的训练目标中，损失函数为 L = -Σt=1 to T Σj=1 to |at| log pθ(at(j) | at(<j), τ<t)，其中 τ<t 是之前的上下文。训练时对所有环境返回 ot 进行掩码，只计算模型输出 at 的损失。这样模型学习的是在给定观察上下文的情况下产生适当的推理和工具调用，而不是记忆环境内容。
本文使用监督微调将委托行为内化到模型权重中。理解 SFT 的原理和实现细节对于理解如何从推理轨迹中提取训练数据并训练模型至关重要。
研究动机
大语言模型被越来越多地部署为代理，用于处理复杂的、长周期的现实世界任务。这些任务的上下文需求可能无限增长，但模型的上下文窗口是固有有限的。早期的上下文管理方法包括在超过长度阈值后压缩交互历史，或者只保留部分工具输出等。这些方法本质上是被动的，缺乏前瞻性规划。例如，在深度研究任务中，模型可能需要数十轮搜索和网页访问才能找到所需信息，而每一步的原始输出都会占用宝贵的上下文空间。当上下文预算耗尽时，模型只能被强制给出最终答案，导致信息收集不充分、推理不完整，严重影响任务完成质量。
本文的目标是本文的目标是探索如何让大语言模型获得委托智能：主代理能够分解复杂任务，确定何时委托以及委托什么，并将返回的结果整合到正在进行的工作流程中。作者希望构建一个系统能够在深度研究这一代表性的长周期代理任务上取得优异表现。通过设计一个能够引导模型产生高质量委托行为的 harness，然后将这些轨迹作为监督微调数据，将委托行为内化到模型权重中，最终得到一个能够智能管理有限上下文的模型。
与已有工作不同的是，虽然委托智能的概念在直觉上是合理的，但实现起来并不简单。训练开发委托智能的数据在自然文本中非常稀缺，因为自然语料很少表现出显式的多代理协调。据作者所知，如何系统性地合成这样的数据并训练模型获得这种能力，在开源社区中仍然很大程度上未被探索。与相关工作（如 Agent Swarm 使用强化学习训练主代理、主分配子执行框架）不同，本文提供了覆盖 harness 设计、训练数据构建和模型训练的完整配方，而不是仅仅关注高层架构和训练算法。
核心方法
SearchSwarm 遵循主分配子执行的范式：主代理规划和委托有界的子任务给独立的子代理，然后整合它们的压缩报告。整个系统使用相同的模型，子代理是在独立的新鲜上下文中调用的同一模型实例，而不是额外的模型。当调用 call_sub_agent 时，下一个推理步骤只依赖于简报 b，而不是完整的历史 Ht-1，只保留代理认为对子任务必要的信息；执行完成后，重新进入主上下文的是报告 r，是整个子轨迹的压缩总结。与之前上下文管理方法的本质区别在于，模型使用模型生成的简报和报告作为内容感知的压缩，而不是固定规则的截断或摘要。
核心创新点是设计了一个系统性的 harness，通过四个设计原则引导大语言模型产生高质量的委托行为：鼓励委托（主代理应该将多步信息收集委托给子代理，因为这些工作 token 昂贵但认知浅层）、全面简报（简报不仅要描述子任务，还要说明为什么这个子任务对整体问题重要、已经建立了什么、什么仍然不确定、尝试过或排除了哪些方向）、主代理保留核心判断（所有方向决策由主代理独立做出，包括追求哪个假设、何时终止调查、如何裁决冲突的报告）、基于引用的报告（子代理报告必须附带内联引用，指向具体的源 URL，使主代理能够验证报告发现的可靠性）。与相似工作不同，作者要求主代理在简报中不仅提供任务描述，还要提供理由，包括为什么子任务重要以及它如何融入更广泛的研究目标，使子代理能够进行专注的研究而不进行冗余探索。
方法步骤详情
方法分为三个主要步骤。第一步是 harness 设计，定义工具集和系统提示。主代理配备标准信息检索工具和 call_sub_agent 委托工具，子代理配备相同的标准工具但没有访问 call_sub_agent，限制委托到单一层级。在推理时，主代理通过 call_sub_agent 工具提交简报，子代理在独立上下文中执行并返回报告。第二步是数据收集，从开源 RedSearcher 和 OpenSeeker 数据集中获取查询。模型在这些查询上执行深度研究任务，在 harness 指导下记录完整的执行轨迹，包括思维、工具调用和环境返回。使用两种配置：单一模型同时作为主代理和子代理，更强的模型作为主代理配对较弱的子代理（迫使主代理对研究主线进行更严格的控制，产生更深思熟虑的任务分解和更严格的结果验证）。第三步是监督微调，通过环境掩码的 next-token prediction 对基础模型进行微调。损失函数只计算模型输出，环境返回被掩码。主代理上下文窗口设置为 128K token，子代理设置为 64K。
技术新颖性
技术新颖性体现在多个方面。首先，据作者所知，这是首批探索长周期代理任务委托智能的开源工作之一，设计了完整的主分配子执行范式 harness。其次，本文提出了系统的训练数据合成方法，使用 harness 引导的轨迹作为监督微调数据，将委托行为内化到模型权重中。实验证明，仅依靠 harness 而不进行微调（Tongyi DR Swarm）无法产生委托行为，模型从不调用 call_sub_agent 工具。第三，作者展示了委托智能在不同设置下的泛化能力：在单代理设置中（禁用 call_sub_agent）仍显著优于基础模型，在开放式深度研究任务上也表现优异，尽管训练数据仅包含短答案深度研究查询。这表明训练数据中编码的结构化调查模式在特定委托范式之外也具有价值。最后，作者开源了完整的 harness、模型权重和训练数据，为未来研究提供了完整配方。
实验结果
SearchSwarm 在所有四个基准测试中均达到了 30B-A3B 规模模型的最先进性能，并在某些测试中与规模大 10 倍以上的模型竞争。在 BrowseComp 上达到 68.1 分，超过了基线 MiroThinker-1.7-mini（67.9），与 DeepSeek V3.2（671B-A37B）的 67.6 分相当，超过了 GPT-5.2-Thinking 的 65.8 分。与无上下文管理的基础模型相比（43.4 分），取得了 24.7 分的绝对提升，证明了委托智能的巨大影响。在 BrowseComp-ZH 上达到 73.3 分，超过 MiroThinker-1.7-mini（72.3）。在 GAIA 上达到 82.5 分，超过 MiroThinker-1.7-mini（80.3）、GPT-5（76.4）和 Seed-2.0-Pro（78.6），仅次于 Step-3.5-Flash（84.5）。在 xbench-DeepSearch-2505 上达到 80.8 分，超过 LongSeeker（78.0）和 Tongyi DeepResearch（75.0）。消融实验验证了 harness 的有效性：在 200 问题子集上，DeepSeek V3.2 在原始 Tongyi DeepResearch 框架下得分 47.7，仅添加 call_sub_agent 工具工具描述得分 50.0（+2.3），使用完整 harness 得分 57.7（+10.0）。行为分析确认模型在完整 harness 下子代理调用频率显著增加。在不同基础模型上的训练证明训练数据质量：Qwen3-30B-A3B-Thinking-2507 在相同数据上训练后达到 BrowseComp 66.5 分和 BrowseComp-ZH 64.0 分，超过了 RedSearcher 和 LongSeeker 在各自最佳上下文管理配置下的结果。泛化性实验表明，在单代理设置中（禁用 call_sub_agent），模型在 BrowseComp 子集和 BrowseComp-ZH 上分别达到 52.0 和 53.3，优于 Tongyi DeepResearch（43.5 和 46.5）。在开放式深度研究基准上（ScholarQA-v2、HealthBench、ResearchQA、DeepResearchBench），平均得分 64.2，接近 OpenAI DeepResearch（64.9），超过 Perplexity DeepResearch，在开源模型中仅次于 Dr.Tulu（65.6），大幅超过 WebThinker-32B-DPO（50.2）。工具使用分析显示主代理主要作为协调者，call_sub_agent 是最频繁调用的工具，在 BrowseComp 和 BrowseComp-ZH 上超过 70%，在 GAIA 和 xbench 上占 43-51%。主代理直接使用工具时，visit 工具相对 search 工具不成比例地突出，反映了验证导向的行为。子代理则相反，search 工具持续占主导地位（46.5-76.6%），反映了探索性检索的角色。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| BrowseComp | 分数 | 68.1 | MiroThinker-1.7-mini: 67.9 | +0.2 |
| BrowseComp-ZH | 分数 | 73.3 | MiroThinker-1.7-mini: 72.3 | +1.0 |
| GAIA | 分数 | 82.5 | MiroThinker-1.7-mini: 80.3 | +2.2 |
| xbench-DeepSearch-2505 | 分数 | 80.8 | LongSeeker: 78.0 | +2.8 |
| BrowseComp vs 无上下文管理 | 分数 | 68.1 | Tongyi DeepResearch: 43.4 | +24.7 |
| BrowseComp vs 更大规模模型 | 分数 | 68.1 (30B-A3B) | DeepSeek V3.2: 67.6 (671B-A37B) | 相当规模10倍以上 |
| BrowseComp vs GPT-5.2-Thinking | 分数 | 68.1 | GPT-5.2-Thinking: 65.8 | +2.3 |
| 开放式深度研究（平均） | 分数 | 64.2 | Tongyi DeepResearch: 50.0 | +14.2 |
局限与改进
作者承认的局限性包括：这是一个针对深度研究的初步探索，委托智能在其他类型的长周期任务（如多步骤编程、复杂决策制定）中的适用性尚未验证。子代理调用仅限于单一层级，不支持更深层级的嵌套委托，这在某些场景下可能是必要的。资源限制导致在某些开放式深度研究基准上只能评估 200 问题子集（HealthBench 和 ResearchQA），可能不足以全面评估模型性能。我们观察到的另一个潜在局限性是，虽然模型学会了频繁调用子代理，但如何平衡委托的粒度和子代理报告的质量仍然是一个开放问题——过细的委托可能导致上下文碎片化，过粗的委托则可能失去上下文压缩的好处。此外，当前的实现要求子代理报告必须包含源引用，这在某些类型的查询（如需要综合多个来源形成结论的复杂推理）中可能过于严格，可能限制子代理的表达灵活性。最后，虽然本文展示了在单代理设置和开放式任务上的泛化性，但这种泛化能力的边界和适用条件仍需进一步研究。
独立分析的弱点
当前实现存在几个可以改进的方面。首先，单一层级的委托限制可能过于保守，在处理非常复杂的研究任务时，允许子代理进一步委托给孙代理可能提高效率，例如在需要并行探索多个子子研究方向时。改进方向是实现动态层级控制，根据任务复杂度和当前上下文压力自动决定委托深度。其次，简报的质量对子代理性能至关重要，但当前系统没有验证简报质量的机制。改进方向是引入简报质量评估，例如通过自我反思或辅助模型检查简报是否包含必要的上下文信息。第三，当前的强制答案机制在上下文超过限制时触发回滚并要求模型立即给出最终答案，这可能导致不完整的推理。改进方向是实现更优雅的上下文管理策略，例如在接近限制时优先压缩最不相关的信息，或者允许模型选择性地保留关键证据片段。第四，子代理报告的引用要求虽然增强了可验证性，但可能抑制了合理的推断和综合。改进方向是允许两类引用：直接引用用于明确的事实，推断标记用于基于证据的合理推理。最后，当前系统没有处理子代理失败的情况，当子代理报告质量不佳或与主代理的假设冲突时缺乏明确的恢复策略。改进方向是引入子代理报告质量评估和重试机制，当报告不合格时自动重新委托给不同的子代理或调整简报。
未来方向
作者提出的未来工作方向包括：将委托智能扩展到其他类型的长周期代理任务，如多步骤编程、复杂决策制定和长期规划等，验证框架的泛化性。探索更深层次的嵌套委托架构，允许子代理进一步委托给孙代理，并研究如何控制委托深度和宽度。基于本文提供的开源数据，社区可以探索不同的训练方法，如强化学习、对比学习或人类反馈强化学习（RLHF），以进一步优化委托行为。可以研究如何自动化简报质量评估，确保子代理获得足够的上下文，同时避免信息过载。另一个方向是探索跨模型的委托系统，其中主代理可以选择不同能力的子代理来执行不同类型的子任务，例如使用更强的模型进行复杂推理，使用更快的模型进行简单检索。基于本文发现的委托智能在单代理设置和开放式任务上的泛化性，可以进一步研究这种泛化的本质——哪些模式是通用的，哪些是任务特定的。还可以探索如何将委托智能与其他上下文管理技术结合，例如选择性记忆机制、动态重要性评估等，形成更全面的上下文管理系统。最后，可以研究委托智能的计算效率，例如通过预测哪些任务值得委托、如何并行化子代理执行来减少总延迟等，这对于实际部署至关重要。
复现评估
论文承诺开源完整的 harness、模型权重和训练数据，这对复现性非常有帮助。训练数据来源包括开源的 RedSearcher 和 OpenSeeker 数据集，这些数据集可以公开获取。模型训练使用基础模型 Tongyi DeepResearch-30B-A3B，这个模型是开源可获取的。训练配置细节包括：批大小 128，学习率从 5e-5 到 1e-6 的余弦衰减，推理时温度 0.85、top_p 0.95、presence penalty 1.1。主代理最大上下文长度 128K token，子代理 64K token，每轮最大生成长度 8K token。使用的工具包括：Serper API 进行搜索（每次查询返回 10 个结果）、Jina 进行网页内容提取、Python 解释器用于数值计算和数据处理。评估方法使用 DeepSeek-V4-Flash 作为判断模型，并手动验证其判断的正确性。对于 BrowseComp-ZH，使用美团 LongCat 团队提供的修正版本。从资源需求来看，30B-A3B 规模的模型训练需要相当大的 GPU 资源，但推理阶段资源需求相对可控。由于论文承诺开源所有组件，复现的难度主要在于计算资源。对于没有大型 GPU 资源的研究者，可以尝试使用更小的基座模型在相同的训练数据上进行微调，论文中的 Qwen3-30B-A3B-Thinking-2507 实验表明训练数据本身的质量就足以训练出强大的深度研究模型。
论文图表
