← 返回 2026-03-17

OpenSeeker:通过完全开源训练数据实现前沿搜索智能体的民主化 OpenSeeker: Democratizing Frontier Search Agents by Fully Open-Sourcing Training Data

Yuwen Du, Rui Ye, Shuo Tang, Xinyu Zhu, Yijun Lu, Yuzhu Cai, Siheng Chen 📅 2026-03-16 👍 150 2026-07-13 08:36
SFT Web Agent 多跳推理 开源 搜索智能体 数据合成

首篇全开源搜索智能体,仅用11.7k合成样本SFT达到前沿水平

前置知识

ReAct 范式

ReAct(Reasoning-Action)是当前LLM智能体的主流架构范式,其核心是一个推理-行动-观察的循环过程。在每个时间步 $t$,智能体先进行推理 $r_t$(Chain-of-Thought),然后决定执行的动作 $a_t$(如搜索、点击链接等工具调用),最后获得环境的观察 $o_t$(工具返回结果)。这个循环持续进行直到找到最终答案。ReAct范式将LLM的内部推理能力与外部工具交互能力统一起来,是构建搜索智能体的基础框架。

OpenSeeker的训练数据正是基于ReAct范式的轨迹格式,理解这个范式是理解本文数据合成和训练方法的前提

监督微调(SFT)

Supervised Fine-Tuning是一种大模型训练方法,在预训练模型基础上,使用有标注的输入-输出对进行有监督训练。具体来说,给定输入 $x$ 和目标输出 $y$,模型通过最小化负对数似然损失 $\mathcal{L} = -\sum_{i} \log p(y_i | x_i, y_{<i})$ 来学习。在搜索智能体场景中,SFT的训练样本包含用户问题、完整的推理轨迹(工具调用序列和返回结果),模型需要学会在给定问题和历史轨迹的条件下,生成正确的下一步推理和工具调用。

本文的核心贡献之一是证明仅通过SFT(不使用RL)就能训练出前沿水平的搜索智能体,这与工业界普遍采用的CPT+SFT+RL复杂训练流程形成鲜明对比

多跳推理(Multi-hop Reasoning)

多跳推理指需要经过多个中间推理步骤才能得出最终答案的任务。与单步检索不同,多跳推理要求模型在多个信息源之间进行跳转和关联,逐步收集证据链。在搜索智能体场景中,多跳推理体现为需要执行多次搜索和网页浏览操作,逐步拼凑出完整答案。例如查找某个历史人物的导师的出生地需要两跳推理:先找到该人物的导师是谁,再查找该导师的出生地。

OpenSeeker的QA合成方法专门设计来生成需要多跳推理的问题,通过图扩展和实体混淆确保问题不能通过简单检索解决

轨迹合成(Trajectory Synthesis)

轨迹合成是指使用LLM自动生成搜索智能体的训练数据,即模拟一个教师智能体执行搜索任务的完整过程,包括每一步的推理、工具调用和工具返回结果。合成的轨迹 $ au = [q, (r_1, a_1, o_1), \ldots, (r_T, a_T, o_T), y]$ 包含问题、推理步骤、动作、观察和最终答案,作为SFT的训练目标。挑战在于确保合成轨迹的质量——推理是否合理、工具调用是否正确、最终答案是否准确。

本文提出去噪轨迹合成方法,通过回顾式摘要机制提高合成轨迹质量,是核心技术创新之一

图扩展(Graph Expansion)

在本文中,图扩展是指从Web图 $G = (V, E)$ 中的一个种子节点 $v_{seed}$ 出发,沿着超链接边向外扩展,收集 $k$ 个相连节点形成局部依赖子图 $G_{sub}$。这个子图代表了与种子页面相关的连通信息集群,是后续问题生成的基础。通过控制扩展的节点数量 $k$,可以调节子图的大小和复杂度,从而控制生成问题的难度。

图扩展是QA合成的第一步,直接决定了后续生成问题的信息基础和推理复杂度

实体混淆(Entity Obfuscation)

实体混淆是一种数据增强技术,将问题中的具体实体名称替换为模糊的描述性引用。形式化地,对实体 $e$ 应用混淆算子 $\Phi$,得到 $ ilde{e} = \Phi(e)$。例如将某个具体人名替换为对这个人的描述性称呼。这迫使智能体不能仅靠关键词匹配来直接检索答案,必须通过多步推理来定位和关联信息。

实体混淆防止智能体通过关键词捷径绕过推理过程,确保生成的问题真正需要深度搜索能力

研究动机

搜索智能体的开发长期被科技巨头垄断,高质量训练数据成为企业的核心数据护城河。截至2026年3月,已有超过十个智能体LLM在BrowseComp基准上突破50分,但这些能力几乎完全由OpenAI、Google、阿里巴巴、智谱等公司的闭源或半开源模型实现。即使是开源权重的模型(如Kimi K2系列、GLM 4.5-5、MiniMax M2-2.5),也没有公开任何训练数据。学术界的现有工作要么不公开数据,要么只公开一小部分,要么无法达到有竞争力的性能——例如DeepDive在BrowseComp上仅15.3%,WebSailor在BrowseComp上仅10.5%。这种数据垄断从根本上阻碍了开源社区在搜索智能体领域的发展和创新。

本文的目标是本文的目标是打破搜索智能体领域的数据垄断,实现前沿搜索能力的民主化。具体而言,作者希望设计一套高质量的数据合成方法,能够从Web语料库中自动生成具有挑战性的QA对和高质量的搜索轨迹。目标是仅使用SFT训练出达到前沿水平的搜索智能体,证明数据质量可以弥补训练方法的复杂度。最终完全开源训练数据、模型权重和整个合成流程,使学术界能够复现和进一步发展搜索智能体技术。

与已有工作不同的是,本文的独特切入角度在于数据即方法——与其在训练算法上做创新(如复杂的RL流程),不如在数据合成质量上做突破。作者观察到工业界投入大量资源在CPT+SFT+RL的复杂训练流程上,但真正的秘密在于训练数据的质量。本文首次从完全开源的角度出发,提出两个关键技术突破:基于事实的可控QA合成(通过逆向工程Web图结构来构造真正需要多跳推理的问题)和去噪轨迹合成(通过回顾式摘要机制生成高质量的搜索轨迹)。这种以数据质量换算法复杂度的思路,使一个纯学术团队仅用SFT就超越了工业界的复杂训练流程。

核心方法

OpenSeeker的方法论可以概括为高质量数据合成加简单SFT训练。整体思路是:首先从大规模Web语料库中逆向工程出需要多跳推理的复杂QA对,然后利用去噪机制生成高质量的搜索轨迹作为训练数据,最后仅通过标准SFT训练出搜索智能体。这与工业界的做法形成鲜明对比——工业界通常使用简单数据加复杂训练(CPT+SFT+RL),而OpenSeeker使用复杂数据加简单训练(SFT)。方法的核心直觉是:如果数据本身足够好,简单的SFT就足以训练出高性能的智能体。整个框架基于一个关键观察:Web的超链接结构天然蕴含了多跳推理的路径,如果能从这个图结构中逆向构造问题,就能生成既具挑战性又有事实基础的训练数据。

OpenSeeker的核心创新在于两个互补的技术。第一个是基于事实的可控QA合成,其本质区别在于:现有方法通常先有问题再找答案(正向),而OpenSeeker是先从Web图中识别出推理路径再构造问题(逆向)。通过从Web语料库中随机采样种子页面、执行图扩展、提取实体子图、应用实体混淆,生成结构上强制多步推理的问题。第二个是去噪轨迹合成,其本质区别在于引入了一个教师-学生不对称框架:教师模型在去噪后的上下文(摘要历史加原始近期)中生成黄金推理路径,而学生模型在训练时被要求从原始未去噪的上下文中预测这些推理路径。这种解耦迫使学生模型内化去噪和信息提取能力。

方法步骤详情

方法分为两大阶段。第一阶段是QA合成:从约68GB英文和约9GB中文Web数据中随机采样种子节点;执行图扩展,沿超链接边收集 $k$ 个相连节点,形成局部子图;进行实体提取,识别种子页面的中心主题 $y_{theme}$,从子图中提取与之相关的实体,构建实体子图 $G_{entity}$;基于实体子图结构生成初始问题 $q_{init}$,要求回答必须遍历多条边;应用实体混淆,将具体实体 $e$ 替换为模糊描述 $ ilde{e} = \Phi(e)$;将初始问题和模糊子图结合生成最终问题 $ ilde{q}$。然后进行双重验证:难度验证(强基础模型在闭卷条件下不能回答正确)和可解性验证(提供实体子图作为上下文时能正确回答)。第二阶段是轨迹合成:为每个QA对生成搜索轨迹,在每个时间步 $t$,使用去噪后的上下文 $H_t$ 生成推理和动作 $(r_t, a_t)$;获得原始观察 $o_t$ 后,调用摘要器将上一步观察 $o_{t-1}$ 压缩为 $s_{t-1}$;训练时使用原始未去噪上下文 $H_t^{train}$,迫使模型从噪声中提取信息。最终数据集包含11.7k样本(10.3k英文加1.4k中文),用于SFT训练Qwen3-30B-A3B模型。

技术新颖性

本文的技术新颖性体现在多个层面。首先,逆向问题构造思路是全新的——不是从问题出发寻找答案,而是从Web图结构出发构造问题,这从根本上保证了问题的事实基础和多跳特性。其次,去噪轨迹合成中的教师-学生不对称训练是原创设计,利用摘要器作为中间桥梁,让教师在干净上下文中生成高质量轨迹,学生从原始上下文中学习去噪能力,这种解耦设计在搜索智能体训练中是首创。第三,实体混淆技术通过模糊化具体术语来消除关键词捷径,这比简单增加问题长度或复杂度更有效。第四,整个框架的数据质量优先理念具有范式意义——仅用11.7k样本和简单SFT就达到前沿水平,证明数据质量可以替代训练算法复杂度,这与当前主流的大量数据加复杂RL范式形成鲜明对比。

Overview of Fact-grounded scalable controllable QA synthesis
Figure 2: Overview of Fact-grounded scalable controllable QA synthesis
Overview of Denoised Trajectory Synthesis
Figure 3: Overview of Denoised Trajectory Synthesis

实验结果

OpenSeeker在四个主流搜索基准上取得了前沿级性能。在BrowseComp上达到29.5%,显著超越同级别开源智能体DeepDive(15.3%)近一倍。在BrowseComp-ZH上达到48.4%,超越阿里巴巴的通义DeepResearch(46.7%),而后者使用了CPT+SFT+RL的复杂训练流程,OpenSeeker仅使用SFT。在xbench-DeepSearch上达到74.0%,与通义DeepResearch(75.0%)非常接近。在WideSearch上达到59.4%的item F1,大幅领先WebLeaper(44.1%)。在SFT-only模型的对比中,OpenSeeker在所有基准上都显著领先:BrowseComp-ZH上领先WebSailor-V2-SFT(28.3%)约20个百分点。在数据量对比实验中,即使与使用10k到15k样本的其他方法对比,OpenSeeker仍以11.7k样本在所有基准上取得最优结果,xbench上领先最优基线约8个百分点,WideSearch上领先约15个百分点。数据难度分析显示,OpenSeeker的中文数据平均每个轨迹包含46.35次工具调用、平均token长度76.1k,而BrowseComp-ZH仅26.98次工具调用和15.1k token,证明合成数据的难度显著高于标准基准。

Comparisons among our OpenSeeker and other search agents
Table 1: Comparisons among our OpenSeeker and other search agents
Performance comparison of different models trained via SFT
Table 2: Performance comparison of different models trained via SFT
Performance comparison under comparable data volumes
Table 3: Performance comparison under comparable data volumes
OpenSeeker stands out as the only fully open-source agent that achieves competitive performance on four search benchmarks
Figure 1: OpenSeeker stands out as the only fully open-source agent that achieves competitive performance on four search benchmarks
Comparison of difficulty between OpenSeeker-v1-Data-ZH and BrowseComp-ZH using the same model for inference
Figure 4: Comparison of difficulty between OpenSeeker-v1-Data-ZH and BrowseComp-ZH using the same model for inference
Comparison of difficulty between OpenSeeker-v1-Data-EN and BrowseComp-EN using the same model for inference
Figure 5: Comparison of difficulty between OpenSeeker-v1-Data-EN and BrowseComp-EN using the same model for inference
查看结构化数据
任务指标本文基线提升
BrowseComp(英文多步导航搜索) 准确率(%) 29.5 DeepDive-32B: 15.3, WebSailor-V2-30B-SFT: 24.4, WebLeaper-30B: 27.7 较DeepDive提升14.2个百分点(93%相对提升),较WebLeaper提升1.8个百分点
BrowseComp-ZH(中文多步导航搜索) 准确率(%) 48.4 Tongyi-DeepResearch: 46.7, WebSailor-V2-30B-SFT: 28.3, DeepDive-32B: 29.7 超越工业级Tongyi-DeepResearch(CPT+SFT+RL)1.7个百分点,较WebSailor-V2-SFT提升20.1个百分点
xbench-DeepSearch(深度研究能力) 得分(%) 74.0 Tongyi-DeepResearch: 75.0, WebSailor-V2-30B-SFT: 61.7, WebLeaper-30B: 66.0 较WebLeaper提升8个百分点,较WebSailor-V2-SFT提升12.3个百分点
WideSearch(广泛信息检索) Item F1(%) 59.4 WebLeaper-30B: 44.1, Claude-4-Sonnet: 62.0, OpenAI-o3: 60.0 较WebLeaper提升15.3个百分点(35%相对提升),超越OpenAI-o3(60.0)

局限与改进

作者坦诚地承认了几个重要局限性。首先,由于资源限制,整个训练只进行了一次运行,没有进行任何启发式数据筛选或超参数优化,这意味着性能还有很大的提升空间。其次,英文数据尚未更新到最新的QA标准,导致英文数据的难度略低于中文数据,作者计划在近期发布更新版本。第三,BrowseComp的评估由于资源限制只在200个样本的子集上进行,可能影响结果的统计显著性。此外,当前模型的工具调用上限设为200次,超过此阈值的轨迹会被强制终止,这可能限制了模型处理更复杂任务的能力。从更广泛的视角看,本文的去噪轨迹合成方法依赖于摘要器的质量,摘要过程可能丢失关键信息。最后,虽然论文声称完全开源,但评估中一些基线模型并未公开数据,使得公平比较存在困难。

独立分析的弱点

OpenSeeker存在几个值得关注的弱点。第一,训练仅进行一次运行,没有进行任何消融实验来验证各个组件的贡献,例如实体混淆的具体效果、图扩展参数 $k$ 的影响、摘要器的选择对轨迹质量的影响等,这使得难以判断哪些设计是真正关键的。第二,去噪轨迹合成中的摘要器本身是一个独立的LLM,其摘要质量直接影响训练数据质量,但论文没有对摘要器的选择和质量进行充分讨论。第三,数据规模仅11.7k样本,虽然效果出色,但缺乏对数据规模缩放规律的研究——如果数据量增加到50k或100k,性能是否还能持续提升。第四,模型基于Qwen3-30B-A3B初始化,其本身已具有较强的推理能力,如果在更小或更弱的基础模型上进行SFT,效果是否还能保持。第五,论文缺乏对失败案例的详细分析,不了解模型在哪些类型的搜索任务上仍然表现不佳。

未来方向

作者提出几个明确的未来方向:优化数据分布,实施严格的质量筛选,生成更高质量的训练数据;生成更高复杂度的训练数据,进一步提升模型在更难任务上的表现;将智能体能力扩展到纯Web搜索之外,集成更多工具和数据源,发展为更通用的智能体框架。基于本文成果,还可以延伸出多个有价值的研究方向:研究数据规模与模型性能的缩放规律,探索将去噪轨迹合成方法应用到其他智能体任务(如代码生成、数据分析等),研究自动化的图扩展参数 $k$ 调优策略,探索RL是否能在高质量SFT数据基础上进一步提升性能,以及将方法扩展到多语言场景。

复现评估

OpenSeeker在开源和可复现性方面做得非常好。论文完全开源了三个关键资源:代码仓库https://github.com/rui-ye/OpenSeeker、完整训练数据集https://huggingface.co/datasets/OpenSeeker/OpenSeeker-v1-Data(包含11.7k样本的QA对和完整轨迹)、模型权重https://huggingface.co/OpenSeeker/OpenSeeker-v1-30B-SFT。这对于学术复现非常有利。然而,复现仍面临一些挑战:训练基于Qwen3-30B-A3B,这是一个30B参数(3B激活)的MoE模型,需要显著的GPU资源;Web语料库的获取(约68GB英文加约9GB中文)需要自行准备;QA合成流程涉及多个LLM调用(生成、验证、摘要),API成本不低。总体而言,对于有足够计算资源的研究团队,复现是完全可行的。