OpenSeeker-v2:以高难度、信息密集的轨迹推进搜索智能体的边界 OpenSeeker-v2: Pushing the Limits of Search Agents with Informative and High-Difficulty Trajectories
用1万条高难度SFT轨迹训练30B搜索智能体,4个基准全面刷新SOTA。
前置知识
ReAct (Reason + Act) 范式
ReAct是一种让LLM智能体每步交替"思考-调用-观察"的范式,轨迹形如 $\tau=(r_1,a_1,o_1,\dots,r_T,a_T,o_T,r_{T+1},y)$,$T$ 为工具调用次数。
全文围绕ReAct智能体的训练展开,所有benchmark对比、轨迹长度统计、低步过滤阈值 $T_\text{min}$ 都是针对ReAct轨迹定义的。不理解ReAct的"思考-行动-观察"循环,就无法读懂"为什么低步轨迹是简单题"以及"为什么扩展工具集会带来收益"。
持续预训练/监督微调/强化学习 (CPT/SFT/RL) 三段式
工业界训练搜索智能体一般分三段:CPT在万亿网页上继续预训练底座,SFT用人工/合成"问题→轨迹"教模仿,RL用任务奖励GRPO/PPO继续优化策略。
Tongyi DeepResearch和RedSearcher都走的是CPT+SFT+RL的重管线,作者反复强调"简单SFT即可SOTA"是相对这条重管线而言的。如果不知道CPT/SFT/RL分别代表多大的算力代价,就无法体会只用10.6k样本做SFT为何是颠覆性的。
BrowseComp与深度搜索评测基准
BrowseComp及其中文版BC-ZH是专为搜索agent设计的多跳网页检索难题,HLE涵盖多学科专家问答,xbench是中文代理搜索质量评测。
论文在四个基准上刷SOTA,理解基准设计哲学(故意避开单跳查询、考察长程聚合)才能体会为什么"低步过滤"是合理的——能一步查出来的题在这些基准上根本没有区分度。
图谱采样与多跳合成任务
用知识图谱 $G=(V,E)$ 合成查询时,先取种子节点 $v_\text{seed}$,做 $k$ 跳子图展开 $\text{Expand}(G,v_\text{seed},k)$,再让LLM在子图属性上反推出多跳问题 $q$。
这是数据合成的核心机制,理解"子图越大→多跳链条越长→查询越难→agent被迫长程推理"这一链路,才能读懂为什么scaling graph size会让平均trajectory从46.97 (v1) 涨到64.67 (v2) 步。
低步过滤 (Low-step filtering)
低步过滤指 $D_{v2}=\{(q,\tau)\mid T(\tau)\geq T_\text{min}\}$,剔除少步工具调用就能查到的简单样本,强制训练集有一个"最少步数难度下限"。
这是论文最反直觉的一招——通常RL研究者会希望数据"尽量难"但也会担心过拟合,而低步过滤相当于在数据侧明确切走了简单样本。没有这个概念,就理解不了为什么"10.6k样本就能SOTA"而不是简单堆量。
研究动机
构建深度搜索强的LLM智能体,长期被视为大公司的"闭门游戏"。以OpenAI Deep Research、阿里通义Tongyi DeepResearch、小红书RedSearcher为代表的前沿系统都遵循CPT(继续预训练万亿token)→SFT(几十到上百万条轨迹模仿)→RL(GRPO/PPO奖励优化)的重管线,需上千到上万卡A100/H100算力与专有数据。30B级里Tongyi DeepResearch (BrowseComp 43.4%)、RedSearcher (42.1%) 都是CPT+SFT+RL才达到;学界此前SFT-only的WebSailor-V2-30B-SFT只有24.4%、WebLeaper-30B-SFT只有27.7%,OpenSeeker-v1 SFT也只有29.5%,距开源SOTA仍有显著差距。"SFT配合理数据"能否真正跑赢整套重管线,此前仍是一个悬而未决的问题。
本文的目标是本文目标非常聚焦:用尽可能简单、便宜的训练方式(单一SFT,不再需要CPT和RL)让一个30B量级ReAct搜索智能体在主流深度搜索评测(包含BrowseComp/BrowseComp-ZH/HLE/xbench四套)上同时刷新SOTA,并且使全部训练数据(10.6k条)实现完全开源可复现。具体三个数字目标:BrowseComp 46.0%、BC-ZH 58.1%、HLE 34.6%、xbench 78.0%,系统性地超越Tongyi DeepResearch(43.4%/46.7%/32.9%/75.0%)和RedSearcher(42.1%/49.8%/34.3%/-)。
与已有工作不同的是,现有SFT-only工作(OpenSeeker-v1, WebLeaper-30B-SFT, WebSailor-V2-30B-SFT)与CPT+SFT+RL重管线之间的核心差距有两点:第一,合成数据的"难度分布"不够长尾——大部分轨迹只需20-40步就能解,缺乏对模型长程推理能力的压力测试;第二,工具集偏小(局限于search+browse两类),无法覆盖"读PDF、读表、跨语种过滤、代码执行"等真实深度研究任务。作者的差异化切入点是:不去碰更复杂的RL管线,而是**只优化数据合成的三个超参**(子图展开预算 $K$、可用工具集 $|A|$、步数下限 $T_\text{min}$),让同样的SFT目标函数在更高难度、更长程、信息更丰富的轨迹上学到更强agent。文中给出了平均轨迹长度64.67(v2)对比46.97(v1)的客观证据,证明这是数据端而非算法端的胜利。
核心方法
OpenSeeker-v2的思路极简:固定底座为Qwen3-30B-A3B-Thinking-2507 (30B总参/3B激活),固定训练目标为标准的SFT $-\log p_\theta(\tau | q)$,所有创新点都集中在"如何造出10.6k条高质量演示轨迹"。直觉上,作者认为"agent能不能长程搜索"几乎完全取决于"训练轨迹有多长、多样、多信息密集"。所以方法部分给出了三条数据合成的修改变体:(1)把子图展开预算由 $k$ 提到 $K$,让合成任务的必证证据散布在更多节点上,使 $q$ 必须做多跳聚合才能解;(2)在原工具集 (search+browse) 之上增加更细粒度的工具 $A$ (如click、find、open、read pdf、python),从而支持回答更细的子问题;(3)对每条生成的轨迹 $\tau$ 强制执行 $T(\tau) \geq T_\text{min}$ 的过滤,剔除那些浅层关键词匹配就能解决的简单题。三条修复合在一起得到 dataset $D_{v2}$,喂给底座做一次SFT即可。
核心创新在于把"高难度+高信息密度"作为数据集设计的硬性约束,并通过三条**正交的**纯数据合成修改来同时满足这两个维度(冗余地、每条修改单独都有贡献),而非引入新算法、新奖励、新RL阶段。关键区别于CPT+SFT+RL管线之处:第一,OpenSeeker-v2不再需要CPT这一最贵的一步(直接用Qwen3-30B-Thinking当作已经"读够书"的agent),把全部算力集中在数据端;第二,与OpenSeeker-v1相比,不是修改模型,而是改数据合成的三个超参,使方法的可复现性极强(任何人重写数据生成就能复现);第三,与WebSailor-V2/WebLeaper等用RL精修的方式不同,作者坚持"任务难度提升必须在数据源头解决"(因为RL只会在已有轨迹难度上限内优化),用 $T_\text{min}$ 这一个超参直接控制难度下界。
方法步骤详情
方法分两条流水线:**数据合成**与**SFT训练**。数据合成步骤:(1) 给定源图谱 $G=(V,E)$,对每个种子节点 $v_\text{seed}\in V$ 用 $\text{Expand}(\cdot,v_\text{seed},K)$ 抽更大子图 $G^{(K)}_\text{sub}$;(2) 在子图上用LLM反推合成查询 $q\sim p_\text{gen}(q|G^{(K)}_\text{sub})$;(3) 在扩大工具集 $A$ 上让教师模型生成ReAct轨迹 $\tau=(r_1,a_1,o_1,\dots,r_T,a_T,o_T,r_{T+1},y)$;(4) 应用低步过滤 $T(\tau)\geq T_\text{min}$ 得到10.6k训练集 $D_{v2}$。SFT训练用标准next-token目标 $-\sum_t\log p_\theta(\cdot|q,r_{<t})$ 对Qwen3-30B-A3B-Thinking-2507做单次SFT,无RL;推理用256k上下文、最多200次工具调用。为避免评测污染实验屏蔽了HF相关链接。
技术新颖性
技术新颖性集中在"用纯数据超参替代昂贵算法"这一范式上。第一,子图扩展预算 $K$ 不是简单的"多采样一些节点",而是把合成查询的反推条件扩展到包含更长拓扑链的子图,从而把查询从"两跳"自然变成"三跳以上",并直接体现在轨迹平均步数的跃升(46.97→64.67)上;第二,工具集 $A$ 的扩展不仅是加几个API,更是让agent学习"何时用搜索、何时用阅读、何时回到search重新发起"这种复杂控制流,这是open-source搜索agent之前较少训到的策略;第三,$T_\text{min}$ 这一阈值把数据难度以可度量、可复现的方式直接控制,且不依赖任何模型评判或LLM打分器(避免引入额外偏向);第四,从SOTA榜单角度看,这是"第一个30B级ReAct搜索智能体在四套基准上同时最强且完全开源"的工作(代码+权重都给),开源可直接到https://huggingface.co/PolarSeeker/OpenSeeker-v2-30B-SFT,与闭源Tongyi DeepResearch/RedSearcher的不可复现形成鲜明对比。
实验结果
实验核心发现四层。(1)30B级ReAct agent全面SOTA:BrowseComp 46.0超Tongyi DeepResearch(43.4,+2.6)与RedSearcher(42.1,+3.9);BC-ZH 58.1超Tongyi(46.7,+11.4)与RedSearcher(49.8,+8.3);HLE 34.6超Tongyi(32.9)、与RedSearcher(34.3)持平;xbench 78.0超Tongyi(75.0,+3)。(2)跨数量级对比依然强:BrowseComp 46.0超Claude-4.5-Sonnet(24.1)、GLM-4.6-357B(45.1)、Minimax-M2-230B(44.0)、DeepSeek-V3.1-671B(30.0)。(3)v1→v2纯数据scaling:BrowseComp 29.5→46.0(+16.5)、BC-ZH 48.4→58.1、xbench 74.0→78.0,未动模型与算法。(4)Fig 2显示v2平均轨迹64.67步,远高于v1(46.97)与RedSearcher(36.01),证明训练分布真。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| BrowseComp (英文深度搜索) | 准确率 (%),越高越好 | 46.0 | Tongyi DeepResearch 43.4 (CPT+SFT+RL), RedSearcher 42.1 (CPT+SFT+RL), WebSailor-V2-30B-RL 35.3 (SFT+RL), WebLeaper-30B-RL 38.8 (RL), OpenSeeker-v1-30B-SFT 29.5 | 比Tongyi DeepResearch高+2.6,比RedSearcher高+3.9,比OpenSeeker-v1高+16.5;30B级+纯SFT组SOTA |
| BrowseComp-ZH (中文深度搜索) | 准确率 (%),越高越好 | 58.1 | Tongyi DeepResearch 46.7, RedSearcher 49.8, Claude-4-Opus 37.4, Claude-4.5-Sonnet 42.4, DeepSeek-V3.1-671B 49.2, GLM-4.6-357B 49.5, Minimax-M2-230B 48.5, OpenSeeker-v1 48.4 | 比Tongyi DeepResearch高+11.4,比RedSearcher高+8.3,超过DeepSeek-V3.1-671B +8.9;中文场景突破尤为明显 |
| Humanity's Last Exam (HLE) | 准确率 (%),越高越好 | 34.6 | Tongyi DeepResearch 32.9, RedSearcher 34.3, Claude-4.5-Sonnet 32.0, OpenAI-o3 20.2, OpenAI Deep Research 26.6, DeepSeek-V3.2-671B 40.8 | 比Tongyi DeepResearch高+1.7,与RedSearcher基本打平,逼近DeepSeek-V3.2-671B (40.8) 与GPT-5-High (41.7) 等10×规模对手 |
| xbench-DeepSearch (代理搜索质量) | 准确率 (%),越高越好 | 78.0 | Tongyi DeepResearch 75.0, WebLeaper-30B-SFT 66.0, WebLeaper-30B-RL 72.0, WebSailor-V2-30B-RL 73.7, OpenSeeker-v1 74.0, DeepSeek-V3.1-671B 71.2, OpenAI-o3 65.0 | 比Tongyi DeepResearch高+3.0,比OpenSeeker-v1高+4.0,30B级SOTA |
| 轨迹难度(平均工具调用步数) | 平均步数 (越高代表训练轨迹越难) | 64.67 | OpenSeeker-v1 46.97, RedSearcher 36.01 | 比v1长+17.7步,比RedSearcher长+28.7步;长尾更明显,难度真实提升 |
| 训练数据规模 | 样本数 (越少代表越高效) | 10.6k | OpenSeeker-v1 11.7k, WebLeaper-30B-SFT 15k | 比v1还少1.1k样本,但4项SOTA更高;即"少而难"优于"多而浅" |
局限与改进
作者没有单独列Limitations,但可提炼以下局限。第一,只在ReAct+30B级下结论,没有对比WebSailor/Tongyi DR中可能存在的plan-then-execute变体。第二,只在搜索+阅读四套基准验证,未跨数学、代码、GUI等其他长程agent任务验证。第三,BrowseComp等公开基准题目可能在训练数据抓取的中间页面里被agent遇到,仅靠屏蔽HF相关链接不能完全杜绝评测污染。第四,教师模型本身是Qwen3家族变体,对没有同款底座的团队难以直接照搬,且没有做底座规模扫描。第五,没有汇报不同随机种子的方差,10.6k小数据集+单次SFT结果是否稳定可复现存疑。第六,平均64.7步/256k上下文对部署成本不友好,论文未公开token成本与推理延迟。
独立分析的弱点
独立审视后有几个值得改进的弱点。第一,教师模型是Qwen3系列自身变体,对没有同款底座的团队难以直接照搬;改进方向是验证蒸馏其他底座(Llama-3、GLM、Mistral)的可行性。第二,低步过滤用单一阈值 $T_\text{min}$ 评判难度过于粗暴——轨迹长并不等价于题目难;改进方向是引入多维度评分(答案隐蔽度、证据分散度、跨模态要求)。第三,10.6k样本多样性不足;改进方向是补充≥50k/100k的scaling曲线,验证SOTA是否10.6k下偶然。第四,子图展开预算 $K$ 没给sensitivity曲线,Table 1只展示10.6k一个配置,没消融三条修改各自边际贡献。第五,没在相同10.6k数据上做严格SFT vs SFT+RL对照,无法隔离"纯SFT能否赢"这一claim。
未来方向
作者文末只给"扩数据"模糊方向,我具体化四条未来研究。(1)沿数据scalability路线推进:保持SFT-only setting,把数据从10.6k扩到50k/200k/1M,验证高质量高难度数据是否单调提升agent能力,把"scaling laws for agent data"从空想变成实证。(2)把三招迁移到其他长程agent任务:GUI自动化、代码仓库理解、多轮信息收集,看data-centric方法论是否跨域普适。(3)与RL结合而非替代:在10.6k SFT warm-up后叠轻量RL(RLOO/GRPO子变种),观察高质量分布上RL能否再给1-2点,变成"SFT先到门槛、RL再上层楼"。(4)多语言多模态扩展:让 $A$ 增加跨语言工具、PDF图表OCR、视频转写,实现真正的多模态deep research agent,并蒸馏到7B/14B降低部署成本。
复现评估
复现评估四方面都相当友好。开源方面,代码https://github.com/PolarSeeker/OpenSeeker、模型权重https://huggingface.co/PolarSeeker/OpenSeeker-v2-30B-SFT全部公开,是30B级SOTA搜索agent里唯一同时开源代码+权重的工作,Tongyi DeepResearch/RedSearcher都没公开SFT轨迹。数据方面,10.6k合成脚本已开源,可基于公开种子图谱(ConceptNet/Wikidata/CC-aligned)复现,但论文没公开具体种子来源与最终JSON,需自行重跑合成。算力方面,30B SFT约需8-32张A100/H100一周,相比Tongyi DR那种万亿token CPT下降数量级。技术栈只是SFT+多轮工具rollout,没有RL、没有特殊课程,2-4周可端到端复现逼近Table 1。综合看是近一两年来复现门槛最低的高性能搜索agent工作之一。
论文图表
文章开篇的概念性图示:左右并列给出OpenSeeker-v2-30B-SFT与Tongyi DeepResearch-30B的对比棒图,标注它们在BrowseComp/BC-ZH/HLE/xbench四个基准上的得分,展示OpenSeeker-v2用单一SFT相对CPT+SFT+RL全栈重管线显著更高。
这是论文最核心的一张"主张图",把"简单SFT也能SOTA"和"具体数字高多少"这两件事一次性讲清楚,是motivation阶段最直接的视觉证据。