DiffResearch：用扩散语言模型加速深度研究 DiffResearch: Accelerating Deep Research with Diffusion Language Models
深度研究智能体换扩散骨干后端到端提速约6倍，报告质量不降
前置知识
自回归语言模型（AR LLM）
从左到右逐个 token 生成的语言模型，每一步以已生成内容为条件预测下一个 token。生成 $N$ 个 token 需要 $N$ 次串行前向计算，总延迟随序列长度线性累加。GPT、Llama、Gemma 等主流模型均属此类，也是当前几乎所有生产级深度研究系统的基础。
本文的对照基线就是同尺寸自回归骨干 google/gemma-4-26B-A4B-it，理解其串行解码本质，才能明白为什么规划与长文写作会成为深度研究系统端到端延迟的主要来源。
扩散语言模型（dLLM）
通过迭代去噪并行精修整个序列的生成范式：文本从噪声状态出发，模型在少量步骤内同时更新全部位置。LLaDA、Dream、Mercury 等模型已证明其质量可逼近自回归模型，且天然支持先定结构后填内容的生成方式，并暴露一系列中间去噪状态可供外部读取。
本文核心是把扩散骨干 google/diffusiongemma-26B-A4B-it 塞进完整深度研究流水线，并利用其去噪中间状态实现 dFast 早停提取；不熟悉扩散生成机制就看不懂速度提升从何而来。
深度研究智能体
能自主完成规划、检索证据、综合、修订闭环的 LLM 系统，如 OpenAI Deep Research、Gemini Deep Research、Perplexity Deep Research，最终产出带引用的长篇报告。典型流程包括意图分类、查询改写、大纲规划、多源检索、长文写作和评审等多个智能体阶段。
本文的全部延迟测量与质量评测都发生在这种完整多智能体流水线内而非孤立模型调用，需要先知道这类系统的阶段划分，才能理解逐阶段计时数据的意义。
RACE 评测框架
Deep Research Bench 官方评测框架，从全面性（Comprehensiveness）、洞察（Insight）、指令遵循（Instruction-following）、可读性（Readability）四个维度给研究报告打分并汇总为 overall 分数。本文运行时开启 cleaning、用 Gemini 2.5 Pro 作评审；受控实验分数在 0–1 区间，公开榜单为 0–100。
论文『约6倍加速且不牺牲质量』的结论完全依赖 RACE 分数对比，了解它评什么、如何评审，才能判断质量结论的可信度与局限。
中间去噪状态提取（dFast 机制）
扩散模型去噪过程中会产生一系列越来越接近最终结果的中间序列。自定义 streamer 逐个解码这些状态，剥离思考通道痕迹后扫描结构化输出（如恰好含指定数量子查询的 JSON），一旦合法即抛异常提前终止并取用该草稿。这与投机解码不同：不使用草稿模型，读的是模型自身的中间产物，模型权重与分布完全不变。
这是 dFast 快速分解模式的核心机制，也是论文『扩散模型中间去噪状态可作为可用的中间产物』这一关键洞察的具体实现，对应其 $1.99\times$ 分解加速结果。
研究动机
深度研究系统要迭代地规划、检索证据、综合并修订，端到端延迟是交互式使用的关键瓶颈。几乎所有生产系统（OpenAI Deep Research、Gemini Deep Research、Perplexity Deep Research 及 LangChain 等开源框架）都构建在自回归 LLM 上，继承了从左到右的单遍解码，这带来两个具体后果。其一，写作智能体逐节串行起草长篇综述，新证据到来后难以回改早前段落，早期结构决策的错误会传播到全文。其二，编排层同样受串行解码制约：当智能体需要发出多条搜索查询以扇出检索文献的不同侧面时，自回归解码一次只产出一个 token，下游检索必须等全部查询生成完毕才能派发。对交互式研究助手而言，规划、写作等每个模型阶段都在关键路径上，延迟逐段叠加；尽管最强智能体在 Deep Research Bench 这类博士级任务上已接近人类分析师水平，速度仍是短板。
本文的目标是本文要构建并开源一个以扩散语言模型为核心的开放多智能体深度研究框架 DiffResearch，并在严格受控的条件下回答一个此前无人直接测量的问题：把系统的生成骨干从自回归换成扩散模型，在智能体脚手架、检索代码、提示词、评测全部固定不变的前提下，端到端延迟和报告质量究竟会怎样变化。作者刻意只更换骨干这一个变量，使任何差异都可归因于解码范式本身而非无关的系统改动。此外还提出 dFast 快速分解模式，从中间去噪状态中提前读取子查询集合，验证扩散模型暴露的中间状态能否进一步压缩分解阶段延迟。最终在 Deep Research Bench 的 100 个博士级任务（50 中文、50 英文、22 个领域）上给出延迟与质量的双重证据，并以更强扩散模型 Mercury 驱动的实例冲击公开系统级榜单。
与已有工作不同的是，尽管 LLaDA、Dream、Mercury 等扩散语言模型已证明质量可逼近自回归模型并具备速度与全局连贯性优势，但此前的评估几乎都停留在聊天、编程等孤立场景；扩散模型嵌入规划、检索、迭代精修交替进行的智能体流水线后，实际延迟后果如何从未被直接测量。已有加速文献（投机解码、缓存、蒸馏、并行解码）也不针对这一系统集成问题。本文的独特切入是系统级受控骨干交换实验：同一套九智能体脚手架、同一套提示词、同一个仅用 Semantic Scholar 且限速每秒 1 请求的确定性检索通道、同一套 RACE 评测，只有生成器在扩散与自回归之间切换，从机制上分离『解码范式的贡献』与『系统工程水平的贡献』；榜单快照则单独回答系统竞争力问题，两条证据链各司其职，不互相冒充。
核心方法
直觉上，深度研究流水线的延迟几乎全部消耗在模型驱动的规划与长文写作两个阶段，而扩散模型恰好在这两处有结构性优势：并行去噪能一次精修整段大纲或整篇报告，而非逐 token 产出。DiffResearch 由此把每个智能体都实现为扩散 LLM 的实例，并组织成小型显式流水线而非整体式链，刻意回避重型编排抽象。架构上是意图分类、查询改写、规划、检索、写作五个核心阶段外加可选评审；九个智能体（查询格式化、规划、计划校验、相关性过滤、信息抽取、摘要、复杂度评估、查询分解、评审）继承同一骨干基类、只实现单一 generate 方法，输出保持机器可解析的最小形式。骨干可插拔：扩散侧经 Hugging Face 运行时服务 google/diffusiongemma-26B-A4B-it，自回归侧用同尺寸的 google/gemma-4-26B-A4B-it；dFull、dFast、AR 三种配置共享全部智能体代码与检索（仅 Semantic Scholar、subquery_count=4、results_per_query=2、每秒 1 请求限速），唯一差异是骨干与分解模式。
核心创新有两层。第一层是受控骨干交换这一方法论本身：此前没有工作在真实深度研究流水线内、保持其余一切不变地对比两种解码范式，本文把『换骨干』变成唯一自变量，使约 $6\times$ 的端到端加速能干净地归因于解码范式。第二层是 dFast 快速分解模式：利用扩散模型固有的中间去噪状态，自定义 streamer 逐态解码草稿、剥离思考通道痕迹、扫描含恰好指定数量非空子查询且可解析为 JSON 的对象，一旦命中即抛异常提前终止并返回草稿。它与投机解码有本质区别：不使用任何草稿模型，读的是模型自身产生的中间状态，模型分布完全不变。由于分解结果只喂给下游检索、主题覆盖比精确措辞更重要，早期草稿中的重复片段与粗糙措辞可以容忍——这正是 fast 模式只限定于分解阶段而不用于最终写作的原因：最终答案里措辞本身就是交付物。
方法步骤详情
完整流程分六步。第一步意图分类：把查询路由到 web 或学术通道，输出二值标签与仅记录不传播的理由，用短解码预算。第二步查询改写：在逐字保留原始信息需求的前提下改写成检索友好的搜索串。第三步规划：产出结构化大纲，包含主章节、每章两到四个子点、以及需覆盖的关键概念清单；大纲既是写作目标也是后续计划校验的参照。第四步检索：受控实验限定学术通道仅用 Semantic Scholar API，无 LLM 参与的确定性调用，每条子查询取 2 条结果、限速每秒 1 请求，跨骨干完全一致。第五步写作：以大纲和检索语料为条件，用扩散式并行精修一次性起草并修订整篇综述而非逐节生成，使用大解码预算。可选第六步评审：沿计划符合度、引用忠实性、覆盖完整性对比报告与计划及语料。dFast 模式改写第四步之前的分解调用：发出与 full 相同的提示，streamer 检查每个去噪态，解码出恰好含指定数量非空子查询的合法 JSON 即通过早停异常返回；两种模式共用同一正确性判据。
技术新颖性
技术新颖性体现在三点。其一，这是首个在智能体深度研究流水线内的受控解码范式对比实验，填补了扩散语言模型从孤立场景走向系统集成后『延迟后果未被测量』的空白；逐阶段计时把约 $10\text{–}12\times$ 的阶段级加速精确落到规划 $10.7\times$ 与写作 $11.7\times$。其二，dFast 提出了有别于投机解码的新加速思路——把扩散模型自身的中间去噪状态当作可用的中间产物消费，并以『恰好 N 条子查询的合法 JSON』作为早期停止的正确性判据，隔离探针测得中位数 $1.99\times$ 加速。其三，作者诚实地用消融界定了机制边界：要求草稿连续两态稳定不变时加速只剩 $1.04\times$（但 100 例中 91 例与最终答案完全一致，而首个合法草稿仅 1/100 一致），从而明确了『措辞噪声可容忍』的适用范围，这种对机制代价的量化在同类系统论文中少见。
实验结果
在 Deep Research Bench 100 个任务上（表1），两种扩散配置端到端均值约 11.9 秒，自回归基线 71.45 秒，约 $6\times$ 加速，p90 从 111.87 秒降到 16.13/16.33 秒；dFast 无额外端到端收益。逐阶段（表2）：收益集中在模型驱动阶段，规划从 39.32 秒降到约 3.7 秒（$10.7\times$），写作从 59.78 秒降到约 5.1 秒（$11.7\times$）。分解探针（表3）：首个合法草稿中位 243.4 毫秒，比完整生成 484.9 毫秒快 $1.99\times$，合法对象平均 8.99 个草稿步出现。质量上（表4）dFast 以 0.3969 最佳，高于 dFull 0.3895 与 AR 0.3904，配对差值区间均含零，质量不降。溯源审计：50 条主张 28% 完全被证据支持、52% 未建立；76 处引用 53.9% 完全蕴含；切面覆盖 87.4%。榜单（表5）：Mercury 版得 48.03，超过 OpenAI Deep Research 46.45 与 Claude Research 45.00。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| Deep Research Bench 端到端延迟 | 平均/中位/p90 时延（秒） | dFull 11.89/11.87/16.13；dFast 11.97/12.07/16.33 | AR 71.45/48.78/111.87 | 约6倍加速（均值与尾部一致） |
| 规划阶段延迟 | 平均时延（秒） | 3.68（dFull）/ 3.64（dFast） | 39.32（AR） | 10.7倍 |
| 写作阶段延迟 | 平均时延（秒，到达写作阶段的任务） | 5.11（dFull）/ 5.29（dFast） | 59.78（AR） | 11.7倍 |
| 分解阶段隔离探针（100 查询） | 中位时延（毫秒） | 243.4（dFast 首个 exact-6 草稿） | 484.9（完整生成） | 1.99倍（稳定判据下 1.04 倍但 91/100 与最终一致） |
| Deep Research Bench 报告质量 | RACE overall（0–1，Gemini 2.5 Pro 评审） | dFast 0.3969（最佳） | AR 0.3904 / dFull 0.3895 | 配对差值区间含零，质量不降 |
| 公开 Deep Research Bench 榜单快照 | RACE overall（0–100） | DiffResearch (Mercury) 48.03 | OpenAI Deep Research 46.45 / Claude Research 45.00 | 系统级领先，作者强调不构成对扩散解码的因果归因 |
局限与改进
作者明确承认的局限：端到端加速在 H200 pod 本地推理、本地限速检索的配置下测得，硬件或模型配置不同则绝对差距会变，且未在消费级延迟预算下基准测试；fast 模式只压缩分解阶段，当前流水线中该阶段太小（0.36 秒），端到端无额外收益，且首个合法草稿仅 1/100 与最终字符串完全一致，只适合容忍措辞噪声的下游消费者；受控对比只用单一同尺寸骨干对，未跨模型家族与规模扫描；榜单对比对象是完整系统，检索基础设施、模型规模、工程投入各异，只能支撑系统级竞争力而非扩散解码的因果归因；检索只用 Semantic Scholar，部分任务所需来源未被召回，arXiv 与 web 通道被禁用；单遍子查询生成原则上可并行派发检索，但每秒 1 请求限速使其未被评估。我自己的观察：质量评测单一依赖 Gemini 2.5 Pro，0.0065–0.0074 的 RACE 分差远小于评审方差的可能量级；溯源审计样本仅 10 篇报告、50 条主张，作者自己也声明不足以支撑跨模式比较；而 52% 主张未被存储证据建立这一事实本身提示，当前深度研究系统的根本瓶颈在检索相关性而非解码速度。
独立分析的弱点
第一，检索地基薄弱是最大软肋：审计显示 52% 的关键主张（26/50）未被检索包建立，18.4% 的引用完全不能确立相邻主张，失败集中在元数据式或偏题的 Semantic Scholar 结果——$6\times$ 加速交付的报告近半主张缺乏证据支撑，改进方向是启用 web 与 arXiv 通道、加相关性重排与引用忠实性约束。第二，dFast 收益被流水线结构稀释：分解仅占 0.36 秒，端到端反而从 11.89 增至 11.97 秒，只有解除检索限速并实现并行派发后，单遍生成全部子查询的优势才能兑现。第三，质量评测单一依赖 Gemini 2.5 Pro，三配置 RACE 分差不到 0.008 且配对区间全含零，『dFast 质量最佳』应保守解读，建议多评审交叉与人类盲评。第四，并行写作精修损失的自我修订能力未被度量，早期结构错误传播风险需专项审计。第五，分解探针用合成查询而非真实基准查询，$1.99\times$ 的外部效度有待验证。
未来方向
作者提出的方向：在更高吞吐的检索后端下量化单遍子查询生成带来的并行检索派发收益（当前被每秒 1 请求限速挡住）；扩展到多模型家族与规模的更宽骨干扫描以强化归因；启用学术 arXiv 与 web 通道补足 Semantic Scholar 覆盖不足。基于成果可延伸的方向：把『读取中间去噪态』机制推广到大纲、计划校验标志、评审清单等其他结构化中间产物，形成扩散原生的智能体早期输出协议；将 fast 模式与并行检索、缓存结合，冲击交互式秒级深度研究；针对审计暴露的引用忠实性问题，把证据支撑度作为扩散去噪的显式约束或评审门控；在消费级硬件上研究蒸馏或更小扩散骨干的延迟-质量曲线；以及深挖中文任务上扩散写作的优势——语言面板中 dFast/zh 的 RACE 0.4016 是六个模式-语言组合中最高的一项，值得专门验证。
复现评估
复现条件相当好。代码以 Apache-2.0 许可开源，仓库为 github.com/alanrbtx/DiffResearch；评测基准 Deep Research Bench 公开（100 任务、50 中 50 英、22 个领域），官方 RACE 框架可获取；两个骨干 diffusiongemma-26B-A4B-it 与 gemma-4-26B-A4B-it 均为公开模型，经 Hugging Face 运行时服务；检索为纯 API 调用无需本地索引；dFast 隔离探针明确排除了模型加载时间并公开了三个提取点的定义。主要门槛：本地部署 26B 级模型需要 H200 级显存（论文在单张 H200 pod 上运行）；RACE 评审调用 Gemini 2.5 Pro 产生 API 费用；Semantic Scholar API 有自身限速；人工溯源审计依赖配置盲评与主观判断，精确复现较难但结论方向可验证。总体属于中等难度：有单卡 H200 或等效云端资源并愿意支付评审 API 费用的话，逐表复现端到端延迟与 RACE 分数是可行的。
论文图表