共形智能体错误归因：基于序列过滤的多智能体系统不确定性感知错误定位 Conformal Agent Error Attribution
用共形预测为多智能体失败轨迹生成连续错误区间，支撑可回滚的错误归因
前置知识
多智能体系统(MAS)与执行轨迹
多智能体系统(Multi-Agent System, MAS)由多个基于大语言模型的智能体协作完成复杂任务，例如软件开发、科学发现、金融决策等。每个智能体在每一步产生一条轨迹点 $c_j$，整个任务的执行被记录为轨迹 $x = (c_1, c_2, \ldots, c_\ell)$，长度 $\ell$ 可变。当任务最终失败时，研究者关心的是定位'决定性错误步骤'(decisive error) $y^* \in x$，即智能体无法从该步骤恢复的最早错误。MAS 失败定位之所以困难，是因为轨迹很长、跨智能体交互复杂、错误可能在多步后显现。
本文的核心场景是 MAS 失败后的事后错误定位，理解智能体轨迹的序列结构是理解'为什么需要连续预测集'的基础
共形预测(Conformal Prediction, CP)
共形预测是一种提供有限样本、分布无关覆盖保证的不确定性量化框架。给定校准集 $\{(x_i, y_i^*)\}_{i=1}^n$ 和新样本 $x_{n+1}$，CP 用共形分数函数 $S: \mathcal{X} \times \mathcal{Y} \to \mathbb{R}^+$ 衡量候选输出与真实标签的距离，通过取 $\lceil (n+1)(1-\alpha)\rceil$ 分位数作为阈值 $\hat{q}$，输出包含 $y_{n+1}^*$ 的预测集 $C(x_{n+1};\hat{q}) = \{y \in \mathcal{Y} \mid S(x_{n+1}, y) \leq \hat{q}\}$。当数据满足可交换性时，$P[y_{n+1}^* \in C(x_{n+1};\hat{q})] \geq 1 - \alpha$ 严格成立。CP 的关键优势是无需假设分布形式、有限样本即可保证覆盖、用户可控制误覆盖率 $\alpha$。
整篇论文建立在共形预测的数学基础上，理解 CP 的交换性假设、分数函数定义、分位数校准过程是把握方法的前提
预测集(预测区间)与点预测
传统分类器输出一个确定的点预测 $\hat{y}$，CP 输出一个集合 $C(x)$，集合大小反映模型对该预测的不确定性。覆盖率(Coverage)衡量真实标签落入集合的频率；预测集大小衡量定位精度——同样覆盖率下，集合越小代表模型越确信。本文特别强调连续预测集(contiguous prediction sets) $C(x_{n+1};\hat{q}) = (c_j, \ldots, c_k)$，即集合内元素在原序列中相邻，这对序列型数据尤其重要。
理解点预测和集合预测的区别以及连续集的优势(便于回滚和调试)是理解本文创新点的关键
单调性条件与可分解分数函数
本文为序列过滤算法设计的分数函数 $g$ 需要满足边界条件 $g(\emptyset) = 0$（空集不含 $y^*$）、$g(x) = \infty$（全集必含 $y^*$），并希望满足单调性：当子区间 $c_{b:c} \subseteq c_{a:d}$ 时 $g(c_{b:c}) \leq g(c_{a:d})$。通过将步骤级 LLM 评分按区间求和并按轨迹长度归一化，$g(c_{j:k}) = \frac{1}{\ell}\sum_{i=j}^{k} \text{LLM}(c_i)$ 天然满足单调性，且使不同长度的轨迹分数可比。
单调性条件使过滤函数的解析计算从双重优化简化为单次评分调用(Propositions 3.2 和 3.6)，是过滤算法高效性的数学基础
LLM-as-a-Judge 错误归因
现有 MAS 错误归因的主流方法是让一个大语言模型直接判断'哪一步是错误'。三类代表方法：(1) 朴素 LLM 法官，单次提示让 LLM 选出错步(如 Who&When [32])；(2) 结构化推理管线，如 ECHO [3] 用层次化上下文组织、RAFFLES [33] 用多轮多 LLM 互评、CORRECT [31] 加入检索；(3) 微调的归因模型，如 AEGIS [17] 用受控错误注入生成大规模失败轨迹并微调 Qwen3-1.7B。这些方法都只输出点预测 $c_{j^*}$，不附带不确定性信息。
本文的比较对象正是这三类方法，理解它们的能力边界(尤其是点预测缺乏不确定性量化)是把握本文改进动机的关键
研究动机
多智能体系统(MAS)已经在软件工程、科学发现、金融决策等领域广泛部署，但失败定位仍是一大难题。一个失败的 MAS 任务可能涉及数十步跨智能体交互，错误步骤的影响往往在多步之后才显现。现有错误归因方法存在三个核心缺陷：第一，朴素 LLM-as-a-judge(如 Who&When 中 GPT-4o-mini 提示)准确率几乎等同于随机猜测(准确率 0.110 vs 随机基线 0.118)，而 Who&When 数据集(目前唯一带有人工步骤级错误标注的学术基准)仅有 184 个样本，远不足以训练可靠的判别器。第二，结构化推理管线(ECHO、RAFFLES、CORRECT)虽能一定程度提升精度，但仍然输出点预测——告诉用户'第 5 步是错误'，却没有说明模型对此有多确定，使得开发者无法判断该结论是否可靠。第三，所有现有方法都假设失败轨迹中只有一个'决定性错误步骤'(decisive error)，即智能体无法恢复的最早错误，忽略实际场景中'小错累积成大错'的现象。当训练数据中没有更细粒度的错误标注时，方法受限于这种简化假设。
本文的目标是本文的具体目标是设计一个不确定性感知的不确定性量化框架，在 MAS 失败定位任务中提供严格的统计覆盖保证。具体目标分为三个层面：(1) 形式化保证——对任意用户设定的错误率 $\alpha$，保证 $P[y^*_{n+1} \in C(x_{n+1};\hat{q})] \geq 1-\alpha$，且对部分算法同时提供 $P < 1-\alpha + 1/(n+1)$ 的上界；(2) 连续定位——预测集 $C(x_{n+1};\hat{q}) = (c_j, \ldots, c_k)$ 必须是连续区间，便于直接回滚到错误前的状态进行重试，而非任意散点集合；(3) 通用性——框架是模型无关的，可以包装任意的黑盒步骤级评分(如三种 LLM 法官)，且不依赖分布假设。
与已有工作不同的是，本文的独特切入角度是把 MAS 错误归因问题重新定位为'序列数据的共形预测'，并设计出专为序列结构定制的过滤式 CP 算法。已有 CP 工作中，VCP(Vanilla CP)将每步视为独立类别，输出非连续集合，违反序列的序数结构；CRSVP(用于层次分类的树遍历算法)虽输出连续集，但只能沿预设的二叉树分裂进行预测，灵活性极差(例如 4 步轨迹中 $c_2$ 和 $c_3$ 必须一起预测)，且无上界保证。本文则提出 Left Filtration(LF)、Right Filtration(RF)、Two-Way Filtration(TWF)三个新算法：LF 从左到右逐步移除步骤直到评分低于阈值返回后缀，RF 反之，TWF 取 LF 和 RF 的交集。它们的本质创新在于利用单调性条件 (2) 将双重优化解析化、显式利用轨迹的序数结构、且当错误位置偏向一端时(LF/RF 适用)可将推理计算量从 $\ell$ 次评分降至约 $\ell/2$ 次。这是首次将过滤式 CP 引入序列错误归因领域。
核心方法
本文的核心思路是把 MAS 错误归因建模为'序列选择'任务，并用共形预测为这种选择提供覆盖保证。直观上，给定一条失败轨迹 $x = (c_1, \ldots, c_\ell)$，作者希望给出一个连续子区间 $C(x) = (c_j, \ldots, c_k)$，保证 $c_{j^*}$(决定性错误)以至少 $1-\alpha$ 的概率落在这个区间内，且区间越短越好(便于回滚)。技术路线由两个解耦组件构成：(A) 共形算法——给定一个评分函数 $g$，在 $n$ 个校准样本上学出阈值 $\hat{q}$，对新样本用 $g$ 评估并输出满足 $g(C) \leq \hat{q}$ 的最长连续子区间；(B) 评分函数 $g$——估计某个子区间包含决定性错误的概率，本文使用三种 LLM 评分器(朴素、角色提示、微调 Qwen3-1.7B)的聚合。两个组件解耦的好处是它们可以独立替换——任何黑盒评分函数都能被包装成共形集。
本文的核心创新点是三个专为序列数据设计的过滤式 CP 算法(LF、RF、TWF)，它们与已有方法有两个本质区别。第一，连续性 vs 离散性：VCP 把每步当作独立类别，CRSVP 沿树结构强制配对；LF/RF/TWF 利用序列的序数结构，使预测集天然是连续区间，与序列语义对齐且便于回滚。第二，单向过滤 vs 全局打分：传统方法需对轨迹中每一步都调用评分函数 $g$($\ell$ 次调用)，而 LF/RF 只需从一端逐步调用直到阈值跨越——当错误分布偏向一端时，可大幅减少计算量。第三，利用单调性的解析简化：传统 CP 的共形分数涉及双重优化，本文通过 Propositions 3.2 和 3.6 证明，当 $g$ 满足单调性 (2) 时，$\mathcal{S}_{LF}(x, y^*) = g_{LF}(c_{j^*:\ell})$、$\mathcal{S}_{TWF}(x, y^*) = \max\{g_{LF}(c_{j^*:\ell}), g_{RF}(c_{1:j^*})\}$，将分数计算简化为单点或双点评分调用。
方法步骤详情
完整方法流程分为四个阶段。第一阶段——评分函数构建：对每条轨迹的每个步骤 $c_j$，用三种 LLM 评分器(朴素 GPT-4o-mini 提示、角色提示多 LLM 集成、AEGIS 风格微调的 Qwen3-1.7B)输出该步骤为错误的似然分数 $\text{LLM}(c_j) \in \mathbb{R}^+$。第二阶段——单调聚合：对任意子区间 $c_{j:k}$，通过 $g(c_{j:k}) = \frac{1}{\ell}\sum_{i=j}^{k} \text{LLM}(c_i)$ 聚合步骤级分数，天然满足单调性 (2) 和边界条件 $g(\emptyset) = 0$、$g(x) = \infty$。第三阶段——共形校准：将 $n$ 个校准样本的共形分数 $\{\mathcal{S}_i\}_{i=1}^n$ 按升序排列，取第 $\lceil (n+1)(1-\alpha)\rceil$ 个分位数作为阈值 $\hat{q}$。对 LF 共形分数为 $\mathcal{S}_{LF}(x_i, y_i^*) = g_{LF}(c_{j^*_i:\ell})$，对 TWF 为 $\mathcal{S}_{TWF}(x_i, y_i^*) = \max\{g_{LF}(c_{j^*_i:\ell}), g_{RF}(c_{1:j^*_i})\}$。第四阶段——测试集预测：对新样本 $x_{n+1}$，LF 预测集为满足 $g_{LF}(c_{j:\ell}) \leq \hat{q}$ 的最长后缀 $c_{j:\ell}$，RF 类似但为最长前缀，TWF 为 LF 和 RF 交集 $\{c_{j:k} \mid j \geq j_{LF}(\hat{q}), k \leq k_{RF}(\hat{q})\}$。回滚时跳转到该连续子区间的第一个步骤，并用加入失败提示的新 prompt 重启智能体。
技术新颖性
本文的技术新颖性体现在四个层面。首先，过滤式 CP 算法本身是首创——在已知的 CP 文献中，只有 CRSVP(用于层次分类)能产生连续集，但本文的 LF/RF/TWF 是首次为序列数据(尤其是智能体轨迹)设计的连续集 CP 算法，且能给出 $1-\alpha \leq P < 1-\alpha + 1/(n+1)$ 的双侧覆盖保证(VCP/RF/TWF)，CRSVP 只有下界。其次，单调性的解析利用是关键技术贡献——Proposition 3.2 和 3.6 把双重优化简化为单点/双点评分，理论证明与算法实现相互呼应。第三，本文是首次系统地将共形预测应用于多智能体错误归因的下游任务(智能体自动回滚)，把统计覆盖保证和实用回滚机制桥接起来：实验显示 LF 在 GSM8K Left Dense 上达到 0.77 的成功率，覆盖率 0.81，胜过 Top-1 基线和 VCP。第四，解耦设计(算法独立于评分函数)带来强通用性，文章用同一种 LF 算法同时包装朴素 LLM、角色提示 LLM、微调 LLM 三种评分器，得到一致结论——说明过滤算法对评分器的复杂度不敏感，对标签稀缺场景尤为实用(Who&When 仅 184 个样本就足以校准)。
实验结果
实验在真实基准 Who&When(184 个真实失败轨迹)和四个合成数据集(GSM8K/MATH × MACNET/DyLAN，每组合成 1200 条失败轨迹)上进行，覆盖率目标 $1-\alpha = 0.8$。主要发现可归纳为五点。第一，覆盖保证经验验证：Figure 7 表明在 1000 次随机切分下，VCP、RF、TWF 的经验覆盖严格位于 $1-\alpha \leq \text{EC} < 1-\alpha + 1/(n+1)$ 的理论区间内，CRSVP 在低覆盖率区域略偏离下界但无违反。第二，评分器判别能力(表 2)：微调 Qwen3-1.7B 显著优于其他方法，AUROC 0.762、AUPRC 0.382、准确率 0.731，而朴素 GPT-4o-mini 仅 0.519/0.128/0.110，几乎等同于随机基线 0.500/0.118/0.118。第三，移除率 RR(表 3)是核心比较指标——RF 在 Who&When 上 RR 0.20-0.31、Left Dense 合成数据上 0.63-0.78 表现最佳；LF 在 Right Dense 上 RR 0.52-0.64 表现最佳；TWF 在 Mid Dense 上 RR 0.59-0.63 表现最佳。这印证了'算法应匹配数据错误分布'的核心结论：Who&When 的错误严重左偏(Figure 6)，所以 RF 天然适合。第四，关键洞见：过滤算法对评分器复杂度不敏感——即使只用朴素 LLM，LF/RF 仍能在合适的错误分布下达到与微调 LLM 相当的 RR；而 VCP 和 CRSVP 严重依赖微调评分器。第五，计算效率(表 4)：在 Left Dense 上 RF 仅用 3.08 次评分调用(vs VCP/CRSVP/TWF 各 8.50 次)，节省 64% 的推理开销；Right Dense 上 LF 用 3.70 次。第六，自动回滚(表 5)：LF 在三个变体上都接近或超过 Top-1 基线，Right Dense 上成功率 0.75(vs Top-1 0.71、VCP 0.70)，且成本最低 0.40(vs Top-1 0.50、VCP 0.66)——证明连续集的回滚既精准又经济。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 步骤级错误判别(GSM8K + MATH 合并测试集) | AUROC | 0.762(微调 Qwen3-1.7B) | 0.554(角色提示 GPT-4o-mini)、0.519(朴素 GPT-4o-mini)、0.500(随机基线) | +37.5% vs 角色提示，+46.8% vs 朴素 LLM |
| 步骤级错误判别(GSM8K + MATH 合并测试集) | AUPRC | 0.382(微调 Qwen3-1.7B) | 0.161(角色提示)、0.128(朴素 LLM)、0.118(随机基线) | +137% vs 角色提示，3.2 倍于随机基线 |
| 移除率 RR@1-α=0.8 (GSM8K Left Dense, MACNET) | Removal Rate(越高越好) | RF 配合朴素 LLM 已达 0.64 | VCP 0.20-0.30、CRSVP 0.21-0.23、随机相当于 0 | RF 在 Left Dense 比 VCP 提升约 2-3 倍 RR |
| 移除率 RR@0.8 (GSM8K Mid Dense) | Removal Rate | TWF 达 0.59-0.63(各种评分器) | VCP 0.22-0.30、CRSVP 0.27 | TWF 在中间分布数据上比 VCP 提升约 2 倍 |
| 移除率 RR@0.8 (GSM8K Right Dense) | Removal Rate | LF 达 0.52-0.64 | VCP 0.15-0.27、CRSVP 0.10-0.32 | LF 在右偏分布上比 VCP 提升 2-4 倍 |
| 推理计算量(GSM8K 各变体，平均 8.5 步) | 评分函数调用次数 NFE | RF Left Dense 仅 3.08 次；LF Right Dense 仅 3.70 次 | VCP/CRSVP/TWF 各 8.50 次 | 节省 56-64% 推理计算量 |
| 自动回滚成功率 (GSM8K Right Dense, MACNET) | Success Rate | 0.75(LF + 微调 LLM) | 0.71(Top-1)、0.70(VCP) | 比 Top-1 提升 4 个百分点，且成本最低 0.40 |
局限与改进
作者在论文中明确承认三点局限。第一，交换性假设：CP 覆盖保证要求数据可交换(实际中常通过 i.i.d. 近似满足)，当测试分布与校准分布存在显著偏移时覆盖可能失效——作者建议借用分布偏移 CP 方法(如 [9])扩展。第二，算法选择需要先验：LF/RF/TWF 哪个最优取决于错误位置的先验分布，论文假设可从校准数据估计(Figure 6)但若校准数据本身有偏差则选择会错。第三，单决定性错误假设：现有方法(包括数据集标注)假设每条失败轨迹只有一个决定性错误，忽略了'小错累积'的实际场景；作者建议借鉴 [18] 把覆盖目标从单元素包含扩展为对所有错误的召回率覆盖。在我们看来，还有几个隐含限制：(a) 单调聚合的偏差——$g(c_{j:k}) = \frac{1}{\ell}\sum \text{LLM}(c_i)$ 的归一化假设所有轨迹长度近似，但 MAS 轨迹长度差异可能很大(可能需要按区间长度而非轨迹长度归一化)；(b) 评分函数的校准依赖——微调 LLM 需 AEGIS 风格的大量错误注入数据，真实场景未必有这种资源；(c) 回滚的工程开销——重启智能体需要保存和恢复环境状态，论文未深入讨论这部分工程成本。
独立分析的弱点
独立分析可识别四个具体弱点。弱点一：评分函数单调性的代价——$g$ 被强制为聚合型，丢失了步骤间的位置信息(例如'同一种错误连续发生'的'块状'结构未被利用)，可能导致错误集中在短区间时分辨率不足；改进方向是引入位置编码或区间长度归一化。弱点二：TWF 推理效率悖论——虽然 TWF 在中间分布上表现最好(表 3 Mid Dense RR 0.59-0.63)，但表 4 显示其 NFE 仍为 8.50，与 VCP/CRSVP 相当，未能继承 LF/RF 的效率优势，因为交集操作仍需遍历所有步骤；改进方向是为 TWF 设计双向扫描的早停机制。弱点三：LF/RF 在错误位置与算法方向不匹配时退化为全集预测(例如错误在最右时 LF 只能返回整个后缀)，缺乏自适应机制；改进方向是引入'数据驱动的方向选择'，或对每条样本用 LF 和 RF 评分后取较好的那个(类似 ensemble)。弱点四：回滚评估仅在 GSM8K 数学推理任务上做 100 条 MACNET 样本的小规模测试，缺乏在其他领域(代码生成、对话)和不同智能体架构(更多智能体、更长轨迹)上的验证，结论的泛化性存疑。
未来方向
作者在结论中明确指出三个延伸方向：(1) 借用分布偏移 CP 方法(参考文献 [9])将交换性假设放宽为'加权'或'鲁棒 CP'，以应对测试时分布偏移；(2) 把决定性错误假设扩展为多错误设定，使用 [18] 的 CP 召回保证，对所有错误而非单错误提供覆盖；(3) 自动化算法选择——基于校准集自动估计错误位置分布并选择最匹配的过滤算法。基于论文成果还可延伸三个方向：(a) 评分函数的多模态融合——当前只用了 LLM 文本评分，可加入执行轨迹的运行时信号(如工具调用错误码、异常堆栈)作为辅助评分；(b) 在线回滚策略——把 CP 集作为强化学习的状态特征，让智能体在任务过程中主动检测错误并提前回滚，而不是事后处理；(c) 多粒度过滤——目前 LF/RF 只在步骤级别过滤，可扩展到'子任务级'(几个步骤构成一个子目标)以处理更长轨迹。
复现评估
论文代码已在 GitHub 开源(github.com/layer6ai-labs/conformal-agent-error-attribution)，数据来源于公开的 Who&When 基准(MIT license)、MATH 和 GSM8K 数据集(MIT license)，合成数据的生成脚本应包含在仓库中。实验规模中等：Who&When 184 条样本足够在几分钟内完成；合成数据每组 1200 条轨迹用 MACNET/DyLAN 智能体生成，主要算力开销在 GPT-4o-mini API 调用和 Qwen3-1.7B 的微调(AEGIS 风格)。复现难度评估为中等——共形预测的算法实现(50-100 行 Python)很直接，但完整复现需要：(1) 实现 MACNET/DyLAN 两种智能体框架并按 Cemri et al. 错误模式注入失败；(2) 复现三种 LLM 评分器的 prompt 模板(论文 Section C 有细节但需细致调参)；(3) 1000 次随机切分取均值和标准差的统计评估流程。整体来说，论文给出了详细的算法描述、理论证明(Appendix A)、prompt 模板(Appendix C)，对希望跟进的研究者较为友好。
论文图表
示意图展示一条失败的 MAS 轨迹被压缩为一个共形预测集(Conformal Set)，集合中包含决定性错误(Decisive Error)步骤，强调'输出区间而非单点'的思想。
这张图直观传达了全文核心主张——把点预测升级为带统计保证的区间预测，是理解本文动机和方法的最重要图示。
将 4 步轨迹映射为二叉树结构：根节点 $v_1 = (c_1, c_2, c_3, c_4)$，中间节点 $v_2, v_3$ 分别为左右半段，叶节点 $v_4, v_5, v_6, v_7$ 是单个步骤。CRSVP 沿此树做叶到根的遍历。
这张图是理解 CRSVP 算法的关键——它揭示了为什么 CRSVP 灵活度差(例如 $c_2$ 和 $c_3$ 必须配对)，从而引出本文过滤算法的改进空间。
流程图：失败任务 → 生成共形集合 → 状态回滚到集合第一个步骤 → 加入失败信息重启智能体。展示了下游应用的完整闭环。
此图是连接理论 CP 与实际 MAS 自愈能力的桥梁，说明为什么连续集在工程上比散点集更优——便于状态回滚的精确锚点。