置信度源于经验：从推理到智能体的经验性置信度估计 Confidence Comes from Experience: Experiential Confidence Estimation from Reasoning to Agents

第一步：模型解题，写评分前的自我反思 $r$，陈述置信度 $v\in[0,1]$。第二步（Grading）：最强验证器打分得 $y\in\{0,1\}$：选择题exact match、代码单元测试、自由推理金标LLM验证、其余环境评分。第三步（入库）：actor自写一次性教训lesson入库并隔离，防止事后偏差污染自评。第四步（Recall）：嵌入器编码任务得 $\varphi(x)$，与 $v$ 拼成检索键 $F(e)=[\varphi(x);v]$，拟合正确性监督的度量重标定（相似即因同样原因失败），取 $k=50$ 近邻算命中率 $\mathrm{Recall}(e)=\frac{1}{k}\sum_{j\in N_k(e)}y_j$；库稀疏时退化为该置信档位的基础成功率，粗糙但诚实。第五步（Reflect）：episode渲染成短卡片（任务/置信/结果/教训），模型先命名反复的失败模式，再重述校准后的 $\mathrm{Reflect}(e)$，不重新解题。第六步：输出 $\frac{1}{2}(\mathrm{Recall}+\mathrm{Reflect})$。

技术新颖性可从表1的五维对比看清：表述式免训练但「随经验扩展」为否——没有利用历史结果的机制；训练式和post-hoc/conformal虽然消费分级结果，但新episode要重新训练或拟合才生效，且前者要动权重、后者继承基分数的局限；一致性靠重采样同一任务来锐化，答案不可比时失效。XConf在单次生成、黑盒、免训练、随经验扩展、格式通用五个维度全部成立，是第一个在推理时查询模型自身分级历史的估计器。实现上的巧思包括：正确性监督的度量重标定让相似意味着因同样原因失败而非话题相同；教训隔离从结构上阻止事后聪明偏差；消融显示检索键中陈述置信度最重要（去掉损失推理.08、智能体.12 AUROC），随机近邻AUROC只有.494、纯语义检索.732、完整配方.833，说明信号确实来自分级结果与相似检索的组合而非检索本身。与并发的GCM（把分级历史蒸馏进微调的正确性模型）相比，本文探索免训练、显式episode检索的一端，并把评估扩展到代码和智能体轨迹。

第一，冷启动依赖：新任务域上线初期库为空，XConf退化为「该置信档位的基础成功率」，可能不如免费的表述式置信度。改进方向：从同族领域捐赠库暖启动（同域迁移几乎无损、跨模型损失.03-.06、跨任务族中位.08），或库稀疏时对表述式与经验式做自适应混合。第二，等权融合可能次优：$\frac{1}{2}(\mathrm{Recall}+\mathrm{Reflect})$ 中Recall在Qwen3.5从397B缩到4B时几乎不变，而Reflect在27B以下明显退化，固定等权让小模型被Reflect拖累；可按模型规模或验证集拟合两个读数的权重。第三，检索键是手工设计的重加权对角重标定，且只用单一嵌入器gemini-embedding-001，代码AST、轨迹步骤统计等结构信息未利用；可在库上对比学习专用键或引入结构化键（失败模式类别、动作序列特征）。第四，教训只入库、不参与反馈回路，积累未形成可复用抽象；可按失败模式聚类episode，在Reflect时既给原始卡片也给模式级摘要，让「边界检查很重要」这类教训以更低token成本触达模型。

作者明确提出的开放问题：如何检索（学习型或结构化键替代重加权对角）；如何建设与维护库（保留什么、何时遗忘、能否把episode巩固为可复用失败模式——初步的参数化与聚类尝试未胜过保留原始记录）；如何设计反思以产生更锐利的检索键；如何把战绩读回模型使其再校准而非单纯顺从。最有想象力的方向是与自我进化记忆组合：能力型记忆与校准型记忆可共享一个存储，因为episode记录已包含策略记忆蒸馏所需的内容，而校准后的置信度又可反过来门控进化回路，决定重试什么、哪些教训值得写。作者特别提醒：自我改进的actor是非平稳的，经验绑定actor（跨模型迁移损失.03-.06），随能力增长旧episode会渐变为另一个模型的记录，校准记忆需要与能力增长同步遗忘。此外可延伸的方向包括：把经验校准用于LLM路由（按置信度分发到不同成本的模型）、人类审核队列的优先级排序，以及在RLHF之外用分级episode作为免训练的自我改进信号。

复现条件中等偏上。有利因素：方法免训练、黑盒，无需GPU训练；九个基准全部公开（MMLU-Pro、SuperGPQA、BBEH、OlympiadBench、LiveCodeBench、MMMU-Pro、ScienceWorld、AppWorld、SWE-bench Verified）；论文给出完整实验协议（五折轮换、严格实时入库回放、配对bootstrap显著性检验、防退化校准的报告规则），prompt与实现细节在附录K/M，Brier分数（表7）等指标全覆盖，并有网站caiqizh/xconf与开源代码。不利因素：Qwen3.5-397B需本地多卡部署，Gemini与Claude走API有成本；构建经验库要求先跑完所有episode的grading，SWE-bench仓库单元测试和AppWorld环境交互都耗时；嵌入依赖gemini-embedding-001，换嵌入器需重验重标定。总体上，复现Recall/Reflect管线与消融门槛不高，完整复现九基准×四模型的库构建需要可观评测预算；建议从MMLU-Pro加单一模型起步验证收益再扩展。