故我在——我思故我在：推理模型中先决策后思考的证据

大模型先做决定再找理由

前置知识

线性探针（Linear Probe）

线性探针是一种简单的分类器，通常使用逻辑回归或线性SVM，用于从神经网络的隐藏状态中提取特定信息。它通过学习一个权重向量w，将高维隐藏状态x映射到预测概率$\hat{y} = \sigma(w^T x)$，其中$\sigma$是sigmoid函数。探针在训练时保持模型参数固定，只训练分类器权重，因此可以检测隐藏状态中是否编码了特定信息。

本文使用线性探针从生成前的模型激活中预测工具调用决策，这是证明早期决策编码存在的关键技术手段。

激活导向（Activation Steering）

激活导向是一种在推理时操控模型行为的技术，通过在特定层的隐藏状态上添加或减去一个方向向量来影响模型输出。给定类条件均值$\mu_+$和$\mu_-$，导向向量为$v = \mu_+ - \mu_-$。在推理时，修改后的隐藏状态为$h' = h + ?lpha v$，其中$?lpha$控制导向强度，正负号表示注入或抑制对应概念。

本文使用激活导向作为因果工具，通过注入或抑制工具调用倾向来证明早期编码决策的因果影响，而不仅仅是相关性。

思维链（Chain-of-Thought）

思维链是一种提示策略，要求模型在给出最终答案之前先生成中间推理步骤。例如，对于数学问题，模型会先逐步分析问题，再给出答案。CoT通过让模型显式化推理过程，可以提高复杂任务的性能和可解释性。o1和DeepSeek-R1等系统使用强化学习训练模型产生推理trace。

本文研究的核心问题是思维链是否忠实反映内部推理，还是仅仅是事后合理化。CoT忠实性问题对AI安全性和可解释性至关重要。

残差流（Residual Stream）

残差流是Transformer架构中每个层输出后的激活，包含了从输入到当前位置累积的所有信息。在Transformer中，每个层的输出通过残差连接加到前一层输出上，形成$h^{l+1} = h^l + f^l(h^l)$。残差流是表示工程（Representation Engineering）的主要操作对象，因为它在模型中传递最完整的信息。

本文从post-layer残差流中提取激活，这是获取模型内部表示的标准位置，也是构建导向向量的基础。

研究动机

大语言推理模型如o1和DeepSeek-R1通过思维链显著提升了处理复杂任务的能力，但引发了一个根本性问题：模型是在推理过程中做出动作决策，还是在可见推理开始之前就已经编码了强烈的动作倾向？对于工具增强的推理模型，这直接关系到推理的忠实性（faithfulness）和测试时扩展的效率与可靠性。如果模型在思考前就决定了调用工具，那么生成的思维链可能只是在合理化一个已经做出的决定，而不是真正的推理过程。这对CoT作为可解释性工具的可信度提出了严重挑战。

本文的目标是本文的三个核心目标是：第一，证明动作决策在可见推理开始之前就可被高置信度预测，这提供了早期决策编码的证据；第二，使用激活导向技术提供因果证据，证明通过注入或抑制决策方向可以改变模型行为；第三，通过行为分析展示当导向改变决策时，思维链经常合理化这种翻转而不是抵抗它，说明CoT在这些情况下充当事后合理化的角色。

与已有工作不同的是，现有工作主要从未来token预测（如预测押韵词）或答案正确性检测的角度研究隐藏状态编码，本文首次将视角转向检测动作选择决策，特别是工具调用决策。与使用探针提前终止推理以提高效率的工作不同，本文关注推理开始之前编码了什么潜在决策，以及扰动该信号如何改变后续推理轨迹。与纯粹使用激活导向作为优化工具的研究不同，本文将其作为因果工具来理解推理过程本身。

核心方法

本文的方法论结合了三种关键技术：隐藏状态探针检测早期决策、激活导向建立因果联系、LLM行为分析评估推理质量变化。整体流程是：先收集推理trace并提取关键位置的激活（如生成第一个思考token前的pre_gen位置），然后训练线性探针预测工具调用决策；如果探针证明早期激活可以高置信度预测决策，就构建导向向量，在推理时注入或抑制工具调用倾向；最后通过行为指标（翻转率、推理token膨胀）和LLM judges评估思维链如何响应扰动。

核心创新在于将激活导向从优化工具转变为因果分析工具：先使用探针识别与特定决策（如工具调用）相关的表示，然后通过注入或抑制该信号来观察模型后续推理如何变化。这种因果干预与传统的探针预测形成互补，前者证明相关性，后者证明因果性。另一个关键创新是将决策预测目标从未来token扩展到动作选择决策，这是首次在推理模型上进行此类研究。

方法步骤详情

第一步是模型和数据准备，选择Qwen3-4B和GLM-Z1-9B两个推理模型，使用NVIDIA When2Call benchmark（3652个测试例子，57%需要工具调用）和BFCL benchmark作为辅助。第二步是隐藏状态提取，使用vLLM服务引擎生成推理trace，通过forward hooks捕获post-layer残差流在关键位置的激活：pre_gen（生成第一个思考token前）、think_start（思考开始）、思考过程的5%-75%百分位点、think_end（思考结束）。第三步是探针训练，为每个(层,位置)对独立训练逻辑回归探针，使用二分类交叉熵损失，预测目标是tool/no-tool。第四步是导向向量构建，对固定层L和位置t，计算类条件均值$\mu_+ = ?rac{1}{N_+}\sum_{i:y_i=1} h^{(L,t)}_i$和$\mu_- = ?rac{1}{N_-}\sum_{i:y_i=0} h^{(L,t)}_i$，导向向量为$v = \mu_+ - \mu_-$。第五步是导向干预，在推理时修改激活为$h^{(L,t)} = h^{(L,t)} + ?lpha v$，$?lpha \in \{4, 8, 12\}$控制强度。第六步是评估，在100个保留样本上测量抑制/注入翻转率、推理token变化量$\Delta_{reason} = ?rac{r_{steer} - r_{base}}{r_{base}}$，以及使用GPT-5.4和Claude Sonnet 4.6作为LLM judges进行行为分类。

技术新颖性

技术新颖性体现在三个方面：一是首次将探针分析从token预测扩展到动作决策检测，这对理解推理模型的决策机制有独特价值；二是首次使用激活导向作为因果分析工具而非优化工具，为早期决策编码提供了因果证据而非仅仅是相关性证据；三是创新性地使用LLM judges对思维链变化进行细粒度行为分类，区分了seamless divergence（无缝分歧）、confabulated support（虚构支持）、constraint override（约束覆盖）、inflated deliberation（膨胀推理）、decision instability（决策不稳定）和no meaningful difference（无显著差异）六种模式，这为理解推理过程如何响应扰动提供了精细框架。

**Figure 1**: Overview of our methodology. Linear probes detect action decisions. We apply steering vectors, and measure quantitative as well as behavioral impact on CoT.

实验结果

探针分析结果显示，在两种基准测试中使用任一模型，都能在生成第一个推理token之前以极高置信度检测动作决策：Qwen3-4B在When2Call上pre_gen位置的AUROC超过95%，在BFCL上超过90%；GLM-Z1-9B在两个基准上都超过90%。令人惊讶的是，推理过程中的置信度显著下降，但到思考结束时恢复到接近100%，且pre_gen位置的决策与think_end位置的决策对齐率超过80%，后者与模型实际决策的准确率几乎完美对齐。激活导向实验表明，Qwen3-4B在thinking模式下，$?lpha=12$时抑制翻转率达49%，注入翻转率达62%；GLM-Z1-9B在BFCL上$?lpha=30$时抑制翻转率达58%，注入翻转率达79%。推理token膨胀分析显示，翻转案例通常伴随显著增加的推理量，如Qwen3-4B在When2Call上翻转案例的CoT平均从537个token增加到741个（膨胀1.38倍），抵抗案例从208个增加到477个（膨胀2.30倍）。行为分析揭示，当激活导向改变决策时，思维链经常合理化翻转而非抵抗：在When2Call注入翻转的58个案例中，57%展现confabulated support（虚构支持）；在BFCL注入翻转中，Qwen3有57%展现虚构支持，GLM有47%展现constraint override（约束覆盖）。GLM在When2Call上表现出强抗性，大多数样本无显著差异。

**Table 1**: Steering flip rates on held-out examples (n = 100 per direction). (T) refers to thinking mode, (NT) refers to no-think (unavailable for GLM).

**Table 2**: Average CoT token inflation at α = 12 (except, α = 30 for GLM+BFCL) on held-out examples, grouped by suppress or inject direction, and flipped or resisted outcome.

**Table 3**: Behavioral bucket distribution. When2Call, both judges agree. '-' denotes 0.

**Table 4**: Behavioral bucket distribution. BFCL, both judges agree. '-' denotes 0.

**Figure 2**: Decision predictability using probes at layer 20 for Qwen3-4B and GLM-Z1-9B. Both models exhibit a dip at around 5% of the reasoning trace.

**Figure 3**: Agreement ratio between decisions detected by probe at layer 20 for various stages and think_end tokens, and correctness, for Qwen3-4B and GLM-Z1-9B.

**Figure 4**: Example of injection steering (Qwen3-4B) that forces a tool call when the baseline response is to abstain.

**Figure 5**: Probe AUROC across sampled layers and generation positions on When2Call for the two main models, Qwen3-4B and GLM-Z1-9B. In both cases, the strongest probes appear in mid-to-late layers, with strong pre_gen predictability and a dip around 5% to 10% of the reasoning trace.

**Figure 6**: Probe AUROC across sampled layers and generation positions on BFCL for the two main models, Qwen3-4B and GLM-Z1-9B. Both models preserve strong pre_gen predictability, show the early dip in the reasoning trace, and recover in later positions.

**Figure 13**: Suppression example. The probe assigns 0.9992 tool probability. At baseline, the model calls the tool in 5 sentences. Under steering, it fixates on city formatting, generates 2.87× more reasoning, and talks itself out of the call entirely.

**Figure 14**: Resistant suppression example. The probe assigns 1.00 tool probability. The model produces the same tool call in both conditions, but the steered chain-of-thought inflates 3.57×, filled with hedging about whether the function accepts states versus cities. The final decision survives, but the reasoning trace is visibly destabilized.

**Figure 15**: Injection-resistant example. The probe assigns 7.5 × 10−9 tool probability. Steering leaves the final decision unchanged and produces only a brief, self-corrected reference to an unrelated function before the model returns to the same no-tool conclusion.

查看结构化数据

任务	指标	本文	基线	提升
工具调用决策预测（When2Call）	pre_gen位置AUROC	>95% (Qwen3-4B), >90% (GLM-Z1-9B)	无基准，首次研究此任务	首次证明早期决策可高置信度预测
工具调用决策预测（BFCL）	pre_gen位置AUROC	>90% (Qwen3-4B), >90% (GLM-Z1-9B)	无基准，首次研究此任务	跨基准验证早期决策编码普遍性
激活导向决策翻转（When2Call, thinking模式）	注入/抑制翻转率 (α=12)	Qwen3-4B: 62%/49%	无基准，首次研究此任务	首次证明早期决策的因果可控性
激活导向决策翻转（BFCL, thinking模式）	注入/抑制翻转率 (α=30)	GLM-Z1-9B: 79%/58%	无基准，首次研究此任务	高翻转率证明早期决策强因果性

局限与改进

作者承认的局限性包括：由于架构差异（混合专家），GPT-OSS-20B被排除在因果分析之外，需要不同的导向技术；分析集中在二元工具调用决策，可能无法推广到更复杂的动作空间；激活导向强度$?lpha$的选择是启发式的，需要针对不同模型和基准调整；LLM judges的行为分类虽然一致性高，但仍可能存在偏见。我自己观察到的局限性包括：实验主要在两个模型上进行，结论的泛化性需要更多模型验证；行为分析的六个类别可能有重叠，某些案例可能同时符合多个类别；只研究了工具调用这一特定动作类型，其他动作决策（如代码生成步骤）可能有不同的编码模式；没有研究这种早期决策编码对下游任务性能的实际影响。

独立分析的弱点

第一个弱点是研究范围有限，只考虑了二元工具调用决策。改进方向是将方法扩展到多类别动作决策（如选择不同类型的工具、选择不同的API端点）以及连续决策（如函数参数值）。第二个弱点是激活导向的启发式性质，$?lpha$值需要针对不同设置手动调整。改进方向是开发自适应导向强度选择方法，可能基于梯度搜索或贝叶斯优化来找到最小有效干预。第三个弱点是缺乏对推理效率的实际影响评估。改进方向是测量早期决策预测如何用于跳过不必要的推理token，以及导向引起的推理膨胀在实际部署中的成本。第四个弱点是LLM judges的潜在偏见和分类框架的任意性。改进方向是开发更客观的行为度量，如基于规则的分析或多维度评分体系，以及扩大judge集合以减少单个模型的偏见。

未来方向

作者提出的未来工作包括：在强化学习训练中引入探针置信度作为辅助惩罚项，推动模型产生更忠实于其推理的决策；测量这种训练方法是否能产生比纯文本目标训练更有信息量的推理trace。基于本文成果可以延伸的方向包括：研究其他类型动作决策的早期编码，如代码生成中的函数选择、对话中的回复类型；开发基于早期决策编码的效率优化策略，如跳过高置信度决策的推理过程；研究早期决策编码如何随模型规模和训练方法变化；探索是否可以训练出抵抗早期决策干扰的更鲁棒推理模型；将方法应用于安全场景，检测模型是否在推理开始前就编码了恶意意图。

复现评估

论文提供了完整的附录，包括所有热力图、行为分析prompt和补充实验结果，这有助于复现。模型使用开源的Qwen3-4B和GLM-Z1-9B，可以通过Hugging Face获取。数据使用公开的When2Call和BFCL基准。实验使用vLLM服务引擎，代码相对标准。主要挑战是隐藏状态提取需要forward hooks，需要熟悉PyTorch的内部机制；激活导向的层和位置选择需要经验判断，虽然论文给出了指导但可能需要调优；LLM行为分析需要API访问GPT-5.4和Claude Sonnet 4.6，这会产生成本。算力需求中等，主要是推理和探针训练，不需要大规模分布式训练。整体复现难度中等偏高，需要深度学习基础和一些工程技巧。

故我在——我思故我在：推理模型中先决策后思考的证据 Therefore I am. I Think