思维链中没有全局规划：揭示大语言模型的潜在规划视野 No Global Plan in Chain-of-Thought: Uncover the Latent Planning Horizon of LLMs
LLMs的CoT推理是近视的增量转换，而非全局规划
前置知识
Chain-of-Thought (CoT)
链式思维提示是一种通过让大语言模型在给出最终答案前展示中间推理步骤来提升复杂推理能力的技术。模型会在 标签中生成详细的思考过程，逐步分析问题，然后再输出最终答案。这种方法使得模型能够将复杂问题分解为多个可管理的子步骤，显著提升了数学、逻辑推理等任务的表现。
本文的核心研究对象就是CoT的内部动态特性，理解CoT的工作机制是读懂本文的基础。
Hidden States (隐藏状态)
Transformer模型在处理输入时，每一层都会生成一个高维向量表示，称为隐藏状态。这些向量编码了模型对输入的理解和内部推理信息。对于一个有64层的模型（如Qwen3-32B），每一层的隐藏状态都包含不同层次的语义信息——中间层通常编码更丰富的语义信息，而靠近输出的层则更接近最终预测。
本文通过探测隐藏状态来研究LLM的内部规划能力，理解隐藏状态的特性是理解Tele-Lens方法的关键。
Tele-Lens
本文提出的探测方法，灵感来源于Logit Lens。它使用低秩适配器（Low-Rank Adapter）将Transformer中间层的隐藏状态转换到词汇表空间，从而可以在任意位置预测后续token、最终答案、推理长度等信息。适配器使用瓶颈结构：$\tilde{H}_k^i = \text{GeLU}(H_k^i + \text{Emb}_k(\delta)) A_k B_k$，其中秩 $r=256$ 远小于隐藏维度 $d=5120$。
Tele-Lens是本文的核心方法论贡献，使得多维度的探测实验成为可能。
Myopic Planning Horizon
本文的核心发现：LLMs在进行CoT推理时表现出'近视'的规划特性。这意味着模型的隐藏状态主要支持即时的、局部的状态转换，而不是从一开始就规划好整个推理路径。精确的最终答案预测往往只在推理完成前的最后一步才出现，早期隐藏状态对最终答案的预测接近随机猜测。
这是论文的核心贡献，统一了此前关于LLM内部规划能力的矛盾观点。
研究动机
关于LLMs的内部规划能力，现有研究呈现出矛盾的图景。一方面，多项研究发现LLMs的隐藏状态似乎在CoT完全展开之前就已经编码了未来推理的信息：Pal et al. (2023) 发现早期隐藏状态已经编码了后续生成的信息；Sheng et al. (2025) 发现推理能力在生成开始前就已预先规划；Dong et al. (2025) 观察到早期隐藏状态可以高相关性地预测推理步骤和关键属性。另一方面，理论分析表明CoT是不可或缺的：Transformer受限于其架构的表达能力限制（Bhattamishra et al., 2023; Merrill & Sabharwal, 2023），只有中间的CoT步骤才能实现长度泛化（Anil et al., 2022）和组合推理（Wies et al., 2023）。这种矛盾使得我们对LLM内部状态与显式推理轨迹之间的关系缺乏清晰理解。
本文的目标是本文旨在深入理解LLM的内部状态与显式推理轨迹之间的关系，具体回答两个核心问题：Q1-隐藏状态在多大程度上编码了推理路线图的全局规划，而非仅支持局部增量状态转换？Q2-规划视野如何进一步影响CoT推理的其他特性（如不确定性和必要性）？这些问题的答案对于改进模型思维设计（如GPT-5和Claude Code的自适应思考机制）具有重要价值。
与已有工作不同的是，本文的独特切入角度在于：(1) 使用统一的探测框架（Tele-Lens）在12个多样化任务上进行系统性实验，而此前的研究通常只关注特定领域；(2) 同时探测三个维度（后续token、最终答案、推理长度），提供多角度的实证证据；(3) 不仅分析规划能力，还将其发现应用于不确定性和必要性估计，展示了实用价值。这种全面的实证研究提供了此前互补但看似矛盾的发现的统一视角。
核心方法
本文的方法论可以分为两个层面：探测分析和应用验证。在探测分析层面，作者首先训练Tele-Lens适配器来从CoT轨迹中的隐藏状态提取多维度的预测信息。直觉上，如果LLM具有全局规划能力，那么早期的隐藏状态应该能够预测后续的推理步骤、最终答案和推理长度。在应用验证层面，作者利用探测发现的'近视'特性，提出了'木桶原理'——推理链的可靠性由少数关键位置（pivot positions）决定，而非所有token的平均。这启发了基于top-k选择的不确定性和必要性估计策略。
本文的核心创新点是揭示了LLM规划视野的'近视'本质，这与此前认为LLM具有某种全局规划能力的观点形成对比。关键区别在于：此前的研究发现早期隐藏状态'编码'了未来信息，但本文通过更严格的实证分析表明，这种编码只是粗粒度的模式匹配信号，而非精确的推理规划。例如，对于需要精确多步推理的任务（如Parity计数任务），最终答案的预测准确率在推理完成前的最后一步才从随机水平（50%）突然跃升到97%以上。这种'近视'特性统一了此前看似矛盾的发现：简单任务中的早期预测信号确实存在，但只是模式匹配的'直觉'，而非真正的推理规划。
方法步骤详情
方法的具体步骤如下：(1) 数据收集：在12个任务上运行LLM（Qwen3-32B和In-Domain LLM），收集CoT轨迹和所有层的隐藏状态。数据集包含最多4000/100/500个问题的训练/验证/测试划分。(2) 适配器训练：对每个Transformer层的每个探测维度，训练一个专用的Tele-Lens适配器。适配器使用秩 $r=256$ 的低秩分解，通过 $\tilde{H}_k^i = \text{GeLU}(H_k^i + \text{Emb}_k(\delta)) A_k B_k$ 转换隐藏状态，然后通过冻结的LM头 $L \in \mathbb{R}^{d \times |V|}$ 预测词汇表分布。(3) 三个维度的探测：后续token预测（预测后续1-8个token）、最终答案预测（直接预测答案token）、推理长度预测（通过回归层预测总长度）。(4) 应用验证：基于探测结果，提出top-k选择策略用于不确定性和必要性估计。对于不确定性估计，选择熵最高的k个位置；对于必要性估计，检测初始位置是否出现低熵的确定信号。
技术新颖性
本文的技术新颖性体现在多个方面：(1) Tele-Lens方法本身是对Logit Lens的扩展，增加了位置偏移注入（$\delta$ offset）和非线性激活（GeLU），使其能够支持多位置预测；(2) 首次在12个多样化任务（包括显式组合任务、隐式组合任务、知识语义任务三大类）上进行系统性探测，而此前研究通常只关注单一领域；(3) 提出了'木桶原理'来解释CoT的不确定性，这是一个新颖的理论洞察；(4) 展示了自动识别CoT跳过的可能性，在Qwen3-32B上实现16.2%的CoT跳过率，仅带来0.03%的准确率下降。
实验结果
本文的核心发现可以从三个维度总结：(1) 最终答案规划：在显式组合任务（Parity、Cycle、Subsum）上，初始CoT位置的探测准确率接近随机水平（如Parity约50%，Cycle约50%），精确的答案预测只在推理完成前的最后一步才突然出现（如Parity从50%跃升到97%）。在知识语义任务（CSQA、MMLU）上，早期确实存在粗粒度预测信号，但这种信号的准确率（如CSQA初始位置约27%）低于直接回答（77.6%）和CoT推理（82.3%）。(2) 后续token预测：Top-5准确率随预测距离快速下降，从下一个token的约90%下降到第8个token的约30-40%，表明LLM缺乏对后续推理路径的远见。(3) 推理长度预测：在大多数任务上，初始隐藏状态无法可靠预测推理长度，热图显示预测值与实际值的相关性很弱。对于Parity和Subsum任务的高相关性是虚假的——因为推理长度与输入长度成正比，这是任务特定的捷径信号而非全局规划。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 不确定性估计（AUROC） | 平均AUROC | 0.69（Tele-Lens Top-5） | 0.60（Self-Certainty基线） | +9%绝对提升 |
| 不确定性估计（AUROC） | Qwen3-32B平均AUROC | 0.78（Perplexity + 100 Pivots） | 0.72（Perplexity基线） | +6%绝对提升 |
| CoT跳过 | CSQA跳过率 | 16.2% | 0%（传统方法） | 准确率仅下降0.03% |
| CoT跳过 | MMLU跳过率 | 12.4% | 0%（传统方法） | 准确率仅下降0.03% |
| CoT跳过 | QuALITY跳过率 | 3.2% | 0%（传统方法） | 准确率仅下降0.03% |
局限与改进
本文存在多个值得讨论的局限性：(1) 方法依赖性：Tele-Lens需要训练适配器，增加了计算开销（每个层每个维度需要约5K步训练），且探测结果可能受适配器能力限制。(2) 任务覆盖：虽然涵盖了12个任务，但仍缺乏对更复杂现实任务（如长文档理解、代码生成）的验证。(3) In-Domain LLM的规模限制：基于Qwen2.5-7B训练的In-Domain LLM在某些任务上不如Qwen3-32B，可能影响'上界'估计的可靠性。(4) CoT跳过的局限性：当前方法依赖固定答案空间（20个token），无法直接应用于开放式生成任务。(5) 因果关系未建立：探测实验只能显示相关性，无法证明隐藏状态'导致'了特定行为。(6) 缺乏对不同模型家族的对比：主要在Qwen系列上实验，可能不完全代表其他架构的行为。
独立分析的弱点
本文存在几个可以改进的弱点：(1) 探测方法的表达能力：当前使用秩 $r=256$ 的低秩适配器，可能无法捕获更复杂的非线性关系。改进方向可以是增加适配器容量或使用更复杂的架构（如小型MLP）。(2) 不确定性估计的简单策略：top-k选择虽然有效，但可能不是最优的。可以探索基于学习的方法来自动识别pivot位置，或使用注意力机制来加权不同位置的贡献。(3) 任务特定的捷径问题：如Parity任务中推理长度与输入长度的虚假相关性，说明需要更好的任务设计来排除混淆因素。(4) CoT跳过的阈值敏感性：当前使用固定的归一化熵阈值（如0.1），不同任务可能需要不同的阈值。可以探索自适应阈值或基于校准的方法。(5) 缺乏对'为什么近视'的深入解释：虽然发现了近视现象，但对其根本原因（是模型架构限制还是训练数据特性）的分析不够深入。
未来方向
基于本文的发现，可以延伸出多个研究方向：(1) 利用近视特性改进CoT压缩：既然大多数token是高置信度的局部转换，可以设计更激进的压缩策略，只保留关键的pivot token。(2) 自适应推理资源分配：根据任务复杂度动态调整CoT长度，简单任务可以跳过或缩短推理过程。(3) 训练信号优化：利用不确定性估计来识别训练数据中的困难样本，进行针对性的强化学习。(4) 多模型协作：不同规模的模型可能具有不同的规划视野，可以设计协作策略让小模型处理简单问题、大模型处理复杂问题。(5) 因果干预研究：通过激活修补（activation patching）等技术，建立隐藏状态与推理行为的因果关系。(6) 跨架构泛化：在Mamba等非Transformer架构上验证近视现象是否普遍存在。
复现评估
本文在可复现性方面做得较好：(1) 代码和数据公开：作者在GitHub上开源了代码、数据和模型（https://github.com/lxucs/tele-lens）。(2) 详细的实验设置：论文附录提供了完整的超参数设置（学习率 $1 \times 10^{-3}$、批次大小8000、秩 $r=256$ 等）和数据生成流程。(3) 使用公开模型：Off-the-Shelf LLM使用开源的Qwen3系列，In-Domain LLM基于Qwen2.5-7B-Instruct训练。(4) 计算资源需求适中：探测实验使用Nvidia V100 GPU，In-Domain LLM训练约800步可收敛。(5) 主要复现障碍：需要访问LLM的完整隐藏状态（每个问题存储所有层的状态），存储需求较大（测试集约11M隐藏状态）。
论文图表
展示了Qwen3-32B选定层在12个任务上的后续token预测Top-5准确率。与Figure 21形成对比，展示了Off-the-Shelf LLM的预测能力。结果同样显示准确率随距离快速下降，且整体准确率低于In-Domain LLM。
这张图与Figure 21形成对比，展示了不同模型架构下的后续token预测能力差异。
展示了In-Domain LLM在所有12个任务上的推理长度预测热图。提供了完整的跨任务分析，可以识别哪些任务具有可预测的推理长度（如Parity、Subsum），哪些任务难以预测（如CSQA、MMLU）。
这是Figure 6的完整版本，支持更全面的任务分析。
展示了Qwen3-32B在所有12个任务上的推理长度预测热图。与Figure 23形成对比，展示了Off-the-Shelf LLM的长度预测能力。结果显示Off-the-Shelf LLM的预测能力更弱，进一步支持了'近视'发现。
这张图与Figure 23形成对比，展示了不同模型架构下的长度预测能力差异。