思维链：基于自适应认知模式的推理框架 Chain of Mindset: Reasoning with Adaptive Cognitive Modes
训练无关的智能体框架，动态切换四种认知模式实现自适应推理
前置知识
Chain of Thought (CoT)
链式思维是一种引导大语言模型逐步推理的提示技术，由 Wei et al. (2022) 提出。其核心思想是在提示中展示从问题到答案的中间推理步骤，使模型能够将复杂问题分解为一系列更简单的子步骤。传统 CoT 使用单一的自然语言推理风格贯穿整个解题过程，虽然显著提升了推理性能，但假设所有推理步骤都可以用同一种认知策略完成。
CoM 框架正是对传统 CoT 的核心改进——CoT 使用单一固定思维方式，而 CoM 引入了多种异质认知模式的动态切换，这正是本文要解决的核心问题。
Agentic Reasoning（智能体推理）
智能体推理是指将大语言模型封装为具有工具使用能力的自主智能体，使其能够调用外部工具（如代码执行器、图像生成器）、观察执行结果并根据反馈迭代修正推理过程。代表性工作包括 ReAct (Yao et al., 2022) 等框架，它们让模型能够进行工具调用和迭代修正，但在整个推理过程中始终采用统一的认知策略。
CoM 是一种智能体推理框架，但与 ReAct 等方法的本质区别在于它引入了多种异质认知模式的动态编排，而不仅仅是工具调用能力。
认知模式 (Cognitive Mindset)
认知模式源自 Guilford (1967) 等认知科学研究，指人类在解决问题时采用的特定认知处理方式。不同认知模式具有不同的功能特征：空间思维将抽象条件具象化为直观视觉表征以促进模式识别；聚合思维通过聚焦的逻辑分析从复杂信息中提炼核心洞见；发散思维在常规逻辑陷入困境时通过探索非常规路径生成新颖可能性。这些认知模式构成了人类处理异质任务的底层灵活性。
本文将认知科学中的认知模式概念形式化为四种可编排的推理模块，这是 CoM 框架的核心理论基础。
Context Gate（上下文门控机制）
上下文门控是一种双向语义过滤机制，用于解决模块化推理系统中信息传递面临的相关性-冗余性权衡问题。它由输入门和输出门两个独立组件构成：输入门以调用指令为语义锚点，从历史推理记录中提取与当前子任务最相关的最小充分上下文子集；输出门则将思维模块的冗长输出蒸馏为简洁的关键洞见摘要，确保主推理链的紧凑性。
Context Gate 是 CoM 框架的关键创新之一，消融实验表明移除它会导致整体准确率下降 8.24%，同时 token 消耗增加 87%，证明其对高效推理至关重要。
研究动机
现有大语言模型推理方法存在一个根本性缺陷：它们在整个推理过程中应用单一固定的思维方式，忽略了同一问题的不同求解阶段本质上需要不同的认知模式。具体而言，现有方法分为两大类，都有各自的局限。第一类是单模式推理方法，如 Chain of Thought (Wei et al., 2022) 和 Tree of Thoughts (Yao et al., 2023)，它们在整个推理过程中使用统一的认知策略，当子任务需要异质能力时就会陷入困境。例如在解决几何证明题时，可能需要先用空间思维可视化图形结构，再用聚合思维识别关键关系，然后用发散思维探索辅助构造，最后用算法步骤验证结果——但现有方法无法在这些不同思维模式之间动态切换。第二类是静态推理策略选择方法，如 MRP (Gao et al., 2024)，它们在任务开始时选择一种推理格式，但当中间结果揭示出另一种思维方式更有效时却无法适应。这种"单一思维假设"阻碍了模型达到更高水平的智能。
本文的目标是本文的核心目标是提出一种训练无关的智能体推理框架 Chain of Mindset (CoM)，使大语言模型能够在单次推理过程中实现步骤级的自适应认知模式切换。具体而言，CoM 要实现三个目标：第一，将推理分解为四种功能异质的认知模式——空间模式、聚合模式、发散模式和算法模式；第二，通过元智能体根据演化中的推理状态动态选择最优认知模式；第三，通过双向上下文门控机制过滤跨模块信息流，确保推理的有效性和效率。最终，该框架应在多种推理任务上显著优于现有基线方法，同时保持计算效率。
与已有工作不同的是，本文的独特切入角度在于将认知科学中的认知模式概念引入 LLM 推理框架设计。与以往将推理策略视为可互换的工作不同，CoM 认为认知模式在功能上是异质的，它们的部署需要显式的编排。关键创新在于实现真正的认知链式调用：不是在整个推理过程中使用单一认知模式，也不是在开始时静态选择一种策略，而是在每个推理步骤根据问题状态动态选择最合适的认知模式。这种"步骤级自适应切换"模仿了人类专家解决问题时的认知灵活性——当精确性被需要时保持推理的严谨性，当常规方法失效时引入创造性思维。此外，CoM 从信息论角度分析了模块化推理系统中的信息传递问题，提出了基于信息密度优化的上下文门控机制，这是以往工作未曾探索的。
核心方法
Chain of Mindset (CoM) 的整体思路可以用一个直觉来理解：人类专家在解决复杂问题时，并不会从头到尾使用同一种思维方式，而是在问题状态演变时灵活切换不同的认知模式。例如解决一个几何证明题，可能先用空间思维可视化图形，再用聚合思维分析关键关系，然后用发散思维探索辅助构造，最后用算法步骤验证。CoM 将这种认知灵活性形式化为一个训练无关的智能体框架。技术路线上，CoM 采用三层解耦架构，将元认知决策与具体任务执行分离。框架包含三个核心组件：元智能体 (Meta-Agent) 作为中央控制器，负责选择认知模式、生成调用指令并内化中间洞见；四种认知模式 (Mindsets) 作为功能异质的推理模块，每个在隔离的上下文中运行；上下文门控 (Context Gate) 在元智能体和认知模式之间执行双向语义过滤。整个推理过程遵循迭代的"计划-调用-内化"循环。
CoM 的核心创新点在于两点。第一是步骤级自适应认知模式切换。与以往方法的根本区别在于，CoM 不是在任务开始时选择一种推理策略并贯穿始终，而是将推理形式化为一个序列决策过程：在每个步骤 t，智能体观察当前状态 s_t = (q, H_{<t})，然后通过策略 pi 选择最优认知模式 m_t = pi(s_t) in M union {empty}，其中 empty 表示终止信号。这种动态编排意味着最优的认知模式不仅取决于原始问题，更关键的是取决于已经尝试和内化的内容。第二是双向上下文门控机制。从信息论角度看，随着推理步骤 t 增加，输入方向的有效信息密度 rho_in = |H_rel|/|H_t| 趋近于 0，意味着噪声线性增长；输出方向的原始输出密度 rho_out 远小于 1。上下文门控的设计目标是将双向信息密度提升至接近 1，通过输入门提取最小充分上下文，通过输出门蒸馏关键洞见。
方法步骤详情
CoM 的推理过程遵循迭代的 Plan-Call-Internalize 循环，具体步骤如下。步骤一：认知决策与计划初始化。元智能体根据问题特征生成认知决策 D，定义初始的思维模式计划。步骤二：状态观察与模式选择。给定当前状态 s_t = (q, H_{<t})，元智能体选择下一个认知模式 m_t，并将调用指令 c_t 通过输入门传递给对应的思维模块。步骤三：上下文门控过滤。输入门 G_in 以调用指令 c 为语义锚点，从历史记录 H 中提取相关上下文子集 H_rel 和相关图像 I_inj，即 (H_rel, I_inj) = G_in(H, c, M, I)。步骤四：认知模式执行。被选中的模式在隔离的上下文中执行：空间模式通过 Nano-Banana-Pro 生成可视化图像（支持文本到图像、图像加文本到图像、代码到图像三种生成模式）；聚合模式执行单次深度推理以得出清晰结论；发散模式先生成 k in [2,5] 个不同解题分支，再独立分析每个分支；算法模式执行生成-执行-修复循环，最多进行 N_max=2 次修复尝试。步骤五：输出蒸馏与内化。输出门 G_out 将思维模块的冗长输出 r 蒸馏为简洁摘要 O_sum = G_out(r, c, I_new)，元智能体以内化洞见的形式将其整合到主推理链中。步骤六：计划修正与迭代。元智能体根据新内化的洞见修改剩余计划，回到步骤二继续迭代，直到选择终止信号。
技术新颖性
CoM 的技术新颖性体现在三个层面。第一，将认知科学中的认知模式概念形式化为可编排的推理模块，并定义了四种功能异质的认知模式——空间模式 (m_spat)、聚合模式 (m_conv)、发散模式 (m_div) 和算法模式 (m_algo)。这不同于以往将推理策略视为可互换的方法，每种模式具有独特的认知策略、隔离的上下文和结构化输出。第二，提出了将复杂推理形式化为序列决策过程的新范式，策略 pi 在每一步根据累积历史 H_{<t} 条件选择最优模式，实现了真正的步骤级自适应切换。第三，从信息论角度分析了模块化推理中的信息传递问题，提出了双向上下文门控机制，通过提升双向信息密度来平衡相关性和简洁性。消融实验证明，移除上下文门控会导致整体准确率下降 8.24%，同时 token 消耗增加 87%，充分验证了这一机制的有效性。
实验结果
CoM 在六个具有挑战性的基准测试上进行了广泛实验，涵盖数学推理、代码生成、科学问答和空间推理四大类别。在 Qwen3-VL-32B-Instruct 基座模型上，CoM 达到 63.28% 的整体准确率，超过最强基线 MRP 达 4.96 个百分点；在 Gemini-2.0-Flash 上达到 52.41%，超出 MRP 达 4.72 个百分点。性能提升在需要灵活模式切换的任务上最为显著：在 AIME25 数学推理上，CoM 达到 73.33%，超出次优方法 10.00 个百分点，展示了发散模式通过多路径探索的价值；在 MAZE 空间推理上，CoM 在两个基座模型上分别超出 MRP 6.00% 和 7.50%。消融研究表明，上下文门控最为关键，移除后整体准确率下降 8.24%；发散模式对数学推理贡献最大，移除后 AIME25 准确率下降 16.66%；空间模式对视觉任务影响最大，移除后 MathVision 下降 9.87%、MAZE 下降 4.50%。效率分析显示 CoM 位于准确率-效率帕累托前沿，以适中的 token 消耗（平均 28.4k）达到最高准确率，而 Tree of Thoughts 消耗 142.5k token 但准确率更低。思维模式调用分析表明，59.7% 的问题调用了两种或以上不同认知模式，验证了多模式协作的必要性。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| AIME25 数学竞赛 | pass@1 准确率 (%) | 73.33 | 63.33 (ReAct) | +10.00% |
| Real-Fermi 费米估算 | pass@1 准确率 (%) | 43.51 | 42.55 (Zero-shot CoT) | +0.96% |
| LiveCodeBench 全部 | pass@1 准确率 (%) | 44.50 | 42.86 (MRP) | +1.64% |
| GPQA-Diamond 科学问答 | pass@1 准确率 (%) | 69.70 | 68.69 (MRP) | +1.01% |
| MathVision-Mini 多模态数学 | pass@1 准确率 (%) | 63.16 | 58.55 (MRP) | +4.61% |
| MAZE 迷宫导航 | pass@1 准确率 (%) | 85.50 | 79.00 (MRP) | +6.50% |
| 整体平均 (Qwen3-VL) | pass@1 准确率 (%) | 63.28 | 58.32 (MRP) | +4.96% |
| 整体平均 (Gemini-2.0-Flash) | pass@1 准确率 (%) | 52.41 | 47.69 (MRP) | +4.72% |
局限与改进
尽管 CoM 取得了显著的性能提升，但论文中和实验结果也暴露了若干局限性。首先，在费米估算 (Fermi) 任务上，移除发散模式 (+1.18%)、聚合模式 (+1.81%) 或上下文门控 (+1.37%) 反而略有改善，说明 CoM 在某些特定任务上存在过度推理的问题，多种认知模式的引入可能带来不必要的开销。作者也指出了这一发现，认为这指向了一个有前景的研究方向——任务感知的认知模式子集选择。其次，CoM 的 token 消耗虽然在帕累托前沿上，但平均 28.4k 的 token 消耗仍显著高于直接推理方法（Direct I/O 约 10k），在效率敏感的场景中可能不具优势。第三，实验仅在两个基座模型（Qwen3-VL-32B-Instruct 和 Gemini-2.0-Flash）上进行评估，且使用 8 张 NVIDIA A100-80GB GPU 部署开源模型，算力门槛较高。第四，空间模式依赖外部图像生成工具 Nano-Banana-Pro，这引入了额外的工具依赖和延迟。最后，实验评估仅使用 pass@1 指标，未报告多次采样的稳定性指标，且所有实验使用温度 0.7，未探讨不同采样参数对结果的影响。
独立分析的弱点
从独立分析的角度，CoM 存在以下可改进的弱点。第一，认知模式选择完全依赖元智能体的 LLM 推理，没有显式的训练信号来优化模式选择策略。在复杂场景中，元智能体可能做出次优的模式选择，尤其是在模式切换的时机判断上。改进方向是引入轻量级的模式选择器，可以基于问题特征和当前状态进行快速决策。第二，上下文门控的输入门和输出门各由一个独立 LLM 调用实现，每次模式切换都引入了额外的推理开销。可以考虑将门控功能蒸馏到更小的专用模型中，或使用规则化的启发式方法替代部分 LLM 调用。第三，四种认知模式的定义是手工设计的，可能不是所有任务的最优模式集。例如，对于某些需要记忆检索的任务，可能需要第五种"回忆模式"。改进方向是让框架支持动态添加新模式，或通过元学习自动发现最优模式集。第四，消融实验显示在费米估算任务上，简化模式集反而更优，说明当前的元智能体在某些场景下无法有效判断何时不需要某种模式，导致引入不必要的认知开销。
未来方向
作者明确指出的未来研究方向包括任务感知的认知模式子集选择，即根据问题特征预先选择最小有效模式子集，在不牺牲准确率的前提下大幅提升效率。基于 CoM 的现有成果，还可以延伸出多个有前景的研究方向。第一，将 CoM 框架扩展到多智能体协作场景，不同智能体可以作为不同的认知模式专家，通过上下文门控进行跨智能体通信。第二，探索可学习的认知模式切换策略，通过强化学习或模仿学习训练元智能体的模式选择能力，替代当前依赖 LLM 推理的方式。第三，将 CoM 应用于更长的推理链任务，如数学定理证明和复杂代码调试，这些任务可能需要更多的认知模式和更复杂的切换策略。第四，研究认知模式之间的协同效应和冲突机制，从认知科学角度深入理解不同模式如何相互增强或干扰。第五，将 CoM 与模型微调结合，训练专门的认知模式专家模型，而非让同一个 LLM 扮演所有角色。
复现评估
在复现评估方面，CoM 具有较好的可复现性。作者已在 GitHub 上公开了完整代码（https://github.com/QuantaAlpha/chain-of-mindset），包括所有提示模板和实验配置。框架的核心设计是训练无关的，不需要任何模型微调或额外训练数据，仅依赖提示工程和工具调用。然而，复现仍面临若干挑战：第一，开源模型 Qwen3-VL-32B-Instruct 需要 8 张 NVIDIA A100-80GB GPU 部署，硬件门槛较高；闭源模型 Gemini-2.0-Flash 通过 OpenRouter 的 Google Vertex API 访问，需要 API 额度。第二，空间模式依赖外部图像生成工具 Nano-Banana-Pro，这引入了额外的工具依赖。第三，所有实验使用温度 0.7 和 top_p 0.95，Qwen3-VL 最大 token 数 32768，Gemini 最大 8192，这些超参数的敏感性未被充分探索。第四，评估使用的六个基准测试均为公开数据集，数据获取无障碍。总体而言，对于拥有充足算力的研究者，CoM 的复现难度适中，核心框架的设计和代码均已开源。
论文图表
这张图展示了一个费米估算问题的完整推理过程示例（问题：如果太阳是一个人的头部，它的手臂有多长？）。CoM 首先使用空间模式生成人体比例图来可视化头臂比例关系（约 3.5 倍），然后用聚合模式澄清语义歧义（头部尺寸应使用半径而非直径），最后用算法模式计算 3.5 乘以 696,340 等于 2,437,190 km。图中展示了空间模式生成的人体比例图，清晰显示了头臂比约为 1:3.5 的关系。
这个案例研究直观展示了 CoM 的两个关键能力：通过空间模式进行视觉具象化（将抽象比例转化为可验证的图像）和通过内化机制进行歧义消解（检测不明确的映射并触发针对性澄清），是理解 CoM 实际工作方式的最佳示例。