思考让大模型智能体变得内向：强制思考如何在用户交互场景中适得其反 Thinking Makes LLM Agents Introverted: How Mandatory Thinking Can Backfire in User-Engaged Agents
强制思考会缩短回复、减少信息披露，反而降低交互式Agent表现
前置知识
Test-time Reasoning / Thinking
在推理阶段让大模型进行显式的内部推理（如 Chain-of-Thought、ReAct 等），在生成最终行动之前先产生中间思考步骤。常见实现包括：Thinking-as-a-Function（TaaF，将思考作为工具调用前的强制函数调用）和 Thinking-as-a-Prefix（TaaP，通过 ReAct 风格的提示前缀引导思考）。这种机制在数学推理和代码生成等封闭任务上已被证明有效。
本文的核心正是研究这一机制在开放交互场景中的效果，理解什么是 thinking 以及它的典型实现方式是读懂全文的前提。
User-Engaged Agent
与用户进行多轮交互的 LLM 智能体，运行在部分可观测环境中。智能体不能独立完成任务，必须通过自然语言回复与用户沟通来澄清意图、获取缺失信息，并通过结构化行动（工具调用）与环境交互来推进任务。典型场景包括旅行预订、商品退换、手机助手等。
论文的研究对象就是这类智能体，区别于封闭世界中独立解题的 benchmark agent，理解其交互特性是理解本文发现的关键。
Information Disclosure
智能体在交互过程中主动向用户披露当前环境状态、可选项或约束条件的行为。例如告知用户“这个商品不能单独取消，只能整单取消”。在部分可观测环境中，足够的信息披露是用户做出正确决策的前提。论文将其与 user engagement request（请求用户输入）区分为两种原子语句类型。
论文发现 thinking 会系统性地减少信息披露，这是导致交互任务失败的核心机制。
Partial Observability
智能体无法完全观测到环境的所有状态信息。在用户交互场景中，用户的完整意图、约束条件和偏好通常不会一次性全部告知，需要智能体通过多轮对话逐步发现和澄清。
部分可观测性使得信息披露变得至关重要——如果智能体不主动共享信息，用户就无法基于充分信息做出正确决策。
Pass@1 与 MSim
Pass@1 是结果导向指标，衡量一次尝试中最终状态是否匹配任务目标。MSim（Milestone Similarity）是过程导向指标，衡量智能体行动轨迹与真值里程碑序列的对齐程度，定义为 $MSim = \frac{1}{m}\sum_{i=1}^{m} sim(v_i^{M+}, f(v_i^{M+}))$，其中 $sim(\cdot)$ 可以是 ROUGE-L F 值或 AST 匹配。
这是本文使用的核心评估指标，理解其含义才能解读实验结果中的数字。
Response Taxonomy
论文提出的原子级响应分类方法，将智能体的每条回复分解为语义上不可再分的原子语句，每个原子语句被分类为两种功能类型之一：information disclosure（信息披露，向用户传达当前状态或可用选项）或 user engagement request（用户互动请求，促使用户输入或行动）。该分类通过自动化流水线实现，并经人工标注验证。
这是论文分析 thinking 效应的核心方法论工具，通过原子级分析揭示了 thinking 如何系统性地减少信息披露。
研究动机
显式思考（explicit thinking）已被广泛用于提升 LLM 在数学推理、代码生成等封闭任务上的表现，“先想后做”已成为现代 LLM Agent 的主流设计范式。然而，现实世界中的 Agent 并非在封闭环境中独立运作——它们需要与用户进行多轮交互，在部分可观测条件下通过对话来澄清意图、获取信息、引导用户达成目标。在 τ-bench 的 τ-Retail 和 τ-Airline 以及 ToolSandbox 的 TS-Phone 三个用户交互基准上，论文测试了 7 个主流 LLM（包括 GPT-5、GPT-4.1、GPT-4o、Gemini-2.5-Pro、DeepSeek-V3.1、gpt-oss-120b、Qwen3-30B-A3B Instruct），发现开启 thinking 后性能普遍下降。例如 Gemini-2.5-Pro 在 τ-Retail 上从 67.83% 暴跌至 37.43%（下降 37 个百分点），GPT-4o 从 64.04% 下降至 57.89%（下降 6.15 个百分点），DeepSeek-V3.1 从 73.04% 下降至 66.35%（下降 6.69 个百分点）。这一反直觉的现象尚未被系统研究，现有工作主要关注 thinking 在封闭基准上的效果，忽视了交互场景中可能出现的负面效应。
本文的目标是本文的目标是系统性地研究强制思考（mandatory thinking）在用户交互 LLM Agent 场景中的效果，具体包括：（1）跨多个模型、基准和 thinking 实现方式（TaaF 和 TaaP）量化 thinking 对任务表现的影响；（2）深入理解 thinking 为何会损害交互场景中的 Agent 性能，揭示其背后的行为机制；（3）基于分析提出简单有效的改进方案，验证信息透明度意识在 Agent 优化中的价值。论文希望回答的核心问题是：在现实的用户交互场景中，强制思考是否仍然有益？
与已有工作不同的是，本文的独特切入角度在于从“信息交换”的视角审视 thinking 的效果，而非仅仅关注推理能力。现有工作主要在完全可观测、单轮的封闭基准上评估 thinking 的效果，但用户交互场景的核心挑战在于信息不对称——用户意图部分可观测，需要 Agent 通过主动沟通来获取缺失信息。论文发现 thinking 会使 Agent 变得“内向”：缩短回复长度、减少信息披露，从而削弱与用户的信息交换，导致下游任务失败。这一视角将评估重心从“Agent 能否正确推理”转向“Agent 能否有效沟通”，填补了 thinking 在交互场景中的研究空白。
核心方法
论文的研究方法分为三个递进层次：评估、分析和干预。首先，在评估层面，论文在三个用户交互基准（τ-Retail、τ-Airline、TS-Phone）上对 7 个 LLM 进行了系统性的对照实验，比较启用和禁用 thinking 条件下的 Agent 表现，覆盖两种 thinking 实现方式（TaaF 和 TaaP）。其次，在分析层面，论文超越聚合指标，从行为层面分析 thinking 如何改变 Agent 的交互模式：通过输出缩放分析（response length）、原子响应分类（response taxonomy）和失败传播案例研究三个维度，揭示 thinking 使 Agent 内向化的机制。最后，在干预层面，基于分析发现，论文提出了信息披露提示（InfoDis）策略，通过在系统提示中添加简单指令来鼓励 Agent 主动披露信息，并验证其在多个模型上的效果。
论文的核心创新在于发现并命名了 thinking 使 Agent 内向化这一现象。与已知的 thinking 提升封闭任务表现不同，在用户交互场景中，thinking 会系统性地改变 Agent 的行为模式：Agent 不再主动向用户披露关键信息（如约束条件、可选项），而是生成更短、更精简的回复，仅提供最小必要信息。这种行为变化并非个别模型的偶然现象，而是在 7 个模型、3 个基准、2 种 thinking 实现上一致出现的系统性模式。本质上，thinking 将 Agent 的注意力从“与用户沟通”转向了“内部推理”，在需要主动信息交换的场景中反而成为负担。这一发现挑战了“thinking 总是有益的”这一普遍假设。
方法步骤详情
论文的方法分为以下步骤：（1）实验设计——选择 7 个代表性 LLM（4 个闭源 + 3 个开源），在 τ-Retail（115 个任务，16 个工具，平均 16 轮交互）、τ-Airline（50 个任务，14 个工具，平均 12 轮交互）和 TS-Phone（224 个任务，34 个工具）三个基准上进行评估；（2）Thinking 实现——TaaF 方式在工具调用前强制执行一个 thinking 函数调用，TaaP 方式通过 ReAct 风格的 Thought 前缀引导思考；（3）输出缩放分析——统计每个轨迹中智能体回复的平均 token 数和长回复（不少于 150 tokens）出现频率；（4）原子响应分类——使用自动化流水线将每条回复分解为原子语句，分类为 information disclosure 或 user engagement request，统计两类语句的出现频率；（5）失败传播案例研究——人工采样 thinking Agent 失败而非 thinking Agent 成功的案例，回溯分析失败如何在交互中传播；（6）InfoDis 干预——在系统提示中添加信息披露指令，在 GPT-4o、Gemini-2.5-Pro、DeepSeek-V3.1 上验证效果。
技术新颖性
论文的技术新颖性体现在多个方面。首先，这是首个系统性研究 thinking 在用户交互 Agent 场景中负面效应的工作，发现了一个反直觉但一致的现象。其次，论文提出了原子响应分类（atomic response taxonomy）方法，将 Agent 回复分解为不可再分的语义单元进行功能分类，超越了粗粒度的聚合指标分析。第三，论文将 thinking 的效果从“推理能力”维度扩展到“信息交换”维度，提出“信息透明度意识”这一新的 Agent 设计原则。第四，失败传播案例研究方法——通过对比 thinking 和非 thinking Agent 的轨迹，追溯信息遗漏如何级联导致任务失败——提供了一种理解交互失败的新方法论。最后，简单的 InfoDis 提示策略在多个模型上一致获得提升（如 DeepSeek-V3.1 在 τ-Airline 上提升 4.00%），证明“内向化”是可纠正的设计选择而非模型固有限制。
实验结果
论文的核心发现可分为三个层次。第一，thinking 在用户交互场景中普遍损害 Agent 表现：在 τ-Retail 和 τ-Airline 的 Pass@1 指标上，所有 GPT 系列模型均出现性能下降，GPT-5 在 TS-Phone 上下降 6.09%，Gemini-2.5-Pro 在 τ-Retail 上暴跌 37 个百分点，DeepSeek-V3.1 在 τ-Retail 上下降 6.69%。唯一例外是 DeepSeek-V3.1 在 τ-Airline 上提升了 3.83%。这种效应在 TaaF 和 TaaP 两种 thinking 实现方式下都存在。第二，thinking 缩短了 Agent 的回复长度：图 3 显示大多数模型开启 thinking 后平均回复 token 数显著下降，配对 t 检验（表 3）确认了长回复频率的显著减少——DeepSeek-V3.1 从平均 1.24 次长回复降至 0.40 次（p<0.001, Cohen’s d=0.6394），Qwen3-30B-A3B 从 1.42 降至 0.16（p<0.001, Cohen’s d=0.7451）。第三，thinking 系统性地减少了信息披露：图 6 显示几乎所有模型开启 thinking 后信息披露语句数量都显著下降，Agent 变得更“内向”，不再主动向用户披露关键约束和选项。最后，InfoDis 提示策略在三个模型上一致提升了表现：GPT-4o 平均提升 2.46%，Gemini-2.5-Pro 提升 1.30%，DeepSeek-V3.1 提升 2.87%。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| τ-Retail（商品退换购物助手） | Pass@1 | GPT-5: 75.22% (w/o) / 73.21% (w/ thinking); GPT-4o: 64.04% to 57.89%; Gemini-2.5-Pro: 67.83% to 37.43%; DeepSeek-V3.1: 73.04% to 66.35% | 无 thinking 的 tool-calling agent | 多数模型性能下降，Gemini-2.5-Pro 下降 37.00%，DeepSeek-V3.1 下降 6.69%，GPT-4o 下降 6.15%，GPT-5 下降 2.01% |
| τ-Airline（航班预订助手） | Pass@1 | GPT-5: 50.00% to 42.00%; GPT-4.1: 58.00% to 52.00%; Gemini-2.5-Pro: 58.00% to 20.00%; DeepSeek-V3.1: 54.17% to 58.00% | 无 thinking 的 tool-calling agent | Gemini-2.5-Pro 下降 38.00%，GPT-5 下降 8.00%，GPT-4.1 下降 6.00%，GPT-4o 下降 2.00%；仅 DeepSeek-V3.1 提升 3.83% |
| TS-Phone（手机助手多轮交互） | MSim（里程碑相似度） | GPT-5: 67.27% to 61.18%; GPT-4.1: 69.24% to 68.85%; Gemini-2.5-Pro: 48.04% to 28.92%; DeepSeek-V3.1: 69.44% to 69.23% | 无 thinking 的 tool-calling agent | Gemini-2.5-Pro 下降 19.12%，GPT-5 下降 6.09%，GPT-4.1 下降 0.39%，DeepSeek-V3.1 下降 0.21% |
| InfoDis 干预效果（GPT-4o） | Pass@1 | τ-Retail: 66.95%, τ-Airline: 46.00% | Vanilla prompting: τ-Retail 64.04%, τ-Airline 44.00% | τ-Retail 提升 +2.91%，τ-Airline 提升 +2.00%，平均提升 +2.46% |
| InfoDis 干预效果（DeepSeek-V3.1） | Pass@1 | τ-Retail: 74.78%, τ-Airline: 56.00% | Vanilla prompting: τ-Retail 73.04%, τ-Airline 52.00% | τ-Retail 提升 +1.74%，τ-Airline 提升 +4.00%，平均提升 +2.87% |
局限与改进
作者承认的局限性包括：（1）评估仅覆盖三个以任务导向对话为主的用户交互基准，未涉及更开放或创造性协作场景（如写作辅助、头脑风暴），thinking 在这些场景中的效果尚不清楚；（2）行为分析依赖 LLM 驱动的自动分类流水线，尽管有人工验证，但在隐式信息披露或细微用户交互的边界案例中可能存在分类错误。从独立观察角度看，论文还存在以下不足：（3）7 个模型的选取虽然覆盖面广，但缺少对中小规模模型（如 7B、13B）的分析，thinking 的负面效应是否与模型规模相关尚不明确；（4）论文未深入分析 thinking 内容的质量——如果 thinking 本身质量更高（如更关注用户需求而非仅关注任务逻辑），是否仍会导致“内向化”？（5）InfoDis 的改进幅度相对有限（平均 1-4 个百分点），说明仅靠提示层面的干预可能不足以完全解决问题，需要更深层的架构或训练层面的改进。
独立分析的弱点
论文的弱点和改进方向包括：（1）场景覆盖有限——三个基准都是任务导向对话，缺少对开放域对话、创意协作、情感支持等场景的分析。改进方向：在更多样化的交互场景（如心理咨询、教育辅导、编程教学）中验证 thinking 效应；（2）Thinking 质量未分析——论文将 thinking 视为黑箱，未区分高质量 thinking（关注用户需求、识别信息缺口）和低质量 thinking（仅关注任务逻辑）。改进方向：对 thinking 内容进行语义分析，研究 thinking 质量与信息披露的关系；（3）干预手段过于简单——InfoDis 仅是一句系统提示指令，改进幅度有限。改进方向：探索训练层面的改进，如通过 RLHF 或 DPO 训练模型在 thinking 时兼顾信息透明度；（4）缺少用户研究——所有评估基于自动指标，未考虑真实用户的满意度和体验。改进方向：引入人工评估或 A/B 测试，衡量 thinking 对用户感知的影响；（5）未探讨 thinking 与信息披露的联合优化——是否可以在 thinking 过程中显式加入“需要向用户披露什么”的子任务？
未来方向
作者提出和论文成果可延伸的未来研究方向包括：（1）开发用户中心的 thinking 模式——现有 thinking 主要针对封闭任务设计，需要新的数据和训练策略引导 LLM 学习用户中心的 thinking 模式，在内部推理时兼顾信息透明度；（2）透明度感知的 Agent 架构设计——将信息透明度作为 Agent 设计的核心原则，通过架构创新（如双通道输出：一个用于内部推理，一个用于面向用户的沟通）来平衡内部推理和外部沟通；（3）通过 SFT 或 RL 注入透明度意识——将信息披露能力融入模型训练过程，而非仅依赖提示层面的干预；（4）在更多交互场景中验证 thinking 效应——包括开放式对话、创意协作、长期任务等，研究“内向化”现象的边界条件；（5）研究 thinking 与 Agent 行为的因果关系——通过干预 thinking 内容来验证不同类型的 thinking 对信息披露和任务表现的具体影响。
复现评估
论文的复现条件较好。代码已开源在 GitHub（https://github.com/deeplearning-wisc/Thinking-Agent），实验涉及的三个基准（τ-bench 和 ToolSandbox）均为公开可用的标准化评测。使用的 7 个模型中，3 个开源模型（DeepSeek-V3.1、gpt-oss-120b、Qwen3-30B-A3B Instruct）可自行部署，4 个闭源模型（GPT-5、GPT-4.1、GPT-4o、Gemini-2.5-Pro）需要 API 访问。原子响应分类的自动化流水线基于 LLM 实现，复现时需要相应的 API 额度。总体而言，复现难度中等：基准和模型大多公开，但完整复现需要较大的 API 调用成本（7 个模型乘以 3 个基准乘以多个任务），且闭源模型的 API 行为可能随时间变化。
论文图表
并排展示了 thinking Agent（左）和非 thinking Agent（右）在同一退换任务中的完整交互轨迹。thinking Agent 在内部推理中忽略了商品不能单独取消的约束，未向用户披露此信息，导致用户做出错误决策（取消整单）；非 thinking Agent 主动告知用户只能取消整个订单不能单独取消商品，用户据此做出正确决策（跳过取消，仅退货）。
这是论文最生动的案例分析，通过具体轨迹展示了 thinking 如何导致信息遗漏并级联为任务失败，是理解内向化后果的关键。