知非解：基于认知与行为洞察重新校准生成式主动性

提出认知-行为耦合框架，解决生成式AI智能体过度承诺问题

前置知识

生成式AI智能体

基于大语言模型构建的能够自主执行任务、调用工具、进行多步骤推理的AI系统。这些智能体不仅仅是响应式回答问题，而是能够主动规划、决策并采取行动，如ReAct、AutoGPT等框架。它们通常通过规划-执行-观察的循环来工作，能够处理复杂的长horizon任务。

本文讨论的核心对象就是这类生成式智能体，它们在缺乏充分理解时采取主动行为会导致系统性问题，理解其工作方式是理解论文问题背景的基础。

认知不完整性

指用户或系统在信息寻求过程中所处的状态，其中包含未知的盲区或未被充分理解的领域。论文引用Kerwin的无知哲学，区分了四种认知状态：已知已知、已知未知、未知已知和未知未知。认知不完整性意味着进步取决于与未知未知的互动，而非仅仅解决已识别的问题。

这是论文的核心理论基础。论文认为现有AI系统假设用户需求可预先表达，忽略了认知不完整性这一基本条件，导致主动性设计在根本上是错位的。

混合主动性系统

一种人机交互范式，系统不是纯粹响应或完全自主，而是动态决定谁行动、何时行动、如何行动。这类系统通过调节主动性分配来平衡效率与干扰，通常使用置信度、信任度或交互状态作为信号。典型机制包括澄清、建议、延迟等不同贡献类型的选择。

论文将混合主动性作为现有三大主动性范式之一，分析其局限性：它调节了行为主动性但忽略了认知合法性，当任务框架本身不完整时仍会失效。

倒置甜甜圈模型

组织行为学中描述主动性行为边界的模型。模型有三个区域：核心是规定职责，偏离代价高；中间是可自由裁量空间，允许灵活、容忍实验；外部边界之外是过度越界，超出情境合法性，导致冲突。有效主动性是校准的偏离而非最大主动。

论文借用此模型说明行为约束的必要性，但指出它仅调节主动性而未解决认知有效性问题，需要在认知维度上进行补充。

研究动机

现有生成式AI智能体的主动性设计存在根本性缺陷。当前方法将无知简单化为不确定性，即假设所有相关的未知都已在任务表示中被参数化，因此将问题降低为对已知变量置信度的估计。这种假设在用户需求涉及未被充分认识的盲区时完全失效。论文分析发现，三种主流主动性范式——预判型系统如信息检索中的零查询排名、自主规划型系统如ReAct和WebShop、混合主动性系统如对话澄清——都共享这一结构性限制：它们都在预设的任务框架内进行动作选择，无法干预任务框架本身的完整性。具体表现包括：大模型智能体在错误内部模型下产生流畅但虚假的置信解释；系统为保持任务动量而抑制认知不适感，使得失败根本无法被识别；当新颖情况超出学习范围时，系统继续行动因为没有任何显式的不确定性信号被触发。在信息检索、推荐系统、对话助手等具体场景中，这种问题导致用户被误导到错误的探究路径。

本文的目标是本文的目标是为生成式主动性建立一个新的理论基础，使智能体能够在理解不充分时约束其行为，而非假设问题已完全指定。作者希望将主动性从更早行动、更自主、更持久重新定义为仅在认知上正当的情况下行动。通过引入认知-行为耦合框架，论文旨在澄清何时主动干预是正当的、何时应保持探索性、何时构成认知越界。

与已有工作不同的是，本文的独特切入角度是同时从两个维度——认知哲学和行为科学——来理解主动性行为，并将它们耦合到一个统一框架中。与现有工作的区别在于：大多数研究要么关注交互管理，即何时打断、建议、澄清，要么关注行动治理，即约束自主性，但都忽略了先决条件——智能体的理解是否足以支持干预。论文的贡献是将这个缺失的约束显式化，证明调节行为本身不足以避免系统性失配，必须在认知完整性和行为承诺之间建立耦合。另一个区别是，论文不是提出具体算法或架构，而是提供一个诊断框架和前瞻性研究议程，将多样化失败模式如幻觉、错位、不安全自主性统一到一个结构性解释下。

核心方法

论文采用理论分析和概念建模的方法，而非提出具体算法或实验验证。作者首先分析现有主动性方法的假设和局限性，然后从无知哲学和行为科学中汲取洞察，构建认知-行为耦合的联合空间模型。在这个二维空间中，一轴是行为承诺，表示智能体在多大程度上干预、投入资源或改变世界；另一轴是认知合法性，表示智能体基于其可合理声称的理解情况是否有正当理由干预。论文在这个空间中定义四种状态：观察或澄清或谨慎建议对应高合法性和低承诺、正当行动对应高合法性和高承诺、探索或探测对应低合法性和低承诺、认知越界对应低合法性和高承诺。最后，论文从耦合框架推导出最小行为要求，并提出五个前瞻性研究问题和认知伙伴关系的愿景。

核心创新点是将主动性从单一能力轴重新定义为认知合法性与行为承诺的耦合。这与现有方法的本质区别在于：现有方法假设所有未知都已参数化，将无知降低为不确定性；而本文区分不确定性即对已知变量的低置信度和其他认知失败如错误、默会知识、禁忌、否认，后者是表示本身的失败，无法通过概率建模捕捉。关键洞察是许多被归因为幻觉或错位的失败实际上是失配——承诺超越了认知合法性，或存在认知不确定性但未调节干预程度。

方法步骤详情

方法步骤分为四个阶段。第一阶段是问题诊断，通过分类分析现有三大主动性范式，即预判型、自主型、混合主动性，发现它们都共享动作中心主义的表述，预设目标、相关维度和成功准则已预先指定。第二阶段是认知基础构建，引入Kerwin的无知哲学，区分四种认知状态即已知已知、已知未知、未知已知、未知未知，并分析Table 1显示现有方法最多支持未知已知，完全缺失对未知未知的支持。第三阶段是行为基础构建，引入组织行为学中的倒置甜甜圈模型，说明有效性主动性需要在边界内校准偏离。第四阶段是耦合框架构建，提出认知-行为联合空间，分析三种主要失败模式作为失配：认知越界即高承诺低合法性、抑制认知信号、错误确定性下的失控承诺。最后推导出四个最小行为要求：承诺必须随认知可恢复性缩放、主动性必须保留认知信号、承诺必须可被认知降解中断、认知不确定性必须主动调节主动性。

技术新颖性

技术新颖性体现在概念框架而非算法创新。首先，论文首次将无知哲学中的认知状态分类系统性应用于AI主动性设计，特别是强调未知未知是进步的结构性条件而非需要消除的问题。其次，提出认知合法性与行为承诺的耦合作为主动性的理论基础，这与当前研究将自主性作为控制变量形成对比，揭示承诺才是关键控制变量。第三，论文揭示了训练激励中的隐藏偏差：当优化目标奖励连续行动、连贯序列和自信执行时，系统性地产生对失配的偏向，因为认知合法性在训练信号中弱代表或完全缺失。第四，论文将多样化失败模式统一到一个结构性解释下，而非将它们视为孤立错误或对齐问题。最后，提出认知伙伴关系作为前瞻性方向，强调校准约束与主动性同样重要。

**Figure 2**: Proactivity regimes organized by the variable governing initiative

**Figure 3**: Inverted doughnut model of proactive behavior

**Figure 4**: Epistemic–behavioral coupling space

**Figure 6**: Anticipation as an act-ahead pipeline

实验结果

由于本文是理论性工作，不包含传统意义上的实验结果，但通过系统分析得出关键发现。Table 1是对17类代表性工作的系统性分类，显示它们的认知触达上限：预判型信息检索支持已知已知和已知未知、序列推荐仅支持已知已知、Web或操作系统或具身智能体支持已知已知、规划加工具使用LLM支持已知已知和已知未知、主动对话代理支持已知已知、已知未知和未知已知、混合主动性澄清和意义构建支持已知已知、已知未知、未知已知和部分未知未知。这一表格揭示了结构性限制：操作性定义在假设的任务框架内的动作选择，而非发现缺失维度。Figure 4的耦合空间定义了四种质性不同的主动状态，论文用它来解释具体失败：大模型智能体的幻觉对应认知越界即高承诺下低合法性动作、优化连贯性和效率的系统可能平滑不确定性抑制认知信号、自改进智能体中认知失配可能采取错误即知识或否认形式防止失败被注册。关于控制变量，论文发现自主性是错误变量：调节自主性而非调节承诺允许认知越界持续存在。关于训练激励，论文发现优化目标系统性地偏向失配：当成功被注册为最终结果时，早期承诺未被惩罚。这些发现解释了为什么认知越界是持续可预测的失败模式而非异常。

**Table 1**: Epistemic reach of prevailing proactivity approaches

**Table 2**: Core axes along which mixed-initiative systems regulate proactive behavior

**Figure 5**: Epistemic partnership through proactive gap surfacing

查看结构化数据

任务	指标	本文	基线	提升
概念框架验证	理论一致性	统一解释多样化失败模式	孤立归因为幻觉或错位或安全	提供结构性诊断而非症状缓解
现有方法分类	认知触达分析	Table 1揭示17类方法的上限	未系统性分析认知假设	暴露结构性缺失即未知未知支持

局限与改进

论文本身明确承认的局限性主要是概念性而非实证性：框架未提供具体实现指导，仅给出最小行为要求；未定义如何计算或估计认知合法性；未在真实系统中验证耦合框架的有效性。此外，本文的理论性质意味着可复现性评估不适用，贡献在于澄清问题空间而非解决技术问题。进一步观察到的局限性包括：论文未探讨在现实部署中如何平衡用户期望即他们可能希望系统即使在不完全理解时也采取行动与认知校准原则；未分析不同应用领域如医疗、法律、创意对认知-行为耦合的不同要求；未讨论计算资源限制如何影响实现认知伙伴关系的愿景。

独立分析的弱点

独立分析的主要弱点首先是框架缺乏可操作性，虽然提出了四个最小行为要求，但未说明如何在神经网络中实现认知合法性表示或承诺调节机制。其次，论文未探讨如何检测认知降解的早期信号，这是研究问题Q3，而这对于实现测试时主动性至关重要。第三，框架假设存在对任务框架本身进行干预的可能性，但在许多实际场景中，系统部署的环境可能不允许重新定义任务或目标。第四，论文未处理认知完整性与行为承诺之间可能存在的权衡：在某些紧急或高风险场景，不完全理解下的行动可能是唯一选择。改进方向包括：开发认知状态的具体表示，超出置信度分数；设计可中断承诺的架构；创建评估耦合质量的协议即研究问题Q5；探索领域特定的校准标准。

未来方向

论文明确提出的前瞻性研究方向包括五个研究问题。问题一是认知合法性应如何表示：什么内部信号或抽象让智能体区分已识别不确定性、未被识别的盲区、错误即知识，而不将它们坍缩为单一置信度分数。问题二是主动性必须保留哪些认知信号：哪种形式的不确定性、分歧或异常在行动期间最关键保留，智能体如何避免消除检测失配所需的证据。问题三是智能体如何及时检测认知降解：什么早期指标可靠信号认知合法性正在退化。问题四是何时克制或放弃是正确的主动行为：智能体如何决定延迟、下调承诺或完全放弃行动。问题五是耦合质量应如何评估：什么评估协议可评估承诺在行动时刻是否有正当理由，而非仅从最终结果推断质量。附录B进一步扩展了认知伙伴关系的三个能力方向：关于未知未知的问题即重新构建问题空间、长地平线认知思维即推理超越短期交互、测试时主动性作为认知调节。

复现评估

本文是理论概念性工作，不包含实验代码或数据，因此传统意义上的可复现性不适用。论文贡献在于澄清问题空间、提供分析框架和提出研究议程，而非可复现的算法结果或基准测试。复现论文工作需要：对现有17类主动性方法进行系统分类分析即Table 1的构建，掌握无知哲学和组织行为学的理论基础，理解认知-行为耦合的逻辑框架。难度主要在于跨学科理论整合而非技术实现。论文未提供开源实现或数据集，因此复现验证论文主张需要独立的理论分析和案例研究。对于希望基于本文构建实际系统的研究者，主要挑战是将概念要求转化为可操作机制，这仍是开放研究问题。

知非解：基于认知与行为洞察重新校准生成式主动性 Knowing Isn't Understanding: Re-grounding Generative Proactivity with Epistemic and Behavioral Insight