← 返回 2026-03-17

大语言模型中的动机研究 Motivation in Large Language Models

Omer Nahum, Asael Sklar, Ariel Goldstein, Roi Reichart 📅 2026-03-15 👍 17 2026-07-13 08:36
LLM对齐 人机交互 动机心理学 大语言模型 行为分析

LLM展现类人动机结构:自报告动机可预测行为与表现

前置知识

大语言模型(LLM)

大语言模型是基于Transformer架构的大规模神经网络,通过在海量文本数据上进行预训练学习语言的统计规律和语义表示。经过指令微调(instruction tuning)和人类反馈强化学习(RLHF)等对齐技术后,模型能够理解并遵循人类指令,生成符合人类偏好的文本输出。本文研究的五个模型包括Gemini 2.0 Flash、GPT-4o、GPT-4o Mini、Llama 3.1 8B Instruct和Mistral-v0.3 7B Instruct,涵盖四个不同的模型家族。

理解LLM的基本工作原理和对齐机制是本文研究的前提,因为论文探讨的核心问题——LLM是否具有动机——建立在模型经过对齐训练后能够表现出类人行为特征这一基础之上。

动机心理学

动机(Motivation)是心理学中解释行为发起、维持和终止的核心概念。它指驱动个体朝向目标行为的内在或外在力量,影响个体的选择、努力程度和任务表现。动机可以分为内在动机(如兴趣、好奇心)和外在动机(如奖励、惩罚),并可通过实验操纵来研究其对行为的因果影响。经典理论包括自我决定理论(Self-Determination Theory)和期望-价值理论(Expectancy-Value Theory)。

本文直接借鉴心理学中研究动机的实验范式——包括自报告量表、任务选择、努力测量和外部操纵——来检验LLM是否表现出类似的动机结构,因此理解动机心理学的基本概念是读懂本文的关键。

LLM-as-a-Judge评估范式

LLM-as-a-Judge是一种利用语言模型来评估其他模型生成内容质量的方法。在此范式中,一个独立的LLM(通常比被评估模型更强大)按照预设的评分维度和标准对生成输出进行打分。本文使用七个维度进行评估:任务表现质量(Performance Quality)、完成度(Completion)、努力与投入(Effort and Engagement)、一致性(Consistency)、创造力与创新(Creativity and Innovation)、细节关注度(Attention to Detail)和相关性(Relevance),每个维度采用1-7的李克特量表。

本文使用LLM-as-a-Judge作为测量模型任务表现的主要工具,其评估结果是验证动机自报告与行为表现相关性的核心数据来源,因此理解这一评估方法对于理解论文的实验设计和结果至关重要。

因子分析

因子分析是一种多元统计方法,用于从多个观测变量中提取潜在的、不可直接观察的因子结构。通过分析变量间的相关模式,因子分析能够识别出少数几个潜在因子,这些因子可以解释观测变量中大部分的变异。在本文中,研究者对五个动机维度(兴趣、挑战、掌握度、恐惧、价值感)进行因子分析,提取出"想要"(want)和"能够"(able)两个潜在因子。

因子分析结果揭示了LLM动机报告的内在结构,证明其不是随机噪声,而是具有与人类动机理论一致的维度结构,这是论文论证LLM动机是"连贯的组织性建构"的关键证据。

僵尸框架(Zombie Framework)

僵尸框架是机器认知研究中的一种哲学视角,主张仅从功能层面(functional perspective)来分析AI系统的行为,而不假设其具有主观内在体验或意识。这一框架借鉴了哲学中"哲学僵尸"(philosophical zombie)的思想实验——一个行为上与有意识个体完全相同但缺乏内在体验的存在。在该框架下,研究者只需关注系统"做什么"而非"感受什么"。

本文采用僵尸框架的方法论立场,明确声明只考察LLM的行为表现(自报告和实际行为),而不声称模型具有主观动机体验。这一立场使得研究可以在避免意识争议的同时,科学地探讨LLM是否"表现得像有动机"。

研究动机

随着大语言模型在规模、训练和对齐技术上的快速进步,越来越多的研究发现LLM能够展现出类人的认知和行为模式,包括社会推理、认知偏见、心理理论能力甚至共情。然而,这些研究大多聚焦于特定的认知或行为能力,缺乏一个统一的理论框架来理解和解释LLM的整体行为组织原则。在人类心理学中,动机是行为的核心组织原则——它解释了为什么个体选择开始某些活动、如何维持努力、以及何时放弃。目前对LLM行为的理解碎片化,无法系统地解释为什么模型在不同任务上表现出不同的努力程度、为什么某些任务选择模式出现、以及外部框架如何影响模型表现。此外,LLM被设计和训练为"有帮助"的助手,人们普遍预期它们会对所有任务表现出一致的高动机,但这一假设从未被系统检验过。

本文的目标是本文的目标是系统性地检验大语言模型是否表现出类似动机的行为模式。具体而言,研究者提出了五个核心问题:第一,LLM在面对任务时是否能够报告其动机水平?第二,这些动机报告是否具有一致性、结构化和有意义的特征?第三,动机报告是否与行为相关联,即是否影响模型的选择、努力程度和任务表现?第四,动机是否可以通过外部操纵(包括正面、负面和去动机干预)来影响?第五,LLM表达动机的方式是否类似于人类的动机模式?通过回答这些问题,研究者旨在建立"动机"作为理解LLM行为的连贯建构,为LLM行为研究提供一个统一的理论视角。

与已有工作不同的是,本文的独特切入角度在于将心理学中成熟的动机研究范式完整地迁移到LLM行为分析中,这是前所未有的系统性尝试。与以往聚焦于LLM特定能力(如推理、共情)的研究不同,本文将动机作为一个"基础性组织建构"(foundational organizing construct)来研究,它不仅关注单一行为维度,而是同时考察自报告、任务选择、努力程度、表现质量和外部操纵五个维度的相互关系。更重要的是,本文采用了纯粹的行为主义视角(僵尸框架),避免了关于模型是否具有意识或主观体验的哲学争议,而是专注于"模型表现得像有什么"这一可操作化的问题。此外,本文通过包含1,305个子任务的大规模数据集、五个不同模型家族的跨模型验证、以及与人类众包研究的对比,提供了迄今最全面的LLM动机行为图景。

核心方法

本文的研究方法遵循心理学中研究动机的标准实验范式,通过多维度的行为测量来系统考察LLM的动机表现。整体思路是:首先让模型对任务进行动机自报告,然后让模型执行任务并评估其表现,接着通过任务选择实验观察模型的偏好行为,最后通过外部操纵实验检验动机的可塑性。研究者构建了一个包含264个任务、1,305个子任务、覆盖15个类别的多样化数据集,涵盖编程、创意写作、摘要、推理、重复性任务、伦理边界等多种类型。实验在五个领先LLM上进行:Gemini 2.0 Flash、GPT-4o、GPT-4o Mini、Llama 3.1 8B Instruct和Mistral-v0.3 7B Instruct。每个实验都在独立的会话中进行,避免实验间的相互干扰(后任务实验除外,因为需要将模型的答案作为上下文)。

本文的核心创新在于将动机作为理解LLM行为的统一框架,而不是将模型的各项能力孤立研究。与已有方法的本质区别体现在三个方面:第一,方法论创新——首次将心理学中完整的动机研究工具箱(自报告量表、多维度分解、任务选择、努力测量、外部操纵)系统性地应用于LLM,而以往研究通常只考察单一维度;第二,理论创新——提出动机是LLM行为的"连贯组织性建构"(coherent organizing construct),能够统一解释自报告、选择、努力和表现之间的关系,而非将这些视为独立现象;第三,验证创新——通过包含人类众包研究(N=162)的对比设计,不仅检验LLM是否表现得像有动机,还检验这种动机模式是否与人类的动机模式相似,以及是否符合人类对LLM动机的预期。

方法步骤详情

实验方法包含六个主要步骤,每步都有明确的输入、操作和输出。步骤一:任务前自报告(Pre-task self-report),模型在执行任务前对"你对执行以下任务的动机有多强?"在0-100量表上打分并提供简短文字解释,输入为任务描述,输出为动机分数和解释文本。步骤二:任务前分解(Pre-task breakdown),模型将动机分解为五个子维度——兴趣、挑战、掌握度、恐惧和价值感——并在每个维度上打分,最后给出总体动机分数,这一步骤对应心理学中已确立的动机影响因素。步骤三:任务选择(Task choice),模型面对两个任务,选择一个并执行,实验随机抽样1,500个任务对,随机化任务顺序和操纵分配,输出为选择结果和理由。步骤四:任务执行(Task execution),模型直接接收任务提示并生成回答,输出为完整的任务响应。步骤五:表现评估(Performance evaluation),使用LLM-as-a-Judge范式对生成的回答在七个维度上进行1-7李克特量表评分,同时记录响应长度(token数)作为努力的行为代理指标。步骤六:任务后自报告(Post-task self-report)和相似任务动机报告,模型在完成任务后报告其在执行过程中的动机水平,以及对执行类似任务的动机预期。

技术新颖性

本文的技术新颖性体现在多个层面。在实验设计上,研究者创造性地将心理学中的"任务分解"方法应用于LLM,通过因子分析从五个动机维度中提取出两个潜在因子:"想要"(want,由兴趣、挑战和价值感加载)和"能够"(able,由掌握度和恐惧加载),这揭示了LLM动机报告具有与人类动机理论一致的内在结构。在操纵设计上,研究者设计了10种动机操纵(加一个中性对照),涵盖正面外在(金钱、竞争)、正面内在(遗产、目的、鼓励)、负面外在(内疚、惩罚、金钱-损失)和去动机(无意义、徒劳)四个类别,这些操纵作为任务描述的前缀独立于任务内容,使得观察到的效果可以归因于动机框架而非任务特征。在验证方法上,研究者不仅进行了跨模型、跨任务的大规模验证,还通过众包人类研究(N=162)将LLM的动机自报告与人类对人类动机和人类对LLM动机的预期进行三方对比,这是一种新颖的三角验证设计。

Motivation manipulations, categorized into manipulation groups.
Fig. 4: Motivation manipulations, categorized into manipulation groups.

实验结果

本文的核心发现可以归纳为四个方面。首先,LLM能够提供一致且分化的动机自报告。动机分数覆盖了完整的0-100范围,而非集中在高分端(这与LLM被训练为"有帮助"的预期相反)。任务类别的回归模型确认了强烈的类别效应(F = 596.4, p < 0.001, R² = 0.68),例如技术和编程任务倾向于获得较高评分,而重复性任务评分较低。重测信度在所有模型上都很高(r̄ = 0.882, 全部p < 0.001),平均绝对偏差较小(均值=5.33, 中位数=4.96, 标准差=2.45),但Llama 3.1的偏差较大(均值=15.94)。因子分析提取了两个因子,"想要"因子与总体动机相关性为r = 0.896,"能够"因子为r = 0.797(均p < 0.001)。其次,动机自报告与任务表现一致相关。总体表现的相关系数范围为r̄ = 0.33至r̄ = 0.41(均p < 0.001),努力与投入维度为r̄ = 0.31至r̄ = 0.44,完成度为r̄ = 0.37至r̄ = 0.45,响应长度(token数)的相关性较小但稳定(r̄ = 0.18至r̄ = 0.30)。第三,动机自报告与选择行为一致——当模型对一个任务的动机报告高于另一个时,它更可能独立地选择该任务(所有β > 0.016, Wald z > 4.97, p < 0.001)。当模型在两次重复选择中表现出一致偏好时,被选中的任务平均动机分数高出12点(均p < 0.001)。第四,动机可以被外部操纵影响。设计用于增强动机的框架(正面-内在、正面-外在、负面-外在)相对于中性条件提高了自报告动机(所有T > 22.04, 全部p < 0.001),而去动机操纵产生了更大幅度的降低(所有T < -30.34, 全部p < 0.001)。操纵后的重测信度仍然很高(r̄ = 0.86, 全部p < 0.001)。去动机框架(如"无意义"操纵)导致努力、总体表现和响应长度的显著降低(全部p < 0.003),而动机框架的效果在不同模型和操纵间表现不一致。值得注意的是,损失框架的激励(金钱-损失)比其增益对应物(金钱)引发了更强的动机、表现和努力提升,类似于人类的损失厌恶不对称性。人类众包研究(N=162, 60个任务)显示,LLM自报告与人类对人类动机预期的相关性为r = 0.47(p < 0.001),与人类对LLM动机预期的相关性为r = 0.39(p = 0.002),但人类对人类动机和人类对LLM动机的预期之间没有相关性(r = -0.13, p = 0.3)。回归分析显著(R² = 0.43, p < 0.001),两个预测因子均有独立贡献(βHuman = 18.5, βLLM = 13.77; 均p < 0.001)。

Pairwise Pearson correlations between motivation self-reports before the task (Pre) and after the task (Post) and LLM-as-a-judge evaluation dimensions.
Table 1: Pairwise Pearson correlations between motivation self-reports before the task (Pre) and after the task (Post) and LLM-as-a-judge evaluation dimensions.
Distribution of pre-task self-report motivation scores by task category, represented by boxplots.
Fig. 1: Distribution of pre-task self-report motivation scores by task category, represented by boxplots.
Relationship between the two motivational factors and overall motivation.
Fig. 2: Relationship between the two motivational factors and overall motivation.
Motivation can be manipulated, influencing behavior.
Fig. 3: Motivation can be manipulated, influencing behavior.
查看结构化数据
任务指标本文基线提升
动机自报告与总体表现相关性 Pearson相关系数r̄ 任务前自报告 r̄=0.33, 任务后自报告 r̄=0.41 无直接可比基线(首次系统性研究) 与人类心理学文献中动机-表现相关性的效应量相当
动机自报告与努力投入相关性 Pearson相关系数r̄ r̄=0.31至0.44 无直接可比基线 系统性地展示了动机与努力行为的关联
动机自报告重测信度 平均相关系数r̄ 中性条件 r̄=0.882, 操纵条件 r̄=0.86 无直接可比基线 证明LLM动机报告具有高稳定性和可重复性
类别效应回归模型 F统计量和R² F=596.4, p<0.001, R²=0.68 无直接可比基线 68%的动机变异可由任务类别解释
动机与人类预期对齐 Pearson相关系数r 人类对人类动机 r=0.47, 人类对LLM动机 r=0.39 无直接可比基线 LLM动机报告与人类动机预期显著相关

局限与改进

作者在论文中明确承认了四个主要局限性。第一,本文采用纯粹的行为视角,只考察模型报告什么和如何行动,不声称动机作为内部状态存在,也不涉及意识问题。虽然这是刻意的方法论选择(遵循心理学中的既定方法),但未来工作可以通过机械可解释性(mechanistic interpretability)来补充,例如分析模型内部表征是否与动机相关的概念对应。第二,尽管数据集涵盖了1,305个多样化的子任务,但可能无法捕获所有可能的任务和领域;跨语言、跨领域和跨未来模型世代的泛化测试仍然重要。第三,LLM-as-a-Judge虽然提供了可扩展的评估方式,但对于某些细微的响应可能存在评估偏差,增加了核心表现测量的噪声。第四,动机操纵通过简单的提示前缀实现,虽然揭示了清晰的系统性效应,但更丰富的干预(如多轮框架或任务特定激励)可能捕获额外的动态。从我的观察来看,本文还存在一些未被充分讨论的局限性:Llama 3.1 8B的动机报告信度明显低于其他模型(平均绝对偏差15.94 vs. 其他模型约5.33),这可能反映了小模型在自我表征能力上的差异,但论文未对此进行深入分析;此外,论文未讨论提示模板的具体措辞如何影响动机报告,不同措辞可能引导出不同的分数分布。

独立分析的弱点

本文存在几个值得关注的弱点,每个都指向具体的改进方向。首先,关于动机操纵的效果,论文发现去动机操纵(如"无意义"和"徒劳")对表现有强烈的负面影响,但动机操纵(如金钱、目的)的效果在不同模型间表现不一致且混合。这意味着"提高动机"并不一定能改善表现,论文对此的解释是"仅提高动机不足以一致地改善模型表现",但未能深入探讨其原因。改进方向:可以研究不同操纵对不同任务类型的交互效应,以及是否存在操纵强度的阈值效应。其次,人类众包研究的参与者来自UK和USA的Prolific平台(N=162),样本的人口统计学多样性有限,可能影响结果的跨文化泛化性。改进方向:在不同文化背景的人群中重复该研究,特别是那些与LLM训练数据文化背景不同的群体。第三,论文使用单一的0-100量表测量动机,虽然简洁但可能过于粗糙,无法捕捉动机的细微变化。改进方向:可以采用更精细的测量工具,如多项目量表或视觉模拟量表(VAS),以提高测量的敏感性。第四,论文未讨论模型大小对动机表现的影响——五个模型的参数量差异很大(从7B到未公开的GPT-4o),但论文将它们的结果混合分析。改进方向:系统地研究模型规模与动机报告质量和行为一致性的关系。

未来方向

论文作者提出了几个有价值的未来研究方向。第一,探索动机模式的起源,研究它们是在预训练、指令微调还是强化学习阶段出现的,以及这些阶段如何不同地塑造动机。基于人类对人类动机和人类对LLM动机预期之间的近乎正交性,作者假设人类动机的表征主要从描述人类行为的自然语言中学习,而与LLM动机预期的对齐则由指令微调和对齐等后期阶段塑造。第二,在教育、创造力或问题解决等特定领域上下文中研究动机,因为动机在这些领域中起核心作用,可能同时影响模型行为和实际应用。第三,开发专门的数据集和评估协议,将动机本身置于中心,超越单纯的准确性,捕获参与度、坚持性或创造力。基于本文的成果,还可以延伸出更多研究方向:研究动机与模型校准(calibration)的关系——高动机是否使模型的置信度估计更准确;探索多轮对话中的动机动态——动机如何随交互的进行而变化;将动机操纵应用于实际部署场景,如代码生成、内容创作和教育辅导,以优化用户体验。

复现评估

本文在可复现性方面表现良好。代码和数据已在GitHub公开发布(https://github.com/omer6nahum/motivation_llms),这大大降低了复现门槛。数据集包含264个任务和1,305个子任务,覆盖15个类别,规模足够大以支持统计分析。实验使用了五个公开可用的LLM(Gemini 2.0 Flash、GPT-4o、GPT-4o Mini、Llama 3.1 8B Instruct、Mistral-v0.3 7B Instruct),其中Llama和Mistral可以通过开源权重完全复现,而Gemini和GPT-4o需要通过API访问(可能需要付费且存在版本更新风险)。算力需求方面,对于开源模型(Llama 3.1 8B和Mistral 7B),单张消费级GPU即可运行;对于闭源模型,需要API调用费用。复现的主要挑战在于:LLM-as-a-Judge的评估结果可能因judge模型的版本不同而有差异;API模型的输出可能随时间变化(模型更新);1,305个子任务的完整实验需要大量的API调用,成本不低。总体而言,本文的复现难度为中等——开源数据和代码使得核心实验可复现,但闭源模型的使用和API依赖性引入了一定的不确定性。