大型推理模型（尚未）成为多语言潜在推理者 Large Reasoning Models Are (Not Yet) Multilingual Latent Reasoners
研究发现大型推理模型存在多语言潜在推理能力，但强弱不均：高资源语言强，低资源语言弱，且在困难任务上几乎不可检测
前置知识
Chain-of-Thought (CoT) 推理
CoT是一种提示策略，通过要求模型显式生成逐步推理过程来提升复杂问题求解性能。模型会先生成中间推理步骤，最后输出答案。这种方法特别适用于数学、逻辑等需要多步推理的任务，能够将问题分解为更易处理的子问题。
本文研究的核心就是模型是否真的需要这些显式推理步骤，还是会在内部提前完成推理（潜在推理），因此理解CoT的工作原理对理解本文至关重要。
潜在推理 (Latent Reasoning)
潜在推理指模型在隐藏状态中进行内部计算，而非通过生成的文本步骤来解决问题。研究表明，模型往往在显式推理完成之前就已经在内部形成了答案。这种内部推理过程不依赖于生成的文本轨迹，而是通过模型层的隐式表示来完成信息处理和决策。
本文的核心发现就是研究这种潜在推理在多语言环境下的表现，这是理解大语言模型如何真正进行推理的关键。
Logit Lens
Logit Lens是一种探测技术，通过将模型的中间层隐藏状态映射到输出词汇空间，来观察模型在各层的内部预测。具体做法是提取某层的残差流激活，经过层归一化和解嵌入矩阵投影，得到该层的logits分布。这样可以追踪正确答案在不同层的排名变化，揭示答案如何在模型内部逐步形成。
本文使用Logit Lens来分析不同语言的推理机制是否一致，通过观察层序排名轨迹来判断各语言是否共享相同的内部推理路径。
研究动机
现有大型推理模型主要通过生成显式的Chain-of-Thought推理轨迹来提升性能，但研究发现模型经常在完成这些文本推理步骤之前就已经得出了正确答案，表明存在非语言计算，即潜在推理。然而，这种现象仅在英语环境中被研究过，其在多语言环境下的行为仍然未知。与此同时，显式的多语言推理性能已经存在显著不均衡，模型在训练数据丰富的语言如英语、中文、德语等上表现较好，而在低资源语言如斯瓦希里语、泰卢固语上表现较差。
本文的目标是本文系统性地研究了大型推理模型在11种语言中的多语言潜在推理能力。核心目标是回答两个问题：一是模型是否在所有语言中都存在潜在推理，以及这种能力的强弱如何变化；二是不同语言是否依赖不同的内部潜在推理机制，还是共享某种通用的推理路径。研究还希望通过分析模型容量、任务难度、后训练范式等因素如何影响多语言潜在推理，为未来改进多语言推理提供洞见。
与已有工作不同的是，本文的独特切入点在于首次系统性地跨语言研究潜在推理现象。现有工作几乎完全专注于英语环境下的潜在推理，完全忽略了多语言维度。与此同时，虽然关于显式多语言推理不均衡的研究已经很多，但这些研究主要关注生成的文本推理质量，而非内部推理机制。本文通过引入推理轨迹截断和logit lens分析方法，填补了理解大语言模型在不同语言内部如何真正进行推理的关键空白。
核心方法
本文采用推理轨迹截断策略来研究潜在推理。核心思路是：如果模型在推理轨迹早期就已经知道答案，那么即使只提供部分推理步骤，它也应该能够正确回答。作者在不同截断比例下评估模型性能，观察正确答案如何随着推理信息的逐步揭示而涌现。为了验证这些预测是否依赖于显式的答案提及，作者还设计了Gold-in-Trace Rate指标来追踪答案在文本中首次出现的时间。此外，作者使用logit lens方法分析隐藏状态的层序动态，计算不同语言之间的余弦相似性，以判断内部推理机制是否一致。
核心创新点在于提出了一套完整的评估指标体系来量化潜在推理能力，包括AUTC（截断准确率曲线下面积）、AUGC（Gold-in-Trace曲线下面积）和LRS（潜在推理分数）。这些指标能够区分真正的潜在推理和简单的显式答案复制。AUTC衡量模型能够在多早形成正确答案，AUGC衡量答案在推理轨迹中首次出现的位置，LRS则通过加权结合两者来专注于那些不依赖于显式答案提及的准确性。这一方法论使得首次量化多语言潜在推理成为可能。
方法步骤详情
方法分为三个主要步骤。第一步是推理轨迹截断：给定数学问题x和完整的推理轨迹c，在截断比例r处截断得到部分轨迹，然后要求模型基于原始问题和截断后的推理轨迹直接产生数值预测。第二步是计算评估指标：包括Truncated Pass@k衡量部分推理下的性能、Gold-in-Trace Rate衡量答案在可见轨迹中的出现率、AUTC、AUGC和LRS等聚合指标。第三步是内部表示分析：使用logit lens提取各层隐藏状态，记录正确答案的排名变化，并计算不同语言之间隐藏状态的余弦相似性。
技术新颖性
本文的技术新颖性体现在多个方面。首先，这是首次系统性研究多语言潜在推理的工作，填补了现有文献的重要空白。其次，提出的LRS指标是创新的度量方法，能够有效区分潜在推理和显式答案提及。第三，本文不仅研究了表层性能差异，还深入分析了内部表示动力学，发现了语言资源水平如何影响潜在空间对齐的有趣模式。最后，文章还探讨了不同后训练范式对潜在推理的影响，发现这些行为并非蒸馏模型特有，而是存在于各种推理模型中的普遍现象。
实验结果
研究发现了四个核心发现。第一，潜在推理确实存在于所有语言中，但强度不均：在高资源语言如英语、中文、德语中，模型在零推理步骤时的pass@1准确率已经达到约0.2，表明模型能够直接在潜在表示中计算答案；而在低资源语言如斯瓦希里语、泰卢固语中，AUTC和LRS显著更低，模型更依赖完整的显式推理轨迹。第二，潜在推理在更困难的基准测试上不太明显：在MGSM上，英语的LRS达到0.38（R1-Qwen-7B），但在Multilingual AIME上仅0.03，表明对于需要更长、更复杂推理的问题，模型很少提前形成正确预测。第三，内部潜在推理动力学在语言间高度一致：所有语言都显示出高度相似的层序排名曲线，表明形成答案的内部机制很大程度上是语言无关的。第四，模型显示出部分记忆效应，但潜在推理对高资源语言仍然明显：在数值编辑测试中，模型匹配原始答案的比例约30%，但当允许生成新的推理轨迹时，这一比例降至20-25%，表明模型很大程度上是重新计算而非简单回忆。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| MGSM数学推理（高资源语言） | LRS (Latent Reasoning Score) | 0.53 (英语, R1-Qwen-32B) | 无（本文首次提出该指标） | 首次量化 |
| MGSM数学推理（低资源语言） | LRS (Latent Reasoning Score) | 0.30 (斯瓦希里语, R1-Qwen-32B) | 无 | 比高资源语言低43% |
| Multilingual AIME（英语） | LRS (Latent Reasoning Score) | 0.06 (R1-Qwen-32B) | 无 | 比MGSM低89% |
| MGSM零步骤推理（英语） | Pass@1准确率 | 约0.2 (R1-Qwen-32B) | 随机猜测约0.01 | 约20倍提升 |
局限与改进
作者承认了几个主要局限性。首先，推理轨迹截断是在步骤级别而非token级别实现的，虽然这与句子级CoT结构对齐且提高了可解释性，但更细粒度的token级别截断可能揭示潜在答案形成的更精确动态。其次，Gold-in-Trace指标依赖字符串匹配来检测答案是否出现在推理轨迹中，当中间值恰好匹配最终答案时可能产生假阳性，尽管由于答案通常是多位数且条件限制在正确预测上，这种效应有限。第三，实验仅限于数学推理任务，可能限制了对其他推理领域如常识推理的泛化。第四，由于计算约束，实验仅限于高达32B参数的模型，扩展到更大规模模型是未来方向。最后，本文主要进行诊断性分析，没有提出新的推理方法，未来的工作可以将这些洞见转化为具体的多语言推理改进。
独立分析的弱点
从独立分析的角度，本文存在几个可以改进的弱点。第一，实验范围有限：只研究了数学推理任务，虽然这类任务便于精确测量，但无法验证结论在其他推理领域如常识推理、逻辑推理、代码推理的普适性。第二，语言选择可能存在偏差：11种语言虽然覆盖了不同资源水平，但缺乏对语言类型学多样性如不同语系、不同句法结构的系统控制，这可能影响结论的解释力。第三，Gold-in-Trace匹配方法过于简单：依赖字符串匹配可能漏掉语义等价但形式不同的答案，或者将偶然的数字匹配误判为早期答案提及。第四，内部表示分析较浅：虽然使用了logit lens和余弦相似性，但没有深入探究特定的注意力模式或神经元激活，限制了对潜在推理机制的理解。第五，缺乏因果干预：主要是观察性分析，没有通过干预实验如选择性破坏特定语言子空间来验证假设的因果关系。
未来方向
基于本文成果，未来研究方向可以沿多个方向延伸。作者提出可以扩展分析到其他推理领域，如常识推理，以验证发现的普遍性。另一个方向是扩展到更大规模模型，观察潜在推理如何随模型规模变化。更重要的是，可以将这些诊断性洞见转化为具体的推理方法改进：例如，既然发现潜在推理在高资源语言上更强，可以探索如何将推理能力从高资源语言迁移到低资源语言；既然发现困难任务上潜在推理减弱，可以研究如何增强复杂问题的内部推理能力。另一个有趣的方向是训练模型直接在潜在空间中进行推理，而不需要生成完整的文本轨迹，这可能提高推理效率。还可以探索多语言潜在推理对齐技术，使得所有语言都共享相似的内部推理路径。最后，可以开发更细粒度的潜在推理探测技术，如token级截断、更精确的答案检测方法，以及结合注意力分析和神经元激活解释的复合方法。
复现评估
本文的复现难度中等。代码已在GitHub上公开，这是积极信号。使用的数据集MGSM和Multilingual AIME都是公开的多语言数学推理基准，易于获取。实验使用的模型也都是开源或公开可用的。主要挑战在于计算资源：这些大规模模型的推理和分析需要大量GPU资源，特别是进行多语言、多模型的系统性分析。本文的方法相对独立，不需要额外的专有数据或复杂的环境配置。总体而言，一个拥有充足计算资源的研究团队应该能够复现本文的主要发现，但完整复现所有实验可能需要相当的计算投入。
论文图表
