LatentChem：从文本思维链到化学推理中的潜在思考

将化学推理从离散语言转移到连续潜在空间，实现更快更准的分子推理

前置知识

Chain-of-Thought (CoT) 思维链

思维链是一种让大语言模型在给出最终答案之前，先生成一系列中间推理步骤的技术。例如在化学推理中，模型会先分析分子结构、识别官能团、推理性质变化，最后才输出答案。这种显式推理过程将复杂问题分解为可管理的子步骤，显著提升了 LLM 在复杂任务上的表现。然而，所有中间步骤都以离散的自然语言 token 形式表达。

本文的核心论点是 CoT 的离散语言表达方式不适合化学推理的连续性本质，理解 CoT 的机制才能理解 LatentChem 为何要突破它。

潜在空间推理 (Latent Reasoning)

潜在空间推理是指模型不在离散的 token 序列中进行推理，而是在连续的高维向量空间中进行隐式计算。模型的隐藏状态直接作为'思考向量'被反复输入，跳过了 token 化和解码的过程。这类似于人类专家在脑中进行直觉推理，而非逐步用语言自言自语。代表性工作 Coconut（Hao et al., 2025c）证明了 LLM 可以在潜在空间中进行推理。

LatentChem 在此基础上引入了化学领域的动态感知机制，是理解本文技术架构的核心前提。

GRPO (Group Relative Policy Optimization)

GRPO 是一种强化学习算法，由 DeepSeek 团队提出。它通过采样一组（Group）候选回答，计算组内相对奖励来优化策略，避免了传统 PPO 中需要训练价值网络的复杂性。具体来说，对于每个 prompt 采样 G 个回答，以组内平均奖励为基线计算优势函数，用策略梯度更新模型。GRPO 的关键特点是简单高效，只需最终结果的奖励信号即可引导模型探索更优的推理路径。

LatentChem 的第四阶段训练使用 GRPO 进行强化学习，正是在这一阶段模型自发地将显式 CoT 内化为潜在推理，理解 GRPO 机制是理解'自发内化'现象的关键。

SMILES 分子表示

SMILES（Simplified Molecular Input Line Entry System）是一种将分子结构编码为一维字符串的表示方法。例如苯环表示为 c1ccccc1，乙醇表示为 CCO。SMILES 通过特定的语法规则（如小写字母表示芳香环原子、括号表示分支、数字表示环闭合）将复杂的二维/三维分子拓扑压缩为线性符号序列，是化学信息学中最广泛使用的分子表示格式。

本文使用的 SMI-TED 编码器以 SMILES 为输入提取分子特征，理解 SMILES 是理解化学适配器如何感知分子结构的基础。

模态不匹配 (Modality Mismatch)

这是本文提出的核心概念，指化学推理的内在逻辑是连续的（如电子离域、空间位阻、分子流形导航），但传统 CoT 强制将这些连续的物理化学直觉离散化为自然语言 token 序列。这种从连续到离散的量化过程类似于用阶梯函数近似光滑曲线——会引入锯齿状的低效轨迹，造成信息瓶颈和推理质量损失。

这是 LatentChem 的立论基础，理解模态不匹配才能理解为什么需要在潜在空间中进行化学推理。

研究动机

当前化学大语言模型主要依赖显式 Chain-of-Thought 来解决复杂推理任务。然而，化学推理的内在逻辑——如电子离域、空间位阻效应、分子流形上的性质优化——本质上是连续的、高维的物理化学过程。强制将这些连续直觉线性化为离散的自然语言 token 序列，会产生一个根本性的'模态不匹配'问题。这就好比要求一位化学家在进行分子设计时，必须把脑海中每一个空间直觉都翻译成文字描述才能继续思考——这种翻译过程不仅低效，还会丢失连续空间中的精细结构信息。具体来说，在分子优化任务中，CoT 模型需要将'在苯环上添加一个羟基'这样的结构修改分解为多个文本步骤（分析位点→验证价态→描述取代→生成产物），每一步都需要自回归地生成多个 token，而这些文本描述往往与实际的化学操作不一致，甚至产生幻觉（如 Figure 4 中 CoT 基线模型提出的结构修改与最终 SMILES 不匹配）。

本文的目标是本文的具体目标是设计一个潜在推理接口（LatentChem），将化学推理从语言生成过程中解耦出来，使模型能够在连续的潜在空间中通过思考向量处理化学逻辑。量化目标包括：在 ChemCoTBench 上超越显式 CoT 基线的非平局胜率，同时实现推理步数开销的大幅降低（论文最终实现了 10.84× 的平均步数缩减和 5.96× 的墙钟时间加速），并且在分子优化、反应预测、分子理解等多样化化学任务上保持或提升性能。

与已有工作不同的是，与已有工作相比，LatentChem 抓住了一个被忽视的关键点：现有潜在推理方法（如 Coconut）虽然将推理转移到了连续空间，但将分子嵌入作为静态上下文处理，推理过程中无法动态调整对分子不同子结构的关注。LatentChem 通过引入 ChemUpdater 机制，让潜在思考向量能够在每一步推理中主动重新查询分子编码器，实现'边想边看'的动态感知循环。此外，本文首次系统地研究了化学 LLM 中的'自发内化'现象——当模型仅被奖励最终结果正确性时，它会自发地放弃冗长的文本推理，转而使用更紧凑的潜在计算，这为模态不匹配假说提供了强有力的经验证据。

核心方法

LatentChem 的核心直觉可以用一个比喻来理解：一位经验丰富的化学家在设计新药分子时，并不会在脑中逐步用语言描述'这里加一个甲基、那里去掉一个卤素'，而是在脑海中直接操纵抽象的三维分子结构，在连续的心理空间中'滑动'到目标性质。LatentChem 就是要赋予 LLM 这种能力。技术路线上，LatentChem 在标准 LLM（Qwen-3-8B）的基础上插入三个专用模块：(1) Chemical Adapter 将 SMILES 分子编码映射到 LLM 语义空间的'化学 token'；(2) Latent Projector 将 LLM 输出的隐藏状态映射回输入空间，形成连续的思考向量反馈回路；(3) ChemUpdater 通过交叉注意力机制，让每一步的思考向量都能动态更新分子表征。整个系统采用四阶段渐进训练：先建立分子-语言映射，再学习显式 CoT，然后激活潜在推理模块，最后通过 GRPO 强化学习让模型自主探索最优推理路径。

LatentChem 与已有方法最本质的区别在于引入了'动态感知-推理循环'（ChemUpdater 机制）。在标准的潜在推理（如 Coconut）中，分子编码器提取一次特征后就不再更新，推理过程只能基于这个静态的分子表征进行——相当于化学家只看了分子一眼就开始在脑中推理，不能再回头检查。LatentChem 打破了这个限制：在每一步潜在推理中，当前的思考向量 $H_{chem}^{(t)}$ 会作为查询，与累积的推理历史 $Z_{1:t}$ 进行交叉注意力计算，产生更新后的分子表征 $H_{chem}^{(t+1)}$。这意味着模型在推理过程中可以动态地将注意力从分子的一个子结构转移到另一个子结构，实现真正的'边推理边感知'。另一个核心创新是发现并验证了'自发内化'现象：当 GRPO 仅以格式正确性、答案有效性和答案正确性作为奖励（没有任何关于输出长度或 CoT 省略的惩罚）时，模型自发地选择将显式文本推理压缩为潜在计算，表明它识别出连续潜在空间是化学逻辑的更原生计算基质。

方法步骤详情

LatentChem 的推理流程分为三个阶段。首先是分子感知阶段：输入 SMILES 字符串经预训练的 SMI-TED 编码器提取为变长特征序列 $H_{mol} \in \mathbb{R}^{L \times d_{enc}}$，然后通过 Chemical Adapter（基于 Perceiver Resampler 架构的交叉注意力投影器）将这些特征压缩为固定数量的化学 token $H_{chem}$，这些化学 token 作为前缀软提示拼接到文本指令嵌入之前。接着是潜在推理循环阶段：LLM 骨干网络处理包含化学 token 的输入，产生第一个隐藏状态 $z_t$，该状态不被解码为文本 token，而是同时驱动两条并行路径——在感知路径上，$z_t$ 被追加到推理历史 $Z_{1:t}$ 中触发 ChemUpdater，通过交叉注意力更新分子表征 $H_{chem}^{(t+1)}$；在推理路径上，$z_t$ 经过残差前馈网络（Latent Projector）映射为下一输入 $h_{t+1} = z_t + \text{FFN}(\text{LN}(z_t))$，反馈回 LLM 骨干产生 $z_{t+1}$。这个循环持续到模型预测终止 token `` 或达到预算上限 $T_{max}$。最后是答案生成阶段：潜在推理结束后，最终的精炼上下文用于解码显式的自然语言答案。

技术新颖性

LatentChem 在技术新颖性上体现在三个层面。首先，在架构层面，ChemUpdater 是首次在潜在推理框架中引入动态感知更新机制，与 Coconut 等方法将分子视为静态上下文的做法形成本质区别——这种'推理-感知'双路径循环使模型能够在推理过程中持续精炼其对分子结构的理解。其次，在训练层面，四阶段渐进训练协议（对齐→CoT SFT→潜在心智激活→GRPO 策略优化）中，Stage 3 和 Stage 4 的交替冻结策略（先冻结骨干训练潜在模块，再冻结潜在模块微调骨干）是精心设计的，解决了轻量级潜在模块与大型 LLM 骨干之间的优化不平衡问题——联合训练（Joint Stage 4）的效果明显弱于冻结训练。最后，在发现层面，'自发内化'现象的发现具有重要的理论意义：它提供了经验证据表明化学推理更适合在连续空间中进行，这是此前文献中未被系统性报告和验证的。

实验结果

LatentChem 在四个多样化化学基准测试上进行了全面评估，结果令人瞩目。在核心的 ChemCoTBench 上，LatentChem 达到 59.88% 的非平局胜率（non-tie win rate）对抗强 CoT 基线（Stage 1+2+4），其中开放式生成任务（分子优化）的胜率高达 63.73%。在分子优化子任务上，LatentChem 在 6 个目标性质中的 5 个上取得最优结果：LogP 改善 1.37（基线 0.67）、溶解度改善 1.53（基线 1.17）、GSK3-β 成功率 82%（基线 67%）、DRD2 成功率 74%（基线 70%）、JNK3 成功率 60%（基线 44%）。在推理效率方面，LatentChem 实现了平均 10.84× 的推理步数开销缩减，其中反应任务高达 29.9×，分子优化任务达 28.4×，墙钟时间加速为 5.96×。在 ChEBI-20 基准上胜率高达 85.26%，ChemLLMBench 上为 55.58%。值得注意的是，8B 参数的 LatentChem 持续超越 ChemCoTBench 报告的 Claude 3.7 Sonnet 的 SOTA 结果。消融实验证实了各组件的必要性：移除潜在推理导致分子优化成功率从 80.67% 降至 71.00%，移除 ChemUpdater 导致 Murcko 骨架相似度从 0.81 降至 0.67，移除潜在投影器导致成功率降至 69.83%。因果分析（用高斯噪声替换潜在步骤）证实了早期潜在状态编码了关键的结构前驱信息。预算压力测试表明，当潜在步数充足（$T \geq 6$）时模型维持'内化'状态，当潜在预算不足时模型会自动重新激活显式 CoT，展现出类似液压补偿的动态行为。

查看结构化数据

任务	指标	本文	基线	提升
ChemCoTBench 分子优化（LogP）	成功率 SR%	96%	77% (Stage 1+2+4 CoT)	+19个百分点
ChemCoTBench 分子优化（GSK3-β）	成功率 SR%	82%	67% (Stage 1+2+4 CoT)	+15个百分点
ChemCoTBench 非平局胜率	R*win	59.88%	显式 CoT 基线	在所有类别中超越基线
ChEBI-20 非平局胜率	R*win	85.26%	显式 CoT 基线	大幅领先
ChemLLMBench 非平局胜率	R*win	55.58%	显式 CoT 基线	超越基线
推理效率（反应任务）	步数缩减倍数	29.9×	显式 CoT	29.9×
推理效率（分子优化）	步数缩减倍数	28.4×	显式 CoT	28.4×
Mol-Instructions 非平局胜率	R*win	49.88%	显式 CoT 基线	保持竞争力

局限与改进

本文存在几个重要的局限性。首先是可解释性权衡：自发内化后的推理过程变得不透明，虽然事后分析验证了潜在状态的物理化学基础，但对于需要审查中间推理步骤的科学审计场景，这种'黑箱'推理可能难以建立信任。作者明确承认了这一限制，并建议未来研究混合认知架构。其次，从数据层面看，GRPO 训练使用与 SFT 相同的 ChemCoTDataset prompt 池，虽然评估基准与训练集基本无重叠（仅 8 条记录，0.71%），但缺乏独立的 RL prompt 数据可能影响泛化性的严格评估。第三，GRPO 训练的稳定性是一个实际问题：实验表明 3 轮 GRPO 训练会略微降低开放式任务性能，作者将此归因为 RL 后训练的非单调特性，但并未充分探索。第四，奖励函数设计的敏感性在不同类型任务间存在异质性——例如在反应预测任务上，LatentChem 的 Top-1 准确率（0.17）低于 CoT 基线（0.20），说明在需要精确确定性映射的任务上，潜在推理的优势可能受限。最后，14B 和 4B 规模的评估显示 LatentChem 仍保持优势，但收益有所减弱（ChemCoTBench 胜率从 59.88% 降至约 52%），需要进一步研究跨尺度的效率边界。

独立分析的弱点

从独立分析的角度，LatentChem 存在几个值得关注的弱点。第一，ChemUpdater 的交叉注意力机制以累积推理历史 $Z_{1:t}$ 为键和值，随着推理步数增加，历史向量的线性增长可能导致注意力分散和计算开销增大——在更长的推理链中，可以考虑引入注意力压缩或选择性记忆机制。第二，当前的分子编码器 SMI-TED 仅接受 SMILES 字符串输入，无法捕获 3D 构象信息（如手性中心的空间排列、分子内氢键），这对于需要空间推理的任务（如蛋白质-配体结合、立体选择性反应）是根本性的局限——可以考虑集成 3D 图神经网络编码器。第三，Stage 4 的 GRPO 训练冻结了潜在模块，这意味着潜在推理能力在 RL 阶段不会被进一步优化——虽然联合训练效果更差，但可以探索交替微调或课程学习策略来缓解优化不平衡。第四，当前系统只支持单分子输入，无法处理反应物-产物对或多分子交互场景的联合推理，这限制了在合成路线规划等实际应用中的使用。

未来方向

作者明确提出未来应聚焦混合认知架构（Hybrid Cognitive Architecture），结合 Kahneman 的双系统理论：System 1 使用高效的潜在推理处理重计算任务，System 2 在需要解释时将潜在思考解码为显式语言。基于本文成果，可以延伸的方向包括：(1) 将潜在推理框架扩展到蛋白质设计、材料科学等其他科学领域，验证'模态不匹配'假说的普适性；(2) 探索潜在空间中的'推理预算'自适应分配——当前系统使用固定的 $T_{max}$，但不同任务的复杂度差异很大，可以训练一个元控制器动态决定每个问题的推理深度；(3) 将 ChemUpdater 的动态感知机制与 3D 分子表征结合，实现空间感知的潜在推理；(4) 研究潜在推理的可解释性工具，如通过探针分类器解读潜在状态中编码的化学语义。

复现评估

复现评估方面，LatentChem 的代码和模型权重已在 GitHub 和 HuggingFace 上公开。训练数据使用公开的 ChemCoTDataset（约 14k 高质量 CoT 标注样本），评估使用了四个公开基准（ChemCoTBench、Mol-Instructions、ChEBI-20、ChemLLMBench）。算力需求方面，SFT 阶段在 8 张 NVIDIA H200 GPU 上使用 bfloat16 精度训练，GRPO 阶段使用 vLLM 进行高效 rollout 生成。整体训练流程（四阶段）的算力成本中等偏高，但相比训练大型通用 LLM 仍然可控。复现难度主要在于：(1) 四阶段训练的超参数调节（特别是 Stage 3 的潜在 token 数量、Stage 4 的 GRPO 采样组大小）；(2) 化学任务特定的奖励函数设计（需要构建格式、有效性、正确性三个 oracle）；(3) Counterfactual Alignment 策略中扰动方式的选择（论文使用 dropout/shuffling/noise）。总体而言，对于具备 LLM 微调经验的研究团队，复现难度适中。

LatentChem：从文本思维链到化学推理中的潜在思考 LatentChem: From Textual CoT to Latent Thinking in Chemical Reasoning