先见森林后见树木：基于潜在叠加的高效视觉推理 Forest Before Trees: Latent Superposition for Efficient Visual Reasoning
用动态窗口对齐学习将视觉推理压缩到潜在空间，97%省token
前置知识
Chain-of-Thought (CoT) 链式思维
Chain-of-Thought 是一种让大语言模型通过生成中间推理步骤来解决复杂问题的技术。模型不再直接从输入跳到答案，而是像人类一样逐步推理：先理解问题，再分解子问题，最后综合得出结论。在视觉语言模型中，CoT 通常表现为模型先描述图像中的关键视觉元素，再基于这些描述进行逻辑推理。然而，这种显式的文本推理链需要生成大量中间 token，带来显著的推理延迟和计算开销。本文正是针对这一效率瓶颈提出了解决方案。
理解 CoT 的工作原理和效率缺陷是理解本文动机的关键——Laser 的核心目标就是在保持推理质量的同时大幅减少 token 消耗。
潜在空间推理 (Latent Space Reasoning)
潜在空间推理是指模型在连续的高维隐藏状态空间中完成中间推理步骤，而不是在离散的文本 token 空间中生成显式的推理链。具体来说，模型的隐藏层输出（即 latent states）承载了推理信息，这些信息无需解码为可读文本即可驱动后续推理。代表性工作包括 Coconut（在 LLM 中进行潜在推理）和 Monet（在 VLM 中生成连续视觉嵌入作为中间视觉思维）。这种方法的核心优势在于消除了离散化带来的信息损失，但挑战在于如何有效训练和监督这些连续的潜在状态。
本文的 Laser 方法正是在这一范式下工作，理解潜在空间推理的基本概念对于理解 DWAL 的设计动机和技术创新至关重要。
动态窗口对齐学习 (Dynamic Windowed Alignment Learning, DWAL)
DWAL 是本文提出的核心训练方法。传统自回归目标要求每个潜在状态 $ 严格预测下一个精确的 token {t+1}$，这是一种逐点（point-wise）映射。DWAL 则为每个推理步骤 $ 定义一个动态语义窗口 = \{c_k | t \le k \le T\}$，要求潜在状态与窗口内所有未来语义 token 的叠加分布对齐。随着推理推进，窗口自然收缩（$|W_t| o 1$），强制模型从全局语义探索逐步过渡到局部精确匹配。这模仿了人类视觉感知中从整体到细节的认知层级。
DWAL 是本文的技术核心，理解这一机制是理解 Laser 如何避免过早语义坍塌（premature semantic collapse）以及如何实现高效推理的关键。
自精炼叠加 (Self-Refined Superposition)
自精炼叠加是 DWAL 中用于构建软目标（soft target）的机制。它利用模型自身的 logit 输出来估计未来语义窗口内的概率分布，而非依赖外部教师模型或人工标注的软标签。具体做法是提取窗口内 token 对应的 logits，施加 stop-gradient 操作防止自我强化循环，然后通过温度缩放的 Softmax 函数构建参考叠加分布 $。温度参数 $ au$ 控制分布的锐度。这种方法使得模型在训练过程中能够自我构建稳定的软监督信号，无需额外的标注成本。
自精炼叠加是 DWAL 能够在没有外部软标签的情况下实现叠加推理的关键技术，理解它有助于把握本文方法的可行性和可扩展性。
熵正则化干预 (Entropy-Regularized Intervention)
熵正则化干预是 DWAL 中的隐式课程学习机制。当模型的参考叠加分布 $ 的归一化熵 (Q_t)$ 超过预设阈值 $\eta$ 时，说明模型不确定性过高、缺乏语义焦点。此时，系统会动态注入硬目标（即 one-hot 的 ground-truth token），以系数 $?lpha$ 与软叠加目标混合。当模型不确定性较低时，则完全使用软叠加目标。这种机制创建了一个隐式课程：在模型迷糊时给予确定性引导，在模型懂了时允许自由的叠加推理。实验表明 $\eta = 0.6$（约 10% 的触发率）效果最佳。
这一机制解决了纯软目标训练可能导致的优化发散问题，是 DWAL 能够稳定训练的重要保障。
全局优先假设 (Global Precedence Hypothesis)
全局优先假设是认知心理学中的经典理论，由 Navon 于 1977 年提出。该假设认为人类视觉感知具有固有的层级结构：我们先感知整体（森林），再处理细节（树木）。在视觉场景中，这意味着人类先识别场景的整体布局和语义类别，然后才逐步聚焦到具体的对象和属性。本文将这一心理学原理应用于数据合成和模型训练：通过 GPT-4o 合成的 Cognitive Scanpath 严格遵循从全局锚点到局部细节的扫描逻辑，DWAL 的动态收缩窗口则在训练层面强制执行这一认知层级。
这一心理学原理是本文 Forest-before-Trees 核心隐喻的理论基础，理解它有助于把握方法设计的深层动机。
研究动机
视觉语言模型（VLM）在采用 Chain-of-Thought（CoT）进行多步推理时面临严重的效率瓶颈。显式文本推理链虽然提升了模型能力，但产生了巨大的信息带宽问题：连续的视觉细节在离散 token 化过程中被大量丢失。以 VL-Rethinker 为例，在 HRBench 基准上其 token 消耗比基础模型增加了 157.2%（从 55.9 个 token 激增到 143.8 个）。即使是专为潜在推理设计的 Monet 方法，在 BLINK 上仍需平均 118.3 个 token，仅比基础模型的 223.5 个减少了 47.1%。更深层的问题在于，现有的潜在推理方法（如 LVR）虽然在潜在空间中操作，但仍然沿用标准的自回归目标——强制潜在状态 $ 在每个时间步精确预测下一个 token {t+1}$。这种严格的逐点映射导致过早语义坍塌（premature semantic collapse）：模型在理解整体上下文之前就被迫坍塌为一个精确的对象 token，产生隧道视野效应，严重阻碍了复杂视觉关系的捕捉。
本文的目标是本文的核心目标是设计一种新的潜在推理范式，能够在保持甚至超越显式 CoT 推理质量的同时，将推理 token 消耗降低到极致。具体而言，作者希望实现三个目标：第一，将视觉推理从刚性的序列匹配任务转变为灵活的窗口化流形对齐问题；第二，通过动态窗口机制强制执行先见森林后见树木的认知层级，避免过早语义坍塌；第三，在不依赖外部标注或教师模型的前提下，通过自监督方式稳定潜在空间中的叠加推理学习。最终目标是实现效率与性能的最优平衡——用不到 10 个 token 完成原本需要数百个 token 的推理过程，同时保持或超越原有精度。
与已有工作不同的是，本文的独特切入角度在于重新定义了潜在推理的优化目标。现有方法（LVR、Monet 等）本质上仍遵循预测下一个 token 的范式，只是将预测空间从离散扩展到连续——这并未改变逐点映射的根本限制。Laser 则从根本上转变了问题定义：不再要求潜在状态 $ 指向一个单一的未来词，而是要求它成为一个有效域的容器，同时编码多个未来语义概念的概率叠加。这一叠加优先于坍塌的设计理念直接源于认知心理学中的全局优先假设——人类视觉处理先形成整体感知的概率迷雾，再逐步聚焦到具体细节。DWAL 的动态窗口 $ 随时间自然收缩的设计，恰好模拟了这种从全局探索到局部精确的渐进过程，这是此前任何潜在推理方法都未曾尝试过的角度。
核心方法
Laser（Latent Superposition for Effective Visual Reasoning）的整体思路可以用一个直觉来概括：与其让模型在推理的每一步都赌一个确定的答案，不如让它先看好几个可能的答案，随着推理的推进再逐步收窄范围。技术路线分为三个层次：首先，通过 GPT-4o 合成高质量的 Cognitive Scanpath 数据（270k 样本），这些扫描路径严格遵循全局到局部的认知逻辑；其次，提出动态窗口对齐学习（DWAL）作为核心训练目标，用动态收缩的语义窗口替代传统的逐点 token 预测，允许潜在状态在窗口内保持多个语义概念的概率叠加；最后，设计自精炼叠加和熵正则化干预两个机制来稳定叠加训练过程，前者利用模型自身构建软目标，后者在模型不确定性过高时注入硬引导。整个推理过程被包裹在 <|laser_start|> 和 <|laser_end|> 两个特殊 token 之间，模型在潜在空间中完成推理后，仅需极少数 token 即可输出最终答案。
Laser 的核心创新在于将视觉推理的优化目标从逐点预测重新定义为窗口对齐。具体来说，传统自回归框架中的损失函数 $\mathcal{L} = -\sum_t \log P_ heta(c_{t+1} | I, Q, c_{<t})$ 强制每个潜在状态 $ 最小化对下一个精确 token {t+1}$ 的负对数似然——这是一种刚性的、局部的约束。Laser 则定义动态语义窗口 = \{c_k | t \le k \le T\}$，要求潜在状态与窗口内所有未来语义 token 的叠加分布对齐。关键区别在于：Monet 等方法虽然也在潜在空间推理，但仍使用标准的逐点自回归目标，本质上只是在连续空间中重复了离散 token 预测的逻辑；Laser 则从根本上改变了目标函数——它允许潜在状态同时编码多个语义可能性（叠加态），而不是被迫选择单一语义点。这种概率叠加的设计使得模型能够保持对全局视觉语义的概率迷雾，避免因过早聚焦于单一 token 而丢失关键的视觉上下文信息。
方法步骤详情
Laser 的完整方法包含以下步骤：（1）数据合成：利用 GPT-4o 作为视觉认知引擎，基于全局优先假设合成 Cognitive Scanpath。每条路径从全局锚点（如场景类别）开始，逐步聚焦到相关对象，最终收敛到回答查询所需的关键视觉证据。经过严格过滤后获得 270k 高质量样本，平均包含 7.14 个推理节点。（2）模型输入构建：将图像 $ 和文本查询 $ 输入 Qwen2.5-VL-7B-Instruct 作为骨干网络，在 <|laser_start|> 和 <|laser_end|> 之间注入认知扫描路径作为推理链 = \{c_1, c_2, \ldots, c_T\}$。（3）动态窗口定义：对每个推理步骤 $，定义语义窗口 = \{c_k | t \le k \le T\}$，窗口随 $ 增大而自然收缩。（4）自精炼叠加：提取窗口内 token 对应的 logits，施加 stop-gradient 得到 $\hat{z}_t^{(k)}$，通过温度缩放 Softmax 构建参考叠加分布 (k) = ?rac{\exp(\hat{z}_t^{(k)}/ au)}{\sum_{j \in W_t} \exp(\hat{z}_t^{(j)}/ au)}$。（5）熵正则化干预：计算归一化熵 (Q_t) = -?rac{1}{\log|W_t|}\sum_{k \in W_t} Q_t(k) \log Q_t(k)$，当 (Q_t) > \eta$ 时混合硬目标 ^{ ext{target}} = ?lpha \cdot y_{ ext{hard}} + (1-?lpha) \cdot Q_t$，否则直接使用 $。（6）优化目标：DWAL 损失 $\mathcal{L}_{ ext{DWAL}} = -?rac{1}{T}\sum_{t=1}^{T}\sum_{k \in W_t} P_t^{ ext{target}}(k) \log P_ heta(k|I,Q,c_{<t})$ 加上标准的交叉熵答案损失 $\mathcal{L}_{ ext{CE}} = -?rac{1}{M}\sum_{j=1}^{M}\log P_ heta(a_j|I,Q,C,a_{<j})$，总损失 $\mathcal{L}_{ ext{Total}} = \mathcal{L}_{ ext{DWAL}} + \mathcal{L}_{ ext{CE}}$。（7）训练配置：冻结视觉编码器和模态合并器，仅优化 LLM 参数，在 8 块 MI210 GPU 上训练 320 步，使用 AdamW 优化器、学习率 imes 10^{-5}$ 和余弦衰减调度器。
技术新颖性
Laser 的技术新颖性体现在三个层面。第一，问题定义层面：首次将潜在推理从逐点 token 预测重新定义为窗口化概率对齐，这是一个根本性的范式转变。之前的潜在推理方法（LVR、Monet、SoftCoT 等）无论在离散还是连续空间中操作，都未跳出预测下一个 token 的基本框架；Laser 则引入了叠加态的概念，允许潜在状态同时承载多个语义可能性。第二，训练机制层面：自精炼叠加和熵正则化干预的组合设计巧妙地解决了无外部监督下叠加训练的稳定性问题。stop-gradient 操作防止了自我强化循环，熵阈值机制创建了隐式课程——这比传统的温度调节或梯度裁剪更为优雅。第三，认知科学层面：将认知心理学中的全局优先假设转化为可操作的训练策略，动态窗口的收缩机制直接模拟了人类视觉处理的从整体到细节的认知层级。这种跨学科的设计使得 Laser 不仅在技术上新颖，在理论基础上也比纯粹的工程方法更具深度。此外，Laser 还保持了潜在推理的可解释性——通过冻结的 LM Head 可以将每个时间步的潜在状态解码为 top-k token，从而可视化模型的认知轨迹，这在之前的潜在推理方法中是前所未有的。
实验结果
Laser 在 6 个多样化基准上进行了全面评估，结果表明其在潜在推理方法中达到了新的最优水平。与之前的最佳方法 Monet 相比，Laser 的总体分数从 61.55 提升到 66.58，绝对增益 +5.03%。最显著的改进出现在 HallusionBench（从 56.36 到 67.72，+11.36%）和 BLINK（从 50.71 到 56.92，+6.21%），这归功于动态窗口对齐有效缓解了点对点潜在方法中常见的幻觉问题。在效率方面，Laser 实现了卓越的 token 压缩：在 BLINK 上将平均 token 数从 223.5（基础模型）降至 6.0，减少了 97.3%；在 HRBench 上从 55.9 降至 5.7，减少了 89.7%。这一效率远超 Monet（BLINK 上 118.3 个 token）和 LVR（8.0 个 token）。值得注意的是，效率提升并未牺牲性能——Laser 在所有 6 个基准上均超越了其骨干模型 Qwen2.5-VL-7B，特别是在 MMVP（CLIP 盲测模式）上提升了 +6.33%。在泛化能力方面，Laser 在未见过的领域也展现了强大的迁移性：Web 任务 +8.03%，Chart 任务 +5.18%，Math +1.20%，Relative Depth +0.81%，且在 Geometry 上保持稳定（53.24）。RL 增强变体 Laser+EPG 进一步将 token 数压缩至 3.36（BLINK）和 2.87（HRBench），同时总体精度基本持平（66.73 vs 66.58）。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| MMVP（CLIP 盲测视觉模式） | 准确率 (%) | 72.00 | Monet 68.00 / Qwen2.5-VL-7B 65.67 | +4.00 (vs Monet), +6.33 (vs backbone) |
| BLINK（视觉感知） | 准确率 (%) | 56.92 | Monet 50.71 / Qwen2.5-VL-7B 53.60 | +6.21 (vs Monet), +3.32 (vs backbone) |
| SEED-Bench-2-Plus（文本密集视觉理解） | 准确率 (%) | 70.05 | Monet 65.88 / Qwen2.5-VL-7B 65.31 | +4.17 (vs Monet), +4.74 (vs backbone) |
| MMStar（细粒度推理） | 准确率 (%) | 60.27 | Monet 60.33 / Qwen2.5-VL-7B 59.70 | -0.06 (vs Monet), +0.57 (vs backbone) |
| HallusionBench（幻觉诊断） | Q-Acc (%) | 67.72 | Monet 56.36 / Qwen2.5-VL-7B 56.57 | +11.36 (vs Monet), +11.15 (vs backbone) |
| HRBench（高分辨率感知） | 准确率 (%) | 72.50 | Monet 68.00 / Qwen2.5-VL-7B 68.25 | +4.50 (vs Monet), +4.25 (vs backbone) |
局限与改进
尽管 Laser 取得了显著成果，但论文中也暴露了一些局限性。首先，在 Object Localization、Jigsaw 和 Functional Correspondence 三个任务上，Laser 略微逊色于基线模型。作者将此归因于弱监督设计选择——Laser 通过潜在对齐隐式学习定位，而非依赖显式的边界框回归。这意味着森林优先策略在追求语义精度的同时，牺牲了像素级的绝对定位精度。其次，数据合成完全依赖 GPT-4o，虽然成本远低于人工标注，但仍引入了模型偏差——合成的扫描路径质量受限于 GPT-4o 自身的视觉理解能力，且无法保证 100% 的有效性（人工评估验证率为 91.5%）。第三，实验仅在 Qwen2.5-VL-7B-Instruct 一个骨干网络上验证，缺乏对其他 VLM 架构（如 LLaVA、InternVL）的适配性验证。第四，训练规模较小（仅 320 步），虽然效率高，但也引发了对更复杂任务或更大模型上的泛化性的疑问。第五，Laser 的可解释性虽然通过解码 top-k token 实现，但这些 token 本质上是投影的副产品而非显式的推理链，其语义清晰度和可靠性有待进一步验证。最后，论文未讨论 Laser 在生成式任务（如图像描述、视觉问答中的开放式回答）上的表现，仅测试了选择题场景，这限制了对其通用性的评估。
独立分析的弱点
从独立分析的角度，Laser 存在以下几个值得改进的弱点。第一，绝对定位能力不足：在 Object Localization 任务上 Laser 逊于基线，这是因为 DWAL 的叠加目标天然偏向语义流形而非精确的像素坐标。改进方向可以是引入一个轻量级的辅助定位损失，在训练后期（窗口收缩到 $|W_t| ?pprox 1$ 时）注入边界框监督信号，或者设计一个混合架构在推理后期切换到显式的定位模块。第二，数据合成的单点依赖：270k 样本全部由 GPT-4o 合成，存在系统性偏差风险。可以考虑引入多模型集成（GPT-4o + Gemini + Claude）或者人类-AI 协作的混合标注流程来提高数据多样性。第三，温度参数 $ au$ 和熵阈值 $\eta$ 的固定设置：实验中 $ au = 1.0$、$\eta = 0.6$ 是全局固定的，但不同任务类型（如感知任务 vs 推理任务）可能需要不同的参数配置。改进方向是设计自适应的参数调节机制，根据当前推理步骤的语义复杂度动态调整。第四，缺乏与最新 RL 方法的深度对比：虽然论文报告了 Laser+EPG 的结果，但未与 GRPO、DAPO 等最新 RL 框架进行系统对比，也未探讨将 DWAL 与这些 RL 方法结合的可能性。第五，推理效率的上限问题：Laser 在 BLINK 上压缩到 6.0 个 token，而 Laser+EPG 进一步压缩到 3.36 个，但论文未讨论这种极端压缩是否会导致在更复杂推理链上的信息丢失——是否存在一个理论上的最小充分 token 数？
未来方向
基于本文的成果，可以延伸出多个有前景的研究方向。第一，将 Laser 的叠加推理范式扩展到视频理解领域——视频的时序结构天然适合动态窗口的收缩机制，从全局场景理解到局部动作识别的认知层级在视频推理中更为明显。第二，探索 DWAL 与强化学习的深度结合：论文中的 Laser+EPG 仅是初步尝试，可以设计更精细的奖励函数（如叠加质量奖励、窗口利用效率奖励）来进一步优化推理效率和质量的平衡。第三，将叠加推理推广到多模态生成任务——不仅在视觉理解中使用潜在叠加，还可以在图像生成、视频生成等任务中引入生成叠加态，允许模型在早期阶段保持多种生成可能性。第四，研究叠加推理的理论基础——DWAL 的窗口对齐本质上是一种流形正则化，可以从信息几何的角度分析为什么叠加态比点态预测更高效，以及窗口收缩速率与推理质量之间的理论关系。第五，开发跨骨干网络的通用 Laser 框架——将 DWAL 设计为可插拔的训练模块，适配 LLaVA、InternVL、Qwen-VL 等多种架构，并研究不同视觉编码器对叠加推理能力的影响。第六，探索 Laser 的可解释性在安全关键场景中的应用——通过解码认知轨迹来检测和诊断模型的推理失败模式，为 VLM 的可信部署提供支持。
复现评估
从复现评估的角度来看，Laser 的复现条件相对友好但也存在一些挑战。开源方面，论文声称代码和数据集（Laser-ScanPath）已发布（GitHub 链接 Laser2026），这是复现的积极信号。数据方面，ScanPath 数据集包含 269,773 个样本，基于 Flickr30k、GQA、OpenImages、Visual7W、CUB、VSR 六个公开数据集构建，数据来源可追溯；但数据合成依赖 GPT-4o 的 API 调用，这意味着完全复现数据合成流程需要 OpenAI API 访问权限和相应的费用。算力方面，训练使用 8 块 MI210 GPU（AMD GPU，24GB 显存），配合 DeepSpeed ZeRO-3 和 CPU 卸载，总训练仅 320 步——这对大多数研究机构来说是可承受的。但推理效率的极致压缩（6 个 token）可能掩盖了潜在空间中的计算开销——虽然 token 数少了，但每个潜在状态的计算量可能不亚于显式 token。难度方面，核心算法（DWAL 损失函数）相对简洁，实现复杂度适中；但自精炼叠加中的 stop-gradient 机制和熵正则化干预的阈值调节需要仔细实现以避免训练不稳定。总体而言，对于具备 VLM 训练经验的研究团队，复现 Laser 的主结果是可行的，但完全复现包括 RL 增强在内的完整流程需要更多的工程经验。
论文图表
效率对比表展示了各方法在 BLINK 和 HRBench 上的平均 token 数。Laser 在 BLINK 上仅需 6.0 个 token（-97.3%），HRBench 上仅需 5.7 个（-89.7%），远优于 VL-Rethinker（207.0/143.8）和 Monet（118.3/86.8）。
这是论证 Laser 效率优势的关键数据，将 token 压缩比例量化为具体数字，为 97% 推理 token 减少这一核心卖点提供了实证支持。
泛化能力验证表，展示了 Laser 在未见过的领域（Web +8.03%、Chart +5.18%、Math +1.20%）上的迁移表现，以及在空间感知任务上保持稳定的性能。
这张表证明 Laser 的训练不会导致灾难性遗忘，学到的推理模式能够迁移到新领域，这对于评估方法的实际部署价值至关重要。
RL 增强对比表展示了 Laser+EPG 在 token 效率和精度上的表现。EPG 将 BLINK token 数从 6.03 进一步压缩到 3.36，HRBench 从 5.74 压缩到 2.87，同时总体精度基本持平（66.73 vs 66.58）。
这张表展示了叠加推理与强化学习结合的潜力，表明通过 RL 可以进一步优化推理效率，为未来工作指明了方向。
熵阈值消融实验，测试了 η = 0.5/0.6/0.8/1.0 四个设置。η = 0.6（触发率 10%）在总体精度上最优（66.58%），过低阈值（0.5，触发率 18%）导致推理任务退化，过高阈值（1.0，触发率 0%）导致感知任务不足。
这张表量化了熵干预机制中关键超参数的敏感性，证明了 10% 的触发率是最佳平衡点，为方法设计提供了实验依据。
干预强度消融实验，测试了 α = 0.2/0.5/0.8 三个设置。α = 0.8 总体最优（66.58%），说明在高不确定性状态下给予更强的确定性引导效果更好。
这张表进一步验证了熵干预机制的设计合理性，证明了较强硬干预（α = 0.8）优于较软干预。
时间感知语义衰减消融实验。添加时间衰减后总体精度略有下降（66.32 vs 66.58），说明默认的均匀窗口权重设置已足够有效。
这张表展示了作者对方法改进方向的探索——时间衰减未能带来提升，说明当前的均匀窗口设计已接近最优。
ScanPath 数据集的详细统计表，包含 269,773 个样本，来自 6 个视觉领域（Flickr30k 38.5%、GQA 32.0%、OpenImages 15.8% 等），推理节点数平均 7.14 个，范围 1-20 个。
这张表提供了数据集的全面画像，是评估 Laser 训练数据质量和多样性的基础，也方便后续研究者复现和扩展数据集。