← 返回 2026-01-22

渲染思维：将文本思维链渲染为图像进行视觉潜在推理 Render-of-Thought: Rendering Textual Chain-of-Thought as Images for Visual Latent Reasoning

Yifan Wang, Shiyu Li, Peiming Li, Xiaochen Yang, Yang Tang, Zheng Wei 📅 2026-01-21 👍 18 2026-07-13 08:35
多模态学习 思维链压缩 潜在空间推理 知识蒸馏 视觉推理
arXiv HuggingFace PDF

将文本思维链渲染成图像，用视觉编码器压缩推理过程

前置知识

Chain-of-Thought (CoT) Prompting

思维链提示是一种让大型语言模型通过显式展示推理步骤来解决复杂问题的技术。模型被要求先生成中间推理过程，再给出最终答案。例如，解决数学问题时，模型会输出"12/60=0.2，然后0.2×50=10"这样的推理步骤。CoT能有效提升模型在算术、逻辑推理等任务上的表现，但代价是生成大量冗余文本。

本文核心就是压缩CoT推理过程，理解CoT的工作机制和效率问题是理解本文动机的关键。

Vision Language Models (VLMs)

视觉语言模型是能够同时理解文本和图像的多模态模型，如LLaVA、Qwen-VL等。它们通常包含一个视觉编码器提取图像特征，一个语言模型处理文本，以及一个跨模态对齐层将视觉特征投影到语言空间。VLM不仅能看图回答问题，还具备理解图像中文字内容的能力。

本文利用VLM的视觉编码器作为语义锚点，理解VLM架构是理解本文方法设计的基础。

Latent Space Reasoning

潜在空间推理是指模型在连续的向量空间中进行推理，而不是生成离散的文本token。例如Coconut、CoLaR等方法将推理过程压缩到高维向量中，每一步对应一个潜在向量而非文本词。这种方法可以大幅减少输出长度，但推理过程变得不可见，难以分析和调试。

本文的核心创新是在潜在空间推理中引入视觉可解释性，需要先理解传统潜在推理的局限。

Knowledge Distillation

知识蒸馏是一种模型压缩技术，将大型教师模型的知识迁移到小型学生模型中。在CoT压缩场景中，教师模型生成冗长的文本推理链，学生模型学习用更简洁的方式（如潜在向量、精选token）复现相同的能力。蒸馏通常通过最小化学生输出与教师输出的分布差异来实现。

本文采用视觉知识蒸馏框架，将文本推理链的知识压缩到视觉潜在空间，蒸馏是核心训练范式。

研究动机

现有的CoT推理方法存在严重的效率问题。在GSM8k数学推理任务上，Qwen3-VL-4B模型生成显式CoT平均需要108.4个token，推理时间长达8.55秒，计算开销巨大。虽然已有工作尝试通过token选择（如Tokenskip、R1-Compress）或潜在空间压缩（如Coconut、CoLaR）来减少输出长度，但这些方法存在关键缺陷：大多数方法只关注结果对齐，缺乏对中间推理过程的监督，导致推理过程成为不可见的黑盒。例如CoLaR方法虽然能将推理链压缩到平均31.8个潜在token，但压缩后的向量难以解释，无法追踪模型的推理路径或诊断逻辑错误。

本文的目标是本文旨在解决CoT推理的两个核心矛盾：效率与可分析性的矛盾，以及压缩精度与实现成本的矛盾。具体目标包括：实现与显式CoT相当的推理精度，同时将输出长度压缩3-4倍；通过视觉渲染使推理过程显式化，解决潜在推理的黑盒问题；提出即插即用的实现方案，避免额外的预训练开销，使标准VLM能够通过自蒸馏快速升级。

与已有工作不同的是，本文的独特切入角度是首次将视觉渲染引入推理压缩领域。与以往的"Text-as-Image"工作（如PixelWorld、From text to pixel）仅关注输入端压缩不同，本文将视觉渲染应用到输出端的推理过程压缩。与纯语言空间的潜在推理方法不同，本文利用预训练视觉编码器作为语义锚点，而不是从头学习推理token表示，这提供了更丰富的监督信号。本文的创新在于打破了模态界限，将推理从语言空间迁移到视觉潜在空间，同时保留了可分析性。

核心方法

Render-of-Thought的核心思想是将文本推理步骤渲染成图像，然后用视觉编码器提取特征作为监督目标，训练语言模型在视觉潜在空间中进行推理。整个过程可以理解为：输入一个问题，模型不生成冗长的文本推理链，而是生成一串连续的视觉潜在向量，最后输出答案。这些潜在向量对应于将完整CoT渲染成图像后经过视觉编码器提取的特征。推理时不需要实际的渲染和编码过程，只需要模型生成潜在的视觉轨迹即可，实现了高效的推理压缩。

本文的核心创新是利用预训练视觉编码器作为语义锚点来结构化推理过程。与CoLaR等方法在语言空间从头学习推理表示不同，RoT利用VLM已有的视觉理解能力，将推理步骤映射到视觉嵌入空间。视觉模态具有更高的信息密度，单张图像可以包含大量文本信息，同时视觉编码器提供了天然的语义结构。通过两阶段训练，模型学会生成与渲染CoT对应的视觉特征，既获得了压缩效率，又保留了推理过程的可解释性——因为视觉嵌入可以反向可视化来理解模型的推理路径。

方法步骤详情

RoT包含两个主要阶段：CoT渲染和两阶段训练。渲染阶段：将文本CoT转换为单行图像，使用32像素高度、20像素字体大小、4像素边距的配置，图像宽度根据文本长度动态调整，背景为白色，文字为黑色。这确保了图像patch按从左到右的严格顺序提取，与文本顺序自然对齐。训练阶段I（视觉对齐）：冻结LLM骨干和视觉编码器，只训练视觉投影头（两层MLP，隐藏维度4096，SwiGLU激活）。给定问题$x$和CoT $y_{cot}$，先渲染得到图像，视觉编码器提取目标嵌入$V=\{v_1, v_2, ..., v_K\}$。投影头将LLM隐藏状态映射为$\hat{v}_t = \phi(M(x, <|img_begin|>))$，使用MSE损失$\mathcal{L}_{align} = \frac{1}{K}\sum_{t=1}^{K}\|\hat{v}_t - v_t\|_2^2$对齐。同时训练预测$<|img_end|>$token和答案的交叉熵损失。训练阶段II（潜在监督微调）：冻结视觉编码器和投影头，用LoRA微调LLM。模型自主生成潜在视觉token序列$\hat{V}$和$<|img_end|>$，训练目标是最大化正确答案和终止token的条件概率。推理时：在问题后添加$<|img_begin|>$触发视觉推理，模型生成固定预算的潜在token（GSM8k用32个，MATH用64个），然后自动追加$<|img_end|>$开始解码答案。

技术新颖性

本文的技术新颖性体现在多个方面：首先，这是首次将视觉渲染引入CoT压缩领域，开创了视觉潜在推理的新范式。其次，提出了逆向的跨模态对齐机制——传统MLLM将视觉特征投影到语言空间用于理解，而RoT将语言状态投影到视觉空间用于推理，这是模态对齐的创新应用。第三，发现并利用了单行动态宽度渲染的优势，相比固定方形渲染收敛更快、性能更好，因为消除了空白区域的无效嵌入。第四，揭示了连续潜在空间中动态终止的不稳定性问题，证明固定token预算是更稳定的选择。最后，通过案例分析展示了潜在token的语义结构：在成功案例中，相似度矩阵呈现清晰的局部对角模式；在失败案例中，会出现高相似度的大块区域，说明模型生成了重复的无效token。

Overview of the Render-of-Thought
Figure 2: Overview of the Render-of-Thought
Two-Stage Training Framework
Figure 3: Two-Stage Training Framework
Impact of Rendering Strategies on Training Convergence
Figure 5: Impact of Rendering Strategies on Training Convergence

实验结果

实验表明RoT在效率和精度之间实现了有效的帕累托探索。在Qwen3-VL-4B-Instruct上，显式CoT在四个推理数据集（GSM8k-Aug、GSM-Hard、SVAMP、MultiArith）平均准确率为79.3%，平均推理链长度108.4 tokens；RoT仅用32个潜在token就达到55.4%的平均准确率，实现了约3.4倍的token压缩率。在更难的MATH数据集上，显式CoT达到55.8%准确率但需要291.5 tokens，RoT用64个token达到33.2%准确率。推理时间对比显示，在GSM-Hard数据集上，显式CoT需要8.55秒/样本，RoT仅需1.84秒/样本，加速4.6倍。与LLM基线的隐式推理方法相比，RoT表现更优：在相同Qwen3-4B骨干上，CoLaR-2平均准确率47.3%用31.8 tokens，RoT在Qwen3-VL-4B上达到55.4%用32 tokens。消融实验验证了两阶段训练的必要性：去掉Stage I导致GSM8k-Aug准确率从37.8%降至24.8%，去掉Stage II降至29.9%。视觉投影头的SwiGLU激活和4096隐藏维度是最优配置。渲染配置实验显示32像素高度、20像素字体、4像素边距效果最佳，16像素高度因分辨率不足导致字符模糊，性能显著下降。

Experimental results on four grade-school reasoning datasets across three VLM architectures
Table 1: Experimental results on four grade-school reasoning datasets across three VLM architectures
Comparison with LLM based latent reasoning methods on four grade-school reasoning datasets
Table 2: Comparison with LLM based latent reasoning methods on four grade-school reasoning datasets
Experimental results on the challenging MATH dataset across three VLM architectures
Table 3: Experimental results on the challenging MATH dataset across three VLM architectures
Comparison of decoding strategies on GSM8k-Aug and MATH datasets
Table 4: Comparison of decoding strategies on GSM8k-Aug and MATH datasets
Inference Time Comparison
Figure 4: Inference Time Comparison
Characterizations of Latent Visual Tokens
Figure 6: Characterizations of Latent Visual Tokens
查看结构化数据
任务指标本文基线提升
GSM8k-Aug数学推理 Pass@1准确率/推理长度 37.8%/32 tokens SFT-CoT: 81.2%/127.3 tokens token压缩4倍，准确率保持46.5%
MATH高级数学 Pass@1准确率/推理长度 33.2%/64 tokens SFT-CoT: 55.8%/291.5 tokens token压缩4.6倍，准确率保持59.5%
MultiArith算术推理 Pass@1准确率/推理长度 97.2%/32 tokens SFT-CoT: 98.3%/59.1 tokens token压缩1.8倍，准确率近乎持平
GSM-Hard困难数学 Pass@1准确率/推理长度 14.1%/32 tokens SFT-CoT: 53.4%/191.1 tokens token压缩6倍，准确率差异较大
SVAMP推理 Pass@1准确率/推理长度 72.7%/32 tokens SFT-CoT: 84.3%/55.9 tokens token压缩1.7倍，准确率保持86.2%
推理效率（GSM-Hard） 推理时间（秒/样本） 1.84秒 SFT-CoT: 8.55秒 加速4.6倍

局限与改进

作者承认的局限性包括：当前评估仅限于英文数学和逻辑推理任务，在常识推理、因果推理等其他领域的效果尚未探索；最佳token预算需要任务特定的人工调优，GSM8k-Aug需要32 tokens，MATH需要64 tokens，对于新任务可能需要重新校准；动态终止策略在连续潜在空间中不稳定，必须使用固定预算；训练阶段涉及文本渲染和视觉编码，训练时间比标准SFT-CoT长约1.5倍（56.1小时 vs 36.9小时），虽然推理时加速显著。本文的观察包括：在简单任务上（如MultiArith）准确率接近显式CoT，但在困难任务（如GSM-Hard）上准确率下降明显，说明压缩对复杂推理有负面影响；失败案例分析显示模型在OOD数据上容易生成重复、不可区分的潜在token；方法对渲染配置敏感，需要仔细选择字体大小和图像高度以保证字符清晰度。

独立分析的弱点

RoT的主要弱点在于准确率与显式CoT仍有差距，特别是在困难任务上。在GSM-Hard数据集上，RoT仅达到14.1%，而显式CoT为53.4%。这个差距说明视觉压缩过程丢失了部分细粒度的推理信息。改进方向可以包括：探索更复杂的渲染策略，如多行布局、彩色编码、公式渲染等，以保留更多的语义信息；引入推理步骤的重要性加权，让模型学会关注关键步骤而非均匀压缩；使用层次化的视觉表示，将推理的不同阶段映射到不同的视觉区域。另一个弱点是固定token预算的僵化性，不同任务甚至不同问题需要不同的推理深度。改进方向是开发自适应预算机制，根据问题复杂度或模型不确定性动态调整token数量，可能通过强化学习或元学习来实现。

未来方向

作者提出的未来工作方向包括：扩展到非数学推理任务（如常识推理、因果推理）和多语言设置，评估方法的泛化能力；开发自适应token预算机制，根据任务难度自动调整；解决动态终止在连续空间的不稳定性问题，可能通过引入离散的中间标记或层次化终止策略；优化训练效率，探索离线渲染和缓存机制减少训练开销。基于本文成果的可延伸方向包括：将视觉渲染扩展到其他推理形式，如程序生成、代码解释等；探索多模态推理，结合文本、图像、图表等多种信息源；研究视觉潜在空间的可解释性工具，开发专门的分析和可视化方法；将RoT与其他压缩技术结合，如稀疏注意力、量化等，进一步优化效率。

复现评估

本文的可复现性良好。作者已在GitHub开源代码（https://github.com/TencentBAC/RoT），提供了完整的实现细节。实验使用公开数据集（GSM8k-Aug、GSM-Hard、SVAMP、MultiArith、MATH）和开源模型（Qwen3-VL-2B/4B-Instruct、LLaVa-V1.6-Mistral-7B），遵循标准许可证使用。训练配置详细报告：使用AdamW优化器，学习率$2\times 10^{-5}$，权重衰减$10^{-2}$，批大小16，在2块NVIDIA H20 GPU上训练。Stage I训练1个epoch，Stage II训练2个epoch，总训练时间约56.1小时（比SFT-CoT的36.9小时多1.5倍）。LoRA配置为$\alpha=32, r=16$，dropout 0.05。视觉投影头使用SwiGLU激活，隐藏维度4096。渲染配置：32像素高度，20像素字体，4像素边距，黑字白底。所有实验报告5个随机种子的平均值和95%置信区间。这些详细的设置使得结果易于复现。

论文图表

Comparison of Reasoning Paradigms and Efficiency Analysis
Figure 1: Comparison of Reasoning Paradigms and Efficiency Analysis

这张图对比了三种推理范式：(a)显式CoT依赖冗长的文本生成，直观但效率低下；(b)隐式CoT将推理压缩到潜在空间，高效但过程不可见；(c)Render-of-Thought使用视觉渲染作为语义锚点来结构化潜在推理过程，兼具效率和可分析性。图中还显示了token数量对比，RoT的token数量远少于显式CoT。

这张图对理解论文的核心动机至关重要，它直观展示了RoT在整个推理范式演化中的定位，清晰地说明了RoT相比显式CoT和隐式CoT的优势与差异，帮助读者快速把握论文的切入点。