VLM 需要“词”：视觉语言模型忽视视觉细节而依赖语义锚点 VLMs Need Words: Vision Language Models Ignore Visual Detail In Favor of Semantic Anchors
揭示 VLM 靠语义标签“短路”视觉推理的失败机制
前置知识
视觉语言模型（VLM）
VLM 是结合视觉编码器与语言模型的端到端多模态系统。视觉编码器（如 ViT）将图像切分为 patch 并映射为视觉 token，再由语言模型在自回归过程中将其与文本 token 共同处理以生成回答。文中涉及的 Qwen3VL、InternVL3.5、Gemma3 均为典型代表。
本文的论点是 VLM 内部存在一种“语言短路”行为——把视觉比较任务转化为语言层面的字符串匹配。理解 VLM 的模块化结构是把握这种“语言化”现象的前提。
语义对应（Semantic Correspondence）
在两幅图像中匹配语义等价的局部区域或关键点的任务，例如把第一张图中“自行车的脚踏板”与第二张图中的同一零件对应起来。文中使用 SPairs71k 数据集，含 70,958 对图像、18 个类别，每张图标注多个关键点。
该任务需要细粒度视觉感知，是 VLM 表现远低于人类的核心场景之一。本文用 SPairs71k 比较“有名 vs 无名”关键点的表现差距。
隐藏于明处差距（Hidden-in-Plain-Sight Gap）
指 VLM 内部表征已包含足够完成任务的信息，但最终文本输出却给出错误答案的现象，由 Fu 等人 2025 年提出。这个差距被归因于语言模型骨干，但具体机制一直未被解释。
这是本文试图解释的核心现象。论文认为“差距”源于语言模型缺乏可分配给视觉实体的语义标签，从而把视觉任务硬塞进语言空间。
Logit Lens
一种可解释性技术，由 nostalgebraist 于 2020 年提出。它把语言模型中间层 hidden state 直接送入最后一层的 unembedding 矩阵，得到该层位置上的“预测 token”，相当于用模型自己的输出头“透视”每一层。
Logit Lens 是本文揭示“VLMs 显式恢复语义标签”机制的关键工具。通过观察中间层解码出的 token 演化（噪声→近似描述→精确名称），可直接看见“语义锚点”何时浮现。
表征探测（Representation Probing）
绕过文本输出，直接在模型中间层计算视觉 token 之间的相似度（如 MaxSim）以得出答案。本文在 30×30 像素区域上提取视觉 token，对比第一张图 REF 区域与第二张图四个候选区域的隐藏表征相似度，最高者即为答案。
它提供了一种“上界”——VLM 在不动用语言能力时究竟能答对多少。正是这个上界与文本输出的差距，构成了“hidden-in-plain-sight gap”。
MaxSim 与 Jaccard 距离
MaxSim 来自 ColBERT 等检索模型，取两个 patch 集合 token 对的最大相似度，本文用于对应任务。Jaccard 距离 $D_J(A,B) = 1 - \frac{|L_L(VA) \cap L_L(VB)|}{|L_L(VA) \cup L_L(VB)|}$ 用于衡量两实体 Logit Lens token 集合的可区分性。
MaxSim 让表征探测无需对 patch 做有损池化；Jaccard 距离让“语义可辨识性”被量化为单一数值，从而支撑 3c-3f 的层间对比。
研究动机
近两年 VLM 在视觉问答、图像描述、文档理解等任务上表现强劲，但一旦任务要求细粒度视觉感知就集体失灵——它们在图表与示意图理解（Zhang 等 2024）、光错觉识别（Shahgir 等 2024）、抽象视觉推理（Chollet 等 2026），甚至三岁小孩都能完成的视觉判别任务（Chen 等 2026）上反复出错。Fu 等 2025 与 Liu 等 2025 用“表征探测”证明，VLM 中间层其实已经保留了足以答对的视觉信息，错误出现在语言模型把视觉信息转写为文本时——这被称为 hidden-in-plain-sight gap。这种 gap 在 SPairs71k 关键点对应任务上可达 30 个百分点以上，意味着大量视觉信息在“翻译”为语言的过程中被无端丢弃。更麻烦的是，task-specific 监督虽然能缓解失败，但这种缓解无法解释为什么在亿级图文对上预训练的 VLM 仍然不会做“看图”这件事——它只会在算到“看字”更省力时绕开视觉通道。
本文的目标是本文要回答的核心问题是：为什么 VLM 在细粒度视觉任务上会出现 hidden-in-plain-sight gap？作者提出一个可被实验验证的假设：VLM 之所以在语言输出端失败，是因为它在内部把视觉实体“翻译”为离散的语义标签（即“语义锚点”），然后把整道视觉任务改写为语言空间里的字符串匹配。当视觉实体可被命名时（例如“脚踏板”），模型能成功走这条捷径；当视觉实体无法被命名时，模型依然尝试这条语言化路径，却只能生成含糊甚至幻觉化的描述，反而拖累了判断。作者要把这条“语义锚点假设”用三类任务（语义对应、2D 形状对应、人脸对应）系统验证，并用 Logit Lens 在机制层面证实假设，最后比较两条可能的修补路径：“教名字”和“任务专精微调”。
与已有工作不同的是，此前 Fu 等 2025 与 Liu 等 2025 都把 hidden-in-plain-sight gap 归因于“语言模型骨干本身的能力缺陷”，但都没给出机制解释。同期另一些工作（Vo 等 2026、Fu 等 2024）记录了 VLM 过度依赖语言先验的现象，但没有人把这种“语言依赖”与“视觉失败”在机制上连通起来。本文独特之处在于：1）提出一个具体的“语义锚点”机制假说（语言化 + 标签化），而不仅是“语言先验存在”的观察；2）通过把每个测试样本显式分成“可命名 vs 不可命名”，把语言先验的可控变量从模型规模、数据分布里解耦出来；3）借助 Logit Lens 直接可视化“名字在第几层浮现”，让假设从相关性升级为机制性证据；4）最后用“教任意名字”与“任务微调”两条对照路径，区分“语义锚点是必要还是充分”。这是首篇把“VLM 的视觉失败”与“可命名的语义标签”直接挂钩并量化的工作。
核心方法
方法的核心思路是“分层 + 命名 + 探测”：先用一个统一的多选视觉问答（MC-VQA）框架把“对应问题”变成可比较的评估协议，再用 Logit Lens 把模型内部对视觉实体的解读“逐层翻译”出来，最后用两种干预——给未知形状取任意名字（语义化干预）和在对应任务上做 task-specific finetune（视觉化干预）——去验证“语义标签是必需还是只是捷径”。整体上论文分四步：第一步在 SPairs71k 真实图像、2D 合成形状、AI 生成人脸上建立“Named vs No-Name”对照；第二步用 Direct、Chain-of-Thought、Representation Probing 三种模式评估每类 VLM，找出“文本端 vs 表征端”的差距；第三步用 Logit Lens 逐层解码视觉 token，用 Jaccard 距离量化语义可辨识性；第四步用两组微调实验来切断“语言 vs 视觉”两条因果链。
本文的“核心创新点”把 VLM 失败归因到一个具体的认知机制——“语义锚点短路”——并通过命名性（nameability）这个二元变量把它从其他混淆因素里隔离出来。和已有方法相比的本质区别有三点。第一，已有工作（Fu 2025、Liu 2025）只看“表征-输出”的数值差距，没有追问“为什么差距会因视觉实体而异”；本文把每个样本人为标注为 Named 或 No-Name 后立刻看到一条清晰边界——同一模型、同一数据集，No-Name 子集上 $R-\max(D,C)$ 差距在 Qwen3VL-8B 上从 3.3% 扩大到 13.7%，Gemma3-12B 在 2D 形状上从 0.1% 扩大到 29.0%，差距本身就是机制线索。第二，Logit Lens 提供了时间分辨率——在 Gemma3-12B 上 star 这个 token 从 Layer ~14 的“and/in/from”演化为 Layer ~31-33 的“triangle/pointed”，再到 Layer ~34 突然定锚到“star”，最后到 Layer ~44 出现“five/BTS”，整条轨迹直接呈现“语义锚点何时在内部形成”。第三，“教任意名字 vs 直接任务微调”是一对反事实实验：前者把 2D 形状的 Direct VQA 从 29.0% 提到 86.0%，但 Mean Jaccard Distance 同步升高；后者把准确率提到 98.7%，但 Jaccard Distance 不升反降，证实这是两条独立路径。
方法步骤详情
具体实验方法按以下七步展开。第一步，准备三类数据集：SPairs71k 真实图像对，作者手工把 70,958 对中的 23,154 对分为 11,362 Named 和 11,792 No-Name（Named 例子：bicycle 的 pedal；No-Name 例子：head tube 与 top tube 的接缝）；自建 2D Shape 数据集，把 10 个常见形状（“square”、“star”等）与 n 个 anchor 点的随机 cubic spline（“squiggle”）配对，n 控制形状复杂度；自建 Face 数据集，用 FluxSynID 的合成脸 + Nano-Banana-2 生成已知名人 + 用 FluxSynID 生成的未知 AI 人脸，每名人 4 张不同姿态/光照。第二步，统一评测协议：把对应问题构造成 MC-VQA——第一张图标记 REF，第二张图标记 A/B/C/D 四个候选区，要求 VLM 选一个答案。设三档评测：Direct（前置“The correct answer is”前缀，单次前向）、CoT（在 prompt 后追加“Think step by step”让模型多步推理）、Representation Probing（提取 30×30 像素区的视觉 token，对 REF 与四个候选的 hidden state 计算 MaxSim，相似度最大者即为答案，扫所有层取最佳）。第三步，测试 Qwen3VL（2B/4B/8B）、InternVL3.5（2B/8B/14B）、Gemma3（4B/12B）三家族模型，结果汇总在 Table 1 与 Table 2。第四步，Logit Lens 分析：对每个视觉 token 在每层做 unembedding 取 argmax 拿到 top-1 token；用 Jaccard 距离 $D_J(A,B|L) = 1 - \frac{|L_L(VA) \cap L_L(VB)|}{|L_L(VA) \cup L_L(VB)|}$ 量化同图内任意两实体的语义可辨识性，对数据集求均值得到 Mean Jaccard Distance。第五步，“教任意名字”干预：在 Qwen3VL-2B 和 Gemma3-4B 上微调，让模型从单图任务中学会每种 squiggle 的标签；用三组名字（ordinary：cup/anchor/feather 等、人名：John/Mary/Charles、随机 6 字符：0QK2Z2/5F1FT3 等），训练任务与 2D 形状对应任务结构不同以避免在原任务上提前过拟合。第六步，“任务专精微调”干预：在 n=30 的 squiggle 对应任务上用 1000 对合成图微调两模型，然后在 squiggle（n=20/30/40/50/100）、maze（n=3/4/5/6/10）、人脸、SPairs71k 多个 OOD 集上测 Direct VQA。第七步，可视化与因果解释：把“Mean Jaccard Distance”作为语义可辨识性的代理指标，对照各干预条件下的 VQA 准确率，证实“语义可辨识性↑ ⇒ 准确率↑”，但“准确率↑ 不一定需要语义可辨识性↑”。
技术新颖性
技术新颖性体现在四个层面。第一，把“语言依赖”变成可量化的因变量：nameability 这个二元标签让“语言先验的强度”第一次有了直接可操作的实验旋钮，绕过了过去只能通过 prompt engineering 或模型规模间接控制语言先验的限制。第二，把可解释性工具（Logit Lens）从“展示有趣现象”提升为“验证机制假说”：Jaccard 距离给出了一个 0-1 区间的连续度量，并且与 VQA 准确率呈单调正相关（Figure 4 中 ordinary > human > random 的顺序与 Jaccard 顺序完全对齐），把“模型是不是在用语义化路径”从直觉变成可证伪的判断。第三，用配对干预实验区分“充分 vs 必要”：在同一个 2D 形状任务上对比“教名字（高 Jaccard + 高准确率）”和“任务微调（低 Jaccard + 更高准确率）”，让“语义锚点”从单一假说分解为可独立验证的两条路径。第四，跨三家族（Qwen3VL、InternVL3.5、Gemma3）、跨三任务（语义、形状、人脸）、跨五档模型规模（2B-14B）的一致性复制——Qwen3VL-8B 的 R−max(D,C) gap 在 Named 3.3% / No-Name 13.7%，Gemma3-12B 在 2D 形状 Known 0.1% / Unknown 29.0%，这种稳定复制让结论的普适性得到保证。
实验结果
本文有四组关键实验，每组都有清晰的数值证据。第一组 SPairs71k 真实图像语义对应（Table 1）：Qwen3VL-2B 在 Named 子集 Direct 36.6% / CoT 57.4% / Rep. Probe 68.7%，在 No-Name 子集 Direct 32.4% / CoT 42.2% / Rep. Probe 60.2%；Qwen3VL-8B 在 Named 53.8%/65.3%/68.6%，No-Name 40.3%/47.9%/61.6%。CoT 给 Named 带来 +20.8% 的提升（Qwen3VL-2B）而 No-Name 只有 +9.8%，差距近 11 个百分点，作者通过检查 CoT 链条发现模型会把视觉对应改写为“REF is a pedal, C is a pedal, so C”这种字符串匹配。R−max(D,C) gap 在 Qwen3VL-8B 上 Named 3.3% / No-Name 13.7%，说明在 Named 情况下表征端几乎能解决、文本端也能凑合，而 No-Name 下表征端保留 60% 以上信息却只翻译出 47% 不到。第二组 2D 形状对应（Table 2）：在控制变量最干净的合成任务上 gap 进一步放大——Qwen3VL-2B Unknown 形状 Direct 29.0% / CoT 27.3% / Rep. Probe 74.2%，差距 45.2 个百分点；Qwen3VL-8B 出现 CoT 反向效果（Unknown 形状 CoT 比 Direct 反而低 19.4 个点），作者在 Appendix F.3 展示了 CoT 会退化为幻觉化描述。Gemma3-12B 在 2D 形状上 Unknown 40.2% / CoT 42.9% / Rep. Probe 89.3%，R−max(D,C) gap 高达 46.4%。第三组人脸对应（Table 2）：Qwen3VL-2B 已知名人 77.1% / 59.2% / 97.2%，未知 AI 人脸 41.1% / 37.4% / 70.8%——已知名人上 CoT 甚至比 Direct 差 17.9 个点，提示模型在“认识人脸”时过度自信反而被强行语言化弄错。第四组干预实验：Table 3 显示 Qwen3VL-2B 教 ordinary 名字后 VQA 从 29.0% → 86.0%（已超过 Rep. Probe 预微调 74.2%），human 名字到 70.2%，random 6 字符串到 62.8%；Gemma3-4B 在 random 名字上达到最佳 65.1%，可能与 random 字符串平均 4.7 token 长度带来的更稳定 token 表征有关。Figure 4 证实 Mean Jaccard Distance 在教名字后大幅提升且顺序与准确率一致。Table 4 是 task-specific 微调：Qwen3VL-2B 在 squiggle n=30（ID）从 28.8% → 98.7%，在 maze n=3（OOD 不同形状族）从 36.8% → 99.0%，在 squiggle n=100（更复杂）从 28.7% → 61.4%——重要的是 OOD 提升 36→99 的事实本身就在反驳“模型靠内部标签化”的假设。同时微调 squiggle 后人脸对应提升 16%、语义对应提升 10.7%，Gemma3-4B 提升 8.7% 和 5.8%（详见 Appendix G），证明 task-specific 训练能学到一种可迁移的视觉比较能力。Figure 6 把两条路径并置：Qwen3VL-2B 在教 ordinary 名字下 Jaccard Distance 高（~0.85）但 VQA 86.0%，在 task-specific 微调下 Jaccard Distance 反而低（~0.80）却 VQA 98.7%，直接说明 task-specific 微调走的是一条“不依赖语义可辨识性”的视觉路径。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| SPairs71k 语义对应（Named 子集） | Direct VQA 准确率 | Qwen3VL-8B 53.8%；InternVL3.5-14B 31.9%；Gemma3-12B 50.4%（对应表） | Qwen3VL-2B 36.6%；InternVL3.5-2B 28.1%；Gemma3-4B 49.8%（同表 2B 基线） | Qwen3VL 从 2B 到 8B 在 Direct 上 +17.2pp；CoT 加 +11.5pp；Rep. Probe 加 +14.9pp（相对 Direct） |
| SPairs71k 语义对应（No-Name 子集） | R−max(D,C) 表征-输出差距 | Qwen3VL-8B 13.7%；Gemma3-12B 17.3%；InternVL3.5-14B 17.3% | 对应 Named 子集差距：Qwen3VL-8B 3.3%；Gemma3-12B 1.4%；InternVL3.5-14B 13.0% | No-Name 上表征端相对文本端的优势系统性扩大 4-10 倍，差距量级直接证伪“模型有视觉能力只是说不出来”的简单版本 |
| 2D 形状对应（Unknown 形状） | Rep. Probe vs Direct VQA | Qwen3VL-2B Rep. Probe 74.2% / Direct 29.0%（gap 45.2pp）；Gemma3-12B 89.3% / 40.2%（gap 49.1pp） | Known 形状 Qwen3VL-2B Rep. Probe 100% / Direct 54.1%；Gemma3-12B 98.5% / 72.7% | Unknown 形状上 VLM 内部特征充分但文本输出崩溃，Known 形状则接近饱和，差距完全由 nameability 解释 |
| 人脸对应（Known 明星） | Direct VQA / CoT | Qwen3VL-8B 83.9% / 85.2%；Gemma3-12B 50.4% / 48.6% | Qwen3VL-2B 77.1% / 59.2%（CoT 退化 17.9pp）；Gemma3-4B 49.8% / 52.7% | 大模型在 Known 上靠语言先验已能直接答对，但 2B 模型 CoT 反而拖后腿——语义先验过强时强制语言化会引入错误 |
| 教任意名字干预（Qwen3VL-2B） | Unknown 形状 Direct VQA | Ordinary 名字 86.0%；Human 名字 70.2%；Random 名字 62.8% | 不微调 baseline 29.0%；预微调 Rep. Probe 74.2% | Ordinary 名字干预后超过 Rep. Probe 上界 +11.8pp，证明语义锚点 + 字符串匹配是更高效的路径 |
| Task-specific 微调（Qwen3VL-2B） | squiggle n=30 ID + maze n=3 OOD Direct VQA | squiggle 98.7%（baseline 28.8%）；maze 99.0%（baseline 36.8%） | 基线 ~28-37% | ID 提升近 70pp，跨形状族 OOD 仍达 99%——直接证明学到了视觉比较而非标签记忆 |
| Task-specific 微调的迁移性（Qwen3VL-2B） | 人脸 + SPairs71k 提升 | 人脸 +16.0pp；SPairs71k +10.7pp（详见 Appendix G） | 微调前 baseline | 在完全 OOD 的真实任务上仍能提升近 10-16pp，证实 task-specific 微调教的是通用视觉比较技能 |
局限与改进
作者在论文中显式承认的局限包括三点：1）分析集中于 correspondence 任务这一类问题，是否能直接外推到开放式生成（captioning、开放式 VQA）尚未验证；2）Logit Lens 本身会低估早期层的可解释性（Krojer 等 2026），本文用 Jaccard 距离而非绝对解读准确率作为度量，是出于相对比较的考虑；3）Face 数据集虽然控制了模型特有伪影，但已知名人集合的“已知度”本身依赖模型的训练语料，InternVL3.5 因认不出多数明星而被迫切到 Gemma3，这一替换限制了对人脸结论的家族普适性。此外，读者应额外留意三个非显式局限：第一，2D 形状的“已知形状”和“未知形状”在视觉复杂度上未必完全等价——squiggle 是 n 个 anchor 点的 cubic spline，几何复杂度高于 square/circle，Unknown 子集本身就更难，因此 45.2pp 的 gap 有一部分来自难度差而非纯命名性；第二，CoT 在某些 Unknown 任务上反向恶化（Qwen3VL-8B -19.4pp）的现象被作者归因于“幻觉化描述”，但缺乏对 CoT 失败模式的细粒度分类（是物体识别错误、关系推理错误、还是注意力漂移未区分）；第三，task-specific 微调虽然能迁移到 OOD 形状族，但需要 1000 对合成图作为监督，论文未讨论在低数据/无数据场景下“教名字”和“任务微调”的相对性价比，这会影响方法的实际落地价值。
独立分析的弱点
本文尽管机制论证扎实，但仍有几处可改进的弱点。第一，nameability 的人工标注是 SPairs71k 论证的基石，但论文没有公开标注协议与标注者一致性——不同标注者对“junction between handlebars and stem”是否属于 No-Name 会有分歧，这会让 11,362/11,792 的样本分配有一定噪声；改进方向是引入多名标注者并报告 Cohen's $\kappa$，或者用 LLM 预标注 + 人工核验的双流程。第二，“任意名字教 VLM”实验中只用了三类名字（ordinary/human/random），没有控制 token 长度与语义先验强度的交叉变量，结论里把 4.7 token 的 random 字符串效果不如 1 token 的 ordinary 名字归因于 tokenization，但未做长度归一化实验；改进方向是构造长度匹配、语义先验匹配的多组名字集合做消融。第三，task-specific 微调虽然展示了 OOD 迁移性，但被测的 OOD 集合仍是 controlled 合成数据（maze/squiggle 变体），对真实场景（如医学影像、卫星图）的迁移仍未证明；改进方向是在 MedSAM、cityscapes 等真实分布上做更严格的 OOD 测试。第四，Logit Lens 的 Jaccard 距离度量只取 top-1 token，丢失了 top-k 分布的形状信息，可能掩盖 unknown 实体在中间层也有近义语义的情况；改进方向是用 Jensen-Shannon 距离或 Wasserstein 距离替代 top-1 Jaccard，对结论稳健性做敏感性分析。第五，CoT 退化（Unknown 形状上 CoT 比 Direct 差近 20pp）的现象被一笔带过，没有给出可操作的诊断——哪些 CoT 链条是良性的、哪些是幻觉化的、是否能加 verifier 过滤。
未来方向
作者在 Conclusion 暗示了三条延伸方向：1）把“语义锚点”机制推广到更广泛的多模态生成任务（captioning、video QA、embodied AI），验证它是否是 VLM 失败的统一解释；2）寻找一种方法让 VLM 在“实体不可命名”时跳过语言化直接利用表征——可能的形式包括 latent space reasoning、soft prompt tuning、或者把 Rep. Probe 做成可调用的内部 API；3）探索“语言先验强度”作为一个连续可调的超参数如何影响 fine-grained 任务，例如通过 LoRA 单独调节 LM 层中“语义化通路”的权重。论文成果还支持几个可独立延伸的方向：第一，把 nameability 做成模型无关的预筛指标——给定一个视觉任务，先自动估计每个查询实体的“语言可标签度”，对低标签度的查询自动切换到 Rep. Probe 或 fine-tune 模式，构建一个自适应的 VQA 系统；第二，结合 mechanistic interpretability（activation patching、causal tracing）精确定位“语义锚点”形成发生在 LM 的哪几个 head，把“语义化”从黑盒现象变成白盒可编辑的电路；第三，在多语言场景下测试 nameability 假设——同一种 VLM 对中文/英文标签的语义化强度是否一致，跨语言是否会产生非对称的“语言化偏差”；第四，把“教任意名字”做成数据增强管线：对所有无标签的细粒度数据集（如稀有鸟类、矿石切片）自动生成稳定的人工名字，让小模型也能继承大模型的语义锚点能力。
复现评估
论文的复现难度处于“中等偏上”。积极方面：1）使用的 Qwen3VL、InternVL3.5、Gemma3 三个模型家族均为开源权重（InternVL3.5 在 HuggingFace 公开），不需要付费 API；2）SPairs71k 公开可下载，2D 形状和 mazes 的生成算法（n 个 anchor 点的 cubic spline + supersampling 抗锯齿）在论文 Section 2.2 有充分描述，研究者可以照着重写；3）Logit Lens 与 Jaccard 距离的公式在 Section 2.3 写得很清楚，实现门槛低；4）评测协议（Direct/CoT/Rep. Probe）的 prompt template 在 Section 2 给出，并且 Appendix F 提供了微调任务的样例。挑战方面：1）Face 数据集依赖 FluxSynID 与 Nano-Banana-2 商业 API，且 Nano-Banana-2 的具体 prompt 与随机种子未完全公开，再生成明星 + AI 脸图像对的成本与一致性可能不达预期；2）Logit Lens 需要拿到每一层的 hidden state，主流 VLM 库（Qwen3-VL、InternVL3.5）支持 forward hook 但需要自己写提取逻辑，对工程能力有要求；3）Task-specific 微调在 2B 模型上需要 4×A100 量级算力（作者未明确给出，但根据 1000 对 + 复杂 augmentation 推测）；4）所有模型的最佳层（Rep. Probe 扫层取 max）的选择依赖验证集，没有自动选层准则。总体而言，机制实验（Logit Lens + SPairs71k 命名性分析）可在单卡 + 公开数据上 1 周内复现；合成形状与 task-specific 微调实验 2-3 周可复现；Face 实验因依赖闭源图像生成管线，部分结果可能难以完全一致复现。
论文图表
