CORE：通过重排序器蒸馏提升多模态大模型嵌入的组合推理能力

用五级合成数据与Rank-KL蒸馏，把重排序器的组合判断迁移进嵌入空间

前置知识

双塔嵌入 vs 交叉注意力重排序

双塔嵌入模型把查询和文档分别编码为向量，用余弦相似度打分，可离线建库、检索高效；重排序器则把查询和候选拼在一起做交叉注意力，逐对精细打分，精度高但必须在线逐对计算。本文的关键观察是：同一个MLLM骨干，做重排序器时能分辨的组合差异，压缩成嵌入向量后却丢失了。

整篇论文的动机就是弥合这个'重排序器—嵌入差距'，理解两种打分机制的本质区别才能明白为什么蒸馏是可行的桥梁。

对比学习与InfoNCE

InfoNCE是CLIP式多模态嵌入的主流训练目标：把匹配对拉近、把所有负样本统一推远，损失形如 $\mathcal{L}=-\log\frac{e^{s(q,d^+)/\tau}}{\sum_{d\in C}e^{s(q,d)/\tau}}$。它把所有负例同等对待，无法表达'这个负例只是部分错误'这类梯度信息。

本文的核心论点之一是InfoNCE浪费了五级匹配数据中的梯度结构，实验显示纯对比学习（CL）只有0.553平均分，明显劣于Rank-KL的0.641。

Rank-KL 蒸馏与KL散度

KL散度 $\mathrm{KL}(P_T\|P_S)=\sum_i P_T(i)\log\frac{P_T(i)}{P_S(i)}$ 度量两个概率分布的差异。Rank-KL把重排序器对候选列表的打分经softmax（温度 $\tau_T$）变成软分布，让学生嵌入模型的分数分布去逼近它，从而保留教师分数的相对排序结构而非仅二值正负标签。

Rank-KL是本文提出的核心训练目标，公式 (1)-(4) 是全文的技术核心，不懂KL散度和温度平滑就无法理解蒸馏如何传递细粒度排序信息。

组合推理

指模型理解属性—物体绑定关系的能力，例如区分'白盘子配黑椅子'与'黑盘子配白椅子'这类概念相同但绑定不同的场景。早期CLIP系模型被证明常用'概念词袋'匹配策略而系统性失败，COLA、SUGARCREPE++、NEGBENCH等基准专门度量这类失败。

组合推理是本文要解决的具体能力和全部评测基准的考察点，五级匹配分类法就是按组合扰动的类型对负样本做的系统分级。

LoRA 与继续训练

LoRA在冻结的基座模型旁挂低秩矩阵 $W+\Delta W=W+BA$ 只训练少量参数，是继续训练大模型的常用参数高效方案。秩越高适配容量越大。本文发现对COLA这类细粒度绑定任务，LoRA秩从低档提升到512/1024后重排序器才学得动。

CORE不从头训练而是继续训练现有嵌入模型以保住通用检索能力，复现实验和理解§5.2训练策略分析都需要LoRA背景。

Matryoshka表示学习（MRL）

MRL让嵌入向量的前k维截断后仍可用，即向量具有嵌套的多粒度结构。本文用它做了一个诊断实验：把骨干嵌入维度从512扫到1536，发现'交换属性'子集精度从0.589升到0.623，而'替换属性'几乎不动（0.773到0.777）。

这个诊断是论文动机的关键证据，说明属性—物体绑定信息在嵌入压缩中受损最重，直接支撑了'蒸馏而非重建嵌入'的技术路线。

研究动机

MLLM基嵌入模型虽然通用检索很强，但在组合检索上依然失败：无法区分概念完全相同、只是属性—物体绑定不同的场景，例如'a white plate and a black chair'与'a black plate and a white chair'会被给出几乎相同的相似度。早期的CLIP系补救方案有两大缺陷：其一，数据合成依赖粗糙启发式（直接剪切交换目标物体、生成低质量图片），负样本既少又只有'对/错'的粗粒度；其二，标准对比学习目标把所有负例同等对待，丢失了组合相似度的梯度性质。更关键的观察是一个此前被忽视的差距：如图2(a)所示，对一个细粒度案例，MLLM和交叉注意力重排序器都能正确判断A>B，而嵌入模型却给出A?B——骨干网络明明能表达这种区分，只是没被保留在嵌入空间里。MRL诊断实验进一步佐证：嵌入维度从512升到1536，SUGARCREPE++的Swap Attribute子集从0.589升到0.623，而Replace Attribute几乎平坦（0.773到0.777），说明截断损伤的正是属性—物体绑定信息而非粗粒度词汇匹配。

本文的目标是本文的目标是把重排序器的组合判断能力迁移到嵌入模型中，同时不牺牲其通用检索性能。具体拆成三件事：第一，构建一个可扩展的数据合成流水线，从真实图片出发生成覆盖五级匹配分类（L5完全匹配、L4部分出现、L3属性错误、L2物体错误、L1完全错配）的列表式候选集，弥补以往合成数据粗粒度、启发式的缺陷；第二，提出Rank-KL蒸馏目标，训练嵌入模型在完整组合相似度谱上复现重排序器的细粒度排序，而不是简单把非匹配候选推远；第三，在同一数据、同一骨干、同一调参预算下受控比较对比学习、成对CoSENT和列表级Rank-KL三种目标，回答'哪种目标最适合利用多级监督'这一此前悬而未决的问题。最终在2B和8B两个规模上产出CORE-RERANKER与CORE-EMBED系列模型。

与已有工作不同的是，已有工作大多从改进训练目标（如NegCLIP的硬负例）或修改架构（需从头重训）入手对抗组合失败，但没人利用'同一个骨干做重排序器很强、做嵌入却变弱'这一差距本身。本文的独特切入是把重排序器当作免费的教师：它已经具备组合判断能力，缺的只是把交叉注意力分数'压扁'成单一向量的那一步造成的损失，因此用列表级蒸馏而非数据增广或架构改造来修复。另一处独特设计是五级匹配分类法：不同于以往'正确/错误'的二元标签，L1到L5沿单一组合相似度轴系统分级，每种级别对应一种明确的组合扰动类型。这份数据同时支撑了一个分级评测协议（用NDCG@10检验模型分数是否满足 $L1<L2<\cdots<L5$ 的排序），使三种训练目标的受控比较成为可能，而这在二元基准上根本无法测量。

核心方法

CORE框架分两个阶段。直觉上：同一个MLLM骨干做交叉注意力打分时能分辨细粒度组合差异，只是嵌入压缩时丢掉了这些信息，那就让重排序器当教师、嵌入模型当学生，把判断'搬'过去。技术路线：第一阶段是结构化数据合成——从LAION-400M采样种子图片，用Qwen3-VL-32B抽取含主体、属性（颜色、形状、材质、姿态、服饰）与物体间关系的结构化场景表示；随机采样schema $(n_{obj}, n_{attr})$，连同五级匹配定义喂给MLLM，生成一条组合查询和五个对应各级别的图像描述，再用Z-Image-Turbo合成五张候选图，构成分级候选列表 $C=\{d_1,\ldots,d_5\}$。随后双重MLLM质检（描述—图像一致性、查询—图像级别符合度），任一候选不过即整列表丢弃，淘汰22.10%；人工抽检50个元组通过率94%。第二阶段是Rank-KL蒸馏：学生双塔编码器计算 $s_S(q,d_i)=\frac{\cos(v_q,v_{d_i})}{\tau_S}$，教师经交叉注意力给出 $s_T(q,d_i)$，两者经softmax变成分布后最小化 $\mathcal{L}_{Rank\text{-}KL}=\sum_{d\in C}P_T(d|q)\log\frac{P_T(d|q)}{P_S(d|q)}$，温度 $\tau=0.05$。同一份合成数据也用于微调Qwen3VL-Reranker得到CORE-RERANKER。

核心创新是把'负样本分级'和'蒸馏教师选得好'两件事绑在一起。与InfoNCE把所有非匹配候选一视同仁推远不同，Rank-KL保留教师分数在候选列表上的相对结构：当教师把部分匹配（L4、L3）排在完全错配（L1）之上时，学生被要求在嵌入空间复现这个顺序。成对CoSENT只利用级别间的两两偏序，Rank-KL进一步利用教师连续分数的软信息，因此多级监督被利用得更充分——这是表6受控实验的直接结论（CL平均0.553、CoSENT 0.593、Rank-KL 0.641，且Rank-KL是唯一在九子任务宏平均上超过骨干0.604的目标）。另一个反直觉的发现是教师的选择：用同一预算比较'现成Qwen3VL-Reranker'和'在离散级别标签上微调过的版本'，前者蒸馏效果一致更好（组合基准平均0.589对0.521）。作者归因于分数锐化——在离散标签上微调让教师分数变得尖峰化，丢失了级别之间的相似度信息，而这恰恰是Rank-KL要传递的软信号。这与常见'先微调教师再蒸馏'的直觉相反。

方法步骤详情

第一步，种子抽取：LAION-400M的一张真实图片经Qwen3-VL-32B输出结构化场景表示（主体、颜色/形状/材质等属性、空间/交互/比较关系）。第二步，schema采样与生成：随机采样 $(n_{obj},n_{attr})$（如2物体6属性），与五级定义一起输入MLLM，输出一条组合查询和五条描述。第三步，图像合成：Z-Image-Turbo按五条描述生成五张候选图，形成分级候选列表。第四步，自动质检：描述—图像验证判断图像是否忠实实现生成描述，查询—图像验证判断查询—图像对是否符合指定级别定义；任一候选不过则丢弃整列表（淘汰22.10%）。第五步，人工校验：50个元组按严格标准（五候选全部合格）达94%通过率。第六步，重排序器训练：在合成数据上以高秩LoRA（512/1024显著优于低秩）继续微调Qwen3VL-Reranker-2B/8B得到CORE-RERANKER。第七步，嵌入蒸馏：以现成Qwen3VL-Reranker为教师、VL-EMB-2B/8B为学生，AdamW、统一学习率日程、$K=5$、$\tau=0.05$，仅用单一Rank-KL损失做参数高效继续训练：学生分数经式(1)按 $\tau_S$ 缩放，教师与学生分数经式(2)(3)得分布 $P_T$、$P_S$，最小化式(4)的KL散度，得到CORE-EMBED。第八步，评测：COLA、SUGARCREPE++、NEGBENCH三项组合基准，外加MCMR、COCO、Flickr30K验证泛化。

技术新颖性

技术新颖性体现在四个层面。第一，数据层面：五级匹配分类法把组合负样本从二元标签升级为沿单一相似度轴的系统分级，且合成流水线从真实图片出发经结构化抽取、schema控制、双重MLLM质检，比以往剪切交换或低质量图片生成的方法质量高得多——同设置下用本文数据训练在COLA/NEGBENCH上超过DCSM和Triplet-CLIP（表3：0.438/0.468对0.305/0.425与0.400/0.445）。第二，目标层面：Rank-KL把列表级蒸馏引入组合嵌入训练，与InfoNCE、CoSENT在严格受控条件（同数据、同骨干、同预算、同温度0.05）下比较，这一客观比较本身就是文献空白。第三，教师选择层面：'现成重排序器优于微调重排序器'的分数锐化分析为蒸馏实践提供了新的设计准则。第四，工程层面：只用单一Rank-KL损失、参数高效继续训练即同时提升组合能力（5.7分）并保住COCO/Flickr30K检索，还在GME-2B上验证了算法跨骨干稳健性（表4），说明方法不是绑定某个特定骨干的技巧。

**Figure 1**: Overview of this study. (a) The CORE framework... (b) CORE-RERANKER and CORE-EMBED achieve the best total average scores among rerankers and embedding models, respectively.

实验结果

重排序器（表1）：CORE-RERANKER-8B总平均0.827，超最强现成重排序器Jina-Reranker（0.720）10.7分，COLA达0.843；2B版（0.776）也已超过所有现成重排序器。同时暴露Negation侵蚀：Qwen3VL-Reranker-8B微调后在NEGBENCH从基座0.739崩到0.261，Jina-Reranker仅0.417，CORE-RERANKER-8B达0.698，说明本文数据保住否定敏感性。嵌入模型（表2）：CORE-EMBED-8B以0.666总平均居首，较骨干VL-EMB-8B（0.609）提升5.7分；CORE-EMBED-2B为0.641（骨干0.604）；CLIP系最好的Triplet-CLIP仅0.421。泛化（表5）：CORE-EMBED-8B在COCO和Flickr30K四个方向R@5/R@10均最佳（如COCO T→I R@5 0.820），MCMR上R@1从0.375升至0.412、MRR@10从0.469升至0.506，证明收益非过拟合合成分布。目标受控比较（表6）：CL/CoSENT/Rank-KL平均0.553/0.593/0.641，开发集NDCG@10为0.839/0.843/0.850，Rank-KL是唯一超过骨干（0.604/0.835）的目标；配对bootstrap显示对骨干+0.015（95% CI [+0.007,+0.022]），对CoSENT +0.007（CI [+0.000,+0.013]）边缘显著。表3证明合成数据优于DCSM与Triplet-CLIP；表4显示方法移植到GME-2B同样有效（NEGBENCH 0.414→0.500）；规模消融显示收益随数据量整体上升但各基准非单调。

**Table 1**: Reranking results on benchmarks. Bold = best; underlined = second best.

**Table 2**: Embedding model results on benchmarks. Bold = best; underlined = second best.

**Table 3**: Comparison of training data sources. Models are trained with identical settings.

**Table 5**: Retrieval results on the COCO and Flickr30K datasets (R@5 and R@10) and on the MCMR benchmark (R@1 and MRR@10). Bold = best; underlined = second best.

**Table 6**: Comparison of embedding training objectives for VL-EMB-2B under identical data, backbone, and tuning budget.

查看结构化数据

任务	指标	本文	基线	提升
组合推理重排序（COLA+SUGARCREPE+++NEGBENCH总平均）	总平均分	CORE-RERANKER-8B 0.827	Jina-Reranker 0.720	+10.7个百分点
组合推理嵌入（三基准总平均）	总平均分	CORE-EMBED-8B 0.666	VL-EMB-8B（其骨干）0.609	+5.7个百分点
NEGBENCH否定敏感性（重排序器）	MCQ准确率	CORE-RERANKER-8B 0.698	Qwen3VL-Reranker-8B 0.261 / Jina-Reranker 0.417	修复微调造成的否定能力崩塌（基座0.739）
多条件检索MCMR	R@1 / MRR@10	CORE-EMBED-8B 0.412 / 0.506	VL-EMB-8B 0.375 / 0.469	+3.7 / +3.7个百分点
通用检索COCO与Flickr30K	R@5 / R@10（双向）	CORE-EMBED-8B全部最佳，如COCO T→I R@5 0.820	骨干VL-EMB-8B 0.785（COCO T→I R@5）	无损甚至提升，验证蒸馏不伤通用能力
训练目标受控比较（分级开发集）	NDCG@10	Rank-KL 0.850（组合平均0.641）	CL 0.839（0.553）/ CoSENT 0.843（0.593）	唯一超过骨干0.604的目标，bootstrap +0.015
数据源消融（COLA）	准确率	CORE合成数据 0.438	DCSM 0.305 / Triplet-CLIP 0.400	+13.3 / +3.8个百分点
跨骨干稳健性（GME-2B）	SUGARCREPE++ / NEGBENCH	GME-2B+CORE 0.650 / 0.500	GME-2B 0.529 / 0.414	+12.1 / +8.6个百分点

局限与改进

作者承认四点局限：其一，重排序器提升巨大但嵌入增益相对温和（5.7分对10.7分），蒸馏只把部分组合推理迁入了稠密表示；其二，分级评测与训练数据出自同一条合成流水线，只能算同分布诊断而非独立基准，NDCG结论需谨慎外推；其三，CORE-EMBED在COLA上几乎没有净提升（0.486对0.486），与§5.2分析一致——连交叉注意力教师都要把LoRA秩提到512才学得动COLA式绑定，说明该数据集本质上极难；其四，MRL诊断只用了单个骨干和两个SUGARCREPE++子集，'嵌入压缩是因果瓶颈'这一论断目前只是动机而非证明。我自己的观察补充几点：五级标签由MLLM自动赋予再由MLLM校验，存在自证循环风险，94%人工通过率虽高但只覆盖50个元组；候选图像全部由Z-Image-Turbo生成，与真实照片的域差距可能让模型学到生成伪影的捷径；每次合成要跑两遍Qwen3-VL-32B加五次图像生成，22.10%整列表报废率意味着不小的算力浪费；$K=5$ 的候选列表偏小，Rank-KL在更大候选池下的表现未知；实验骨干集中在Qwen家族（外加GME-2B），对其他嵌入框架的普适性仍有待验证。

独立分析的弱点

弱点一：合成数据与真实检索分布的错位。训练候选全是生成图像，线上检索面对的是真实图片，模型可能过拟合生成域的纹理与构图习惯。改进方向：把L1-L4候选部分替换为真实图库检索到的近邻样本，或做生成域到真实域的对齐。弱点二：分级标签的自证循环。五级定义由MLLM生成又被MLLM验证，同一模型家族的系统性偏好会同时进入数据和标签。改进方向：引入与生成模型异构的校验器，并扩大人工校验规模（当前仅50个元组250张图）。弱点三：蒸馏迁移不完全。嵌入端增益（+5.7）远小于重排序器端（+10.7），COLA上为零，说明仅靠输出层KL散度难以重塑表示几何。改进方向：加中间层特征蒸馏（对齐注意力图或CKA约束），或做'蒸馏—评测—合成更难候选'的课程式闭环。弱点四：候选列表规模小且静态。$K=5$ 且负例固定，Rank-KL见到的排序结构有限。改进方向：像开发集那样把候选池扩到100个，训练时做难例在线挖掘。弱点五：教师分数锐化只做了定性归因，缺少温度或校准层面的系统方案。改进方向：对教师分数做显式温度校准或保序回归后再蒸馏，量化软信息保留度。

未来方向

作者方向上已暗示的：把否定感知监督当作重排序器训练的标准配料（现有微调让Qwen3VL-Reranker-8B在NEGBENCH崩到0.261，CORE数据能恢复到0.698，说明这是可复用的训练成分）；用更多合成数据继续扩展（规模曲线整体上行但非单调，值得研究数据混合配比）；把五级分类法推广到关系、否定、计数之外更多组合维度。基于本文成果可以延伸的：其一，构建独立于训练流水线的人工标注分级评测集，把NDCG协议变成社区公认的细粒度基准；其二，在线蒸馏——用重排序器在检索日志上实时为双塔模型产出软标签，替代静态合成数据；其三，把Rank-KL与MRL嵌套结构结合，针对不同截断维度施加不同蒸馏压力，验证并修复'压缩损伤绑定信息'的因果链；其四，扩展到文本检索和多语种场景，检验属性—物体绑定的蒸馏是否跨模态迁移；其五，探索师生能力差距更小的蒸馏（如用8B教师蒸2B学生）以及反向问题——能否把嵌入的全局对齐能力反哺回重排序器以降低推理成本。

复现评估

论文页面同时给出Models和Code链接，声称开源模型与代码，这是复现的有利起点。但数据层面的复现门槛不低：需要LAION-400M种子图、Qwen3-VL-32B做两轮结构化抽取与质检、Z-Image-Turbo做五张图组生成，还要接受22.10%整列表报废带来的算力开销，合成一张完整元组约需十余次大模型前向加五次扩散采样。训练侧较为友好：2B/8B均用AdamW、统一学习率日程、候选列表 $K=5$、LoRA参数高效训练（重排序器需秩512-1024，普通消费级多卡环境可承受8B的LoRA微调），蒸馏温度 $\tau=0.05$，超参细节在附录A.2。评测全用公开基准（COLA、SUGARCREPE++、NEGBENCH、MCMR、COCO、Flickr30K）。主要不确定性：论文未说明合成数据的最终规模与许可证、附录提示词的具体效果在不同Qwen版本下可能漂移；分级开发集依赖同款流水线重建，第三方难以逐字节复现NDCG数字。综合评估：模型推理与微调容易复现，数据合成管线复现属中等偏难，需要稳定的MLLM推理服务与图像生成集群。

CORE：通过重排序器蒸馏提升多模态大模型嵌入的组合推理能力 CORE: Improving Compositional Reasoning in MLLM Embedding via Reranker Distillation