← 返回 2026-03-03

从规模到速度:图像编辑的自适应测试时缩放 From Scale to Speed: Adaptive Test-Time Scaling for Image Editing

Xiangyan Qu, Zhenlong Yuan, Jing Tang, Rui Chen, Datao Tang, Meng Yu, Lei Sun, Yancheng Bai, Xiangxiang Chu, Gaopeng Gou, Gang Xiong, Yujun Cai 📅 2026-02-24 👍 138 2026-07-13 08:35
图像编辑 多模态大语言模型 扩散模型 推理效率 测试时缩放

ADE-CoT通过难度感知分配、编辑验证和自适应停止,实现2倍加速

前置知识

Image Chain-of-Thought (Image-CoT)

图像思维链是一种测试时缩放策略,灵感来自LLM中的Chain-of-Thought推理。其核心思想是在推理阶段通过扩展计算时间来提升图像生成质量。标准做法是Best-of-N(BoN):对同一输入生成N个候选图像(通过扰动初始噪声或改写提示词实现多样性),然后用验证器对每个候选打分,选择得分最高的作为最终输出。这种方法训练无关、即插即用,但计算成本随N线性增长。

本文的核心贡献是对Image-CoT范式在图像编辑场景下的改进。理解Image-CoT的基本流程(生成→验证→选择)是理解ADE-CoT三个改进策略的前提。

Best-of-N (BoN) 采样

BoN是最基础的测试时缩放方法:生成N个候选样本,用评分函数选出最优。在图像编辑中,每个候选需要完成完整的T步去噪过程,总计算量为N×T次函数评估(NFE)。例如当N=32、T=28时,总NFE=896。BoN的瓶颈在于所有候选必须完整生成后才能选择,无法提前终止。

BoN是本文实验的主要基线。ADE-CoT的核心目标就是在保持BoN级别性能的同时大幅降低NFE,实现超过2倍的加速。

扩散模型中的去噪过程与时间步

扩散模型通过逐步去噪从随机噪声生成图像。去噪过程从时间步T(纯噪声)到0(清晰图像)。在flow matching框架中,模型在每个时间步预测噪声并更新潜在表示。关键概念包括:早期时间步(如te=8)的中间状态仍然含噪,但可以通过单步预览机制(one-step preview)估算出近似清晰图像;晚期时间步(如tl=16)的预览质量更高,与最终结果的相关性更强。

ADE-CoT的分阶段策略(早期剪枝、晚期保留、深度优先生成)都依赖于对去噪过程不同阶段特性的理解。早期预览的准确性和晚期预览的可靠性是方法设计的基础。

MLLM作为验证器(Verifier)

多模态大语言模型(如Qwen-VL-MAX)被用作图像质量评估器。通用验证器(如VIE-Score)使用实例无关的提示词评估图像的语义一致性(SC)和感知质量(PQ),计算几何平均作为总分。然而,通用验证器在编辑场景中存在两个问题:早期阶段对细微编辑变化不敏感导致误判,最终阶段对多个正确候选给出相同高分无法区分细微错误。

本文的核心创新之一是提出编辑专属验证和实例专属验证来弥补通用验证器的不足。理解通用验证器的局限性是理解本文动机和方法的关键。

Flow Matching

Flow matching是一种生成建模方法,通过学习从噪声分布到数据分布的连续流来生成样本。与传统的DDPM不同,flow matching使用确定性的ODE路径而非随机的SDE。本文实验中使用的三个SOTA编辑模型(Step1X-Edit、FLUX.1 Kontext、BAGEL)都基于flow matching训练,这使得单步预览机制(从xte估算x0|te)在数学上更加简洁。

单步预览机制是ADE-CoT编辑专属验证的技术基础。理解flow matching的去噪过程有助于理解公式(4)中x0|te的计算方式。

研究动机

当前最先进的图像编辑模型(如Step1X-Edit、FLUX.1 Kontext、BAGEL)在复杂编辑场景下仍然面临显著挑战,包括大幅度姿态变化、多对象修改、精细区域编辑和多轮编辑。Image-CoT作为测试时缩放策略,通过扩展推理时间来提升生成质量,但现有方法主要针对文本生成图像(T2I)任务设计,直接应用于图像编辑时存在三个根本性问题。第一,资源分配效率低下:现有方法对所有编辑任务使用固定的采样预算(如32个样本),但实验表明高初始分数的简单编辑(分数在[8,9)区间)几乎看不到改善,而低初始分数的复杂编辑却能显著受益,固定预算在简单案例上浪费了大量计算。第二,早期阶段验证不可靠:现有方法依赖通用MLLM分数对中间去噪状态进行早期剪枝,但在编辑任务中,修改往往是局部和细微的,早期阶段难以检测。实验显示平均40%被剪枝的低分样本最终获得了高分(≥6),这意味着通用分数错误地丢弃了大量有潜力的候选。第三,大规模采样产生冗余结果:由于编辑是目标导向任务,解空间受限于源图像和指令,大规模采样往往产生多个得分相同的正确结果。实验表明,得分在[7,9)区间的编辑案例中,超过8个候选共享相同的最高分数,但编辑任务只需要一个意图对齐的结果。

本文的目标是本文提出ADE-CoT(ADaptive Edit-CoT)框架,目标是在保持或提升编辑质量的同时实现显著的效率提升。具体而言,ADE-CoT要在与BoN相当的采样预算下(N=32)获得更好的性能,同时实现超过2倍的加速。此外,框架需要在三个SOTA编辑模型(Step1X-Edit、FLUX.1 Kontext、BAGEL)和三个基准测试(GEdit-Bench、AnyEdit-Test、Reason-Edit)上验证其通用性和鲁棒性。核心目标是将Image-CoT的关注点从「规模」转向「速度」,实现按需分配计算资源的测试时缩放。

与已有工作不同的是,本文的独特切入角度在于认识到图像编辑与T2I生成的本质区别:T2I是开放式任务,解空间广阔,大规模采样有益;而图像编辑是目标导向任务,解空间被源图像和指令约束,导致大规模采样产生冗余。基于这一观察,本文提出了三个针对性策略:难度感知的资源分配(而非固定预算)、编辑专属的验证机制(而非通用MLLM分数)、深度优先的自适应停止(而非广度优先的全量生成)。这种「从规模到速度」的范式转变是本文与已有工作的本质区别,它不是简单地改进搜索算法或验证器,而是重新思考了测试时缩放在目标导向生成任务中的设计哲学。

核心方法

ADE-CoT的核心直觉可以用一个类比来理解:想象你在一堆钥匙中找能开某扇门的那把。传统BoN方法像是把所有钥匙都试一遍再选最好的;而ADE-CoT则像一个有经验的锁匠——先快速评估锁的难度(简单锁用少几把钥匙试,难锁多试几把),然后在试钥匙的过程中用专业技巧快速排除明显不对的,最后按顺序试到第一把能开的就停下来。技术路线分为三个阶段:首先通过难度感知资源分配确定每个编辑实例的动态预算Na;然后在早期去噪阶段进行编辑专属验证,通过单步预览、区域正确性检查和描述一致性评估来剪枝低潜力候选并去除视觉冗余;最后在晚期去噪阶段采用深度优先的自适应停止策略,按早期分数排序依次处理候选,当找到足够多意图对齐的结果时提前终止搜索。

ADE-CoT与已有方法最本质的区别在于它将Image-CoT从「广度优先的固定预算搜索」转变为「深度优先的自适应搜索」。已有方法(如PRM、PARM、TTS-EF)本质上都是广度优先的:先并行生成所有候选,再用通用分数剪枝,最后全量选择。这导致三个问题:固定预算浪费、通用分数误判、冗余结果堆积。ADE-CoT的创新在于:(1)用初始分数作为编辑难度的代理,动态调整预算——简单编辑只用Nmin个样本,复杂编辑扩展到完整预算N;(2)引入编辑专属指标(区域正确性Sreg和描述一致性Scap)补充通用分数Sgen,通过公式S = Sgen + λreg·Sreg + λcap·Scap构建统一评分,其中Sreg评估修改是否集中在预期区域,Scap评估语义对齐度;(3)将搜索策略从广度优先改为深度优先,按早期分数从高到低依次处理候选,当实例专属验证器确认Nhigh个意图对齐的结果后立即停止。这种设计的关键优势是:计算资源被精确分配到最需要的地方(难编辑),验证精度在早期和晚期都有保障(编辑专属+实例专属),且不会在冗余结果上浪费计算(自适应停止)。

方法步骤详情

ADE-CoT的完整流程分为三大步骤,对应算法3(Alg. 3)的三行核心调用。第一步:难度感知资源分配(Alg. 4)。输入源图像Isrc和编辑指令c,先采样一个初始噪声xT,通过完整的T步去噪生成一个候选图像I,用通用MLLM验证器Vrf得到初始分数S。然后通过公式Na = Nmin + ⌈(N−Nmin)×(1−S/Smax)^γ⌉计算自适应预算,其中γ=0.15控制敏感度。当S接近Smax(简单编辑)时Na趋近Nmin=1;当S接近0(复杂编辑)时Na趋近N=32。第二步:编辑专属验证的早期剪枝(Alg. 5)。对Na个候选进行T步到te步的部分去噪,得到中间潜在表示xte。对每个候选应用单步预览机制(公式4:x0|te = xte − σte·εθ(xte, Tte))获取近似清晰图像I0|te。然后计算统一评分S = Sgen + Sreg + Scap:Sgen是通用MLLM分数(VIE-Score),Sreg通过Grounded SAM2定位编辑区域并与RGB变化图比较评估区域正确性(公式5-6),Scap通过CLIP评估指令-描述一致性(公式7)。低于阈值Srj=5的候选被剪枝,DINOv2特征相似度超过τsim=0.98的冗余候选被去除,剩余候选按分数降序排列。第三步:深度优先自适应停止(Alg. 6)。按排序依次处理候选:从te步去噪到tl步,生成晚期预览并计算统一评分,自适应保留阈值Srt筛选高质量候选(S0|tl ≥ Srt−δ),通过tl到0步完整去噪生成最终图像,用实例专属验证器生成5个针对性yes/no问题并回答,如果所有问题都回答yes(Sspec ≥ Shigh)则计入意图对齐结果Ncnt,当Ncnt达到Nhigh=4时停止搜索。

技术新颖性

ADE-CoT的技术新颖性体现在三个层面。第一,在资源分配层面,公式(3)的自适应预算公式是首次在Image-CoT中引入基于难度的动态分配机制。与LLM推理中按token难度分配计算不同,这里用初始编辑分数作为难度代理,通过γ指数控制分配曲线的形状,实现平滑的难度-预算映射。第二,在验证机制层面,编辑专属验证的两个指标(Sreg和Scap)是首次针对编辑任务设计的专用验证信号。Sreg利用Grounded SAM2的区域定位能力和RGB变化图的像素级分析,实现了对编辑区域正确性的量化评估;Scap利用MLLM生成目标描述再用CLIP计算一致性,解决了测试时无ground-truth描述的难题。这两个指标与通用分数的加权组合(公式8)是一种简单但有效的多信号融合策略。第三,在搜索策略层面,将早期广度优先(并行生成+剪枝)与晚期深度优先(顺序处理+自适应停止)结合的混合搜索策略是新颖的。与纯BFS或纯DFS相比,这种混合策略在保留早期多样性的同时避免了晚期的冗余计算。实例专属验证器的两阶段询问机制(先生成针对性问题再回答)也是一种创新的验证范式,它引导MLLM关注关键细节而非给出笼统分数。

Image-CoT编辑方法的流程对比
Figure 3: Image-CoT编辑方法的流程对比
难度感知资源分配中γ的影响
Figure 5: 难度感知资源分配中γ的影响
编辑专属验证对早期剪枝的影响
Figure 6: 编辑专属验证对早期剪枝的影响
自适应停止策略的影响
Figure 8: 自适应停止策略的影响

实验结果

本文在三个SOTA编辑模型(FLUX.1 Kontext、BAGEL、Step1X-Edit)和三个基准测试(GEdit-Bench-EN、AnyEdit-Test、Reason-Edit)上进行了全面实验,核心发现如下。在固定采样预算(N=32)设置下,ADE-CoT在所有模型和基准上都达到了与BoN相当或更优的性能,同时实现了显著的效率提升。具体而言,在GEdit-Bench上,ADE-CoT相比BoN的推理效率η提升2.0-2.2倍,结果冗余度ξ提升4.4-5.5倍。在AnyEdit-Test上,η提升2.1-2.4倍,ξ提升2.5-2.8倍。在Reason-Edit上,η提升2.0-2.2倍,ξ提升2.8-2.9倍。这些数据表明ADE-CoT在不牺牲质量的前提下大幅降低了计算冗余。在可比性能设置下,当所有方法都达到与BoN相当的质量水平时,ADE-CoT展现出最低的NFE。以FLUX.1 Kontext在GEdit-Bench为例,BoN需要896 NFE,PRM需要719 NFE,PARM需要690 NFE,而ADE-CoT仅需418 NFE,实现了2.1倍加速。缩放曲线实验(Fig. 4)进一步验证了ADE-CoT在不同采样预算(N=2,4,8,16,32)下始终优于所有基线方法,且在相同性能水平下需要更少的计算。消融实验(Tab. 2)逐步展示了每个组件的贡献:难度感知预算将NFE从896降至797(Kontext),编辑专属验证进一步降至673,视觉相似度过滤降至508,晚期保留降至464,实例专属验证提升G_O从6.652到6.702,最终的自适应停止将NFE降至418同时保持G_O在6.695。MLLM鲁棒性实验(Tab. 5)表明ADE-CoT在不同MLLM(Qwen2.5-VL-72B、Qwen-VL-MAX、Qwen3-VL-32B)下都能实现超过2倍加速,且更强的MLLM带来更高的性能和更大的效率增益。

ADE-CoT与SOTA Image-CoT方法的全面对比
Table 1: ADE-CoT与SOTA Image-CoT方法的全面对比
三个策略对效率和性能的逐步影响
Table 2: 三个策略对效率和性能的逐步影响
不同搜索策略的对比
Table 4: 不同搜索策略的对比
不同MLLM对性能和效率的影响
Table 5: 不同MLLM对性能和效率的影响
GEdit-Bench上不同编辑模型的缩放曲线
Figure 4: GEdit-Bench上不同编辑模型的缩放曲线
实例专属验证检测细微错误
Figure 7: 实例专属验证检测细微错误
复杂编辑的定性对比
Figure 10: 复杂编辑的定性对比
多轮编辑的定性对比
Figure 11: 多轮编辑的定性对比
查看结构化数据
任务指标本文基线提升
GEdit-Bench-EN(FLUX.1 Kontext) G_O(总分) 6.695 6.641(BoN) 提升0.054,同时NFE从896降至418(2.1倍加速)
GEdit-Bench-EN(BAGEL) G_O(总分) 6.972 6.908(BoN) 提升0.064,同时NFE从1600降至882(1.8倍加速)
GEdit-Bench-EN(Step1X-Edit) G_O(总分) 7.196 7.157(BoN) 提升0.039,同时NFE从896降至434(2.1倍加速)
AnyEdit-Test(FLUX.1 Kontext) 推理效率η 1.61 0.66(BoN) 2.4倍提升,结果冗余度ξ从0.12提升至0.58(4.8倍)
Reason-Edit(BAGEL) PSNR (dB) 27.849 27.668(BoN) 提升0.181 dB,同时LPIPS从0.050降至0.045
GEdit-Bench-EN(所有模型平均) 结果冗余度ξ 0.62-0.66 0.12-0.14(BoN) 4.4-5.5倍提升

局限与改进

作者在论文中承认了两个主要局限性。第一,MLLM计算开销:ADE-CoT的验证流程依赖大规模MLLM(如Qwen-VL 72B),每个编辑案例平均需要83-92次MLLM调用(Tab. 8),这增加了推理延迟,在资源受限的场景下可能不实用。虽然通用验证器(约65-71次调用)是所有Image-CoT方法共有的开销,但编辑专属验证(区域生成+描述生成各1次)和实例专属验证(问题生成1次+回答约15-18次)引入了额外约20次调用。第二,MLLM幻觉问题:验证过程中MLLM可能生成错误的区域定位、不准确的描述或不恰当的问题回答,这会影响评分的准确性。尽管实验表明不同MLLM在排名多个候选时差异较小,但准确判断编辑图像是否完全满足用户意图仍然具有挑战性。此外,我观察到以下局限:ADE-CoT的深度优先策略虽然减少了冗余计算,但也意味着搜索过程是串行的,无法充分利用GPU并行性;方法依赖于Grounded SAM2进行区域定位,对于全局编辑(如风格迁移、整体色调调整)或文本修改等无法定位具体编辑区域的场景,Sreg指标会失效;γ、Srj、τsim等超参数需要针对不同模型和数据集调优,虽然论文给出了一组默认值,但最优值可能因场景而异。

独立分析的弱点

尽管ADE-CoT取得了显著的效率提升,但存在几个值得改进的弱点。首先,实例专属验证器的两阶段询问机制虽然有效,但对每个保留的候选都需要生成问题和回答问题,当候选数量较多时(如15个以上)会带来显著的延迟。改进方向是训练一个轻量级的专用验证模型(如7B参数量),直接输出编辑正确性判断,避免依赖大规模MLLM的多轮交互。其次,当前的深度优先停止策略是在晚期阶段串行处理候选,这限制了GPU利用率。可以探索在早期阶段预筛选出最有可能的top-K候选,然后对这K个候选进行小批量并行的晚期去噪和验证,兼顾效率和并行性。第三,区域正确性评估依赖Grounded SAM2的分割质量,当MLLM无法正确识别编辑对象或keep对象时(如全局编辑、抽象指令),Sreg指标会被跳过,退化为仅使用通用分数和描述一致性。可以引入更多编辑类型的特定验证信号(如颜色直方图比较、纹理一致性检查)来覆盖更广泛的编辑场景。第四,自适应预算公式中的γ对不同编辑模型和数据集的最优值可能不同(论文默认0.15),可以探索基于编辑类型的自适应γ选择策略。

未来方向

作者提出了两个主要的未来研究方向。第一,开发高效准确的验证模型:训练轻量级(如7B参数)专用模型用于编辑质量评估,替代当前依赖的大规模MLLM。这种模型可以提供快速准确的中间预览评估,进一步提升编辑专属验证和自适应停止策略的效率。同时,准确的评估模型也能更好地评估去噪过程中的中间预览图像,增强早期剪枝的精度。第二,将ADE-CoT框架扩展到其他目标导向生成任务:难度感知资源分配和自适应停止策略的核心思想可以迁移到视频编辑、多轮对话生成等领域。基于本文成果,还可以延伸以下方向:(1)将ADE-CoT与训练时策略结合,如在训练数据中纳入Image-CoT诊断出的困难编辑案例,提升基础模型能力;(2)探索自适应采样策略,根据中间状态的反馈动态调整噪声扰动幅度或提示词改写策略;(3)将框架应用于实时编辑场景,通过更激进的早期剪枝和更小的Nhigh值实现亚秒级响应。

复现评估

ADE-CoT的复现条件相对友好。论文基于三个完全开源的编辑模型(Step1X-Edit、FLUX.1 Kontext、BAGEL),所有模型权重和推理代码都可公开获取。验证流程使用开源的Qwen-VL-MAX作为MLLM(也有开源替代如Qwen2.5-VL-72B和Qwen3-VL-32B),VIE-Score作为通用验证器,Grounded SAM2用于区域定位,DINOv2用于视觉相似度计算,CLIP用于描述一致性——这些都是广泛使用的开源工具。三个评估基准(GEdit-Bench、AnyEdit-Test、Reason-Edit)也是公开的。算力需求方面,主要瓶颈在于MLLM推理:每个编辑案例约83-92次MLLM调用,如果使用开源72B模型,需要至少4张A100 GPU;如果使用API服务则成本取决于调用量。扩散模型推理本身需要1-2张GPU。超参数设置清晰(Tab. 6),论文提供了完整的算法伪代码(Alg. 1-6)和详细的提示词模板(Fig. 16-20),复现难度中等。论文还进行了三次不同随机种子的实验取平均,确保结果的鲁棒性。