MTEdit:以打包轨迹画布构建大规模多轮图像编辑数据集与评测基准 MTEdit: Packed Trajectories Beat Rollouts for Multi-Turn Image Editing
单画布联合生成替代顺序展开,构建50万条多轮编辑轨迹,显著抑制视觉质量漂移
前置知识
顺序展开(Sequential Rollout)
用单轮编辑模型构造多轮数据的主流策略:把第 $t$ 轮生成的图像作为第 $t+1$ 轮的输入,配上新指令再调用一次编辑模型,循环拼接成编辑轨迹。它实现简单、可无限扩展,但每轮都继承上一轮的微小伪影,误差随轮数累积,典型表现为约 4 轮后画质明显下滑。
它是本文的核心批评对象。理解 rollout 的链式误差累积机制,才能理解 PTC 画布联合生成如何从机制上切断这条误差链。
打包轨迹画布(Packed Trajectory Canvas, PTC)
本文提出的数据构造单元:一张 4K 正方形画布按 2×2 划分为四个面板,左上、右上、左下、右下分别对应第 1–4 轮编辑的累积结果。整张画布由闭源编辑模型(GPT Image 2、Nano Banana 2)一次性生成,四个面板共享同一视觉上下文,跨轮一致性由生成过程天然保证。
PTC 是 MTEdit 数据集和全文主张的基石:数据级对比中其八轮 DRS 稳定在 4.27–4.30,而 rollout 全部单调下滑。
步进式与上下文感知编辑
步进式编辑每轮只依赖上一轮输出图像和当前指令;上下文感知编辑则要求利用历史信息,本文细分为三类:持久约束(早期指令的约束须在后续轮持续成立)、文本指代(后续指令用代词或简称指代先前对象)、短指令(首轮建立目标,后续仅有“再长一点”类简短调整)。
MTEdit 数据与 MTEdit-Bench 都按这四类任务组织,IF/CC 与 IF*/CC* 指标的区别也源于此,不理解任务划分就无法读懂实验表格。
块因果注意力(Block Causal Attention)
一种注意力掩码:把交错的图像-文本序列按编辑轮分块,当前轮可注意之前所有轮的图像与文本,但屏蔽未来轮。它避免训练时信息泄漏,允许同一条轨迹内多个轮的目标在单次前向中并行计算,推理时还能对历史上下文复用 KV-Cache。
这是 Qwen-Image-MTEdit 微调的两大结构改动之一,使教师强制式多轮联合训练成为可能。
3D 交错 RoPE
把图像与文本 token 按多轮编辑的时间顺序交错排列成“[图像]-[文本]-[图像]-...”的序列,再用三维旋转位置编码(3D RoPE)编码时间轮次与空间位置等维度,使模型能区分不同轮次的图像与指令,把每条指令与其对应图像状态对齐,并支持更长序列。
这是微调的第二个结构改动,解释了模型如何在统一序列中建立“第 $t$ 轮指令 ↔ 第 $t$ 轮图像”的对应关系。
VLM 裁判与 IF/CC/DRS 指标
用视觉语言模型(本文用 Qwen 3.5 Plus)代替人工打分:IF(指令遵循)考察编辑是否完成且未越界改动,CC(内容一致性)考察未授权内容是否保持,均为 0–10 分;DRS(漂移鲁棒性分数)取两个对迭代劣化敏感的质量指标的均值 $\text{DRS}=(\text{VisualQuality-R1}+\text{RALI})/2$,范围 0–5。任一轮 IF 或 CC 低于 6 即判轨迹失败、后续轮置零。
MTEdit-Bench 的全部定量结论都建立在这三个指标和失败传播置零规则上,直接影响对表格数值的解读。
SIFT 特征匹配与图像扭曲
SIFT 是经典局部特征点检测与描述算法,能在两幅图像间建立几何对应。本文把 PTC 切分成目标图后,对每个编辑对做 SIFT 匹配,估计几何变换并做图像扭曲矫正,以提升配对的像素级对齐度,消除面板切分带来的位移噪声。
这是 PTC 转多轮样本的最后一步,决定训练对的像素对齐质量,是数据管线不可忽略的细节。
研究动机
多轮图像编辑(按一串指令迭代修改同一张图)正成为人机协作创作的主流形态,但高质量训练数据是瓶颈。主流构造方式是用闭源模型做顺序展开:把上一轮输出当作下一轮输入逐轮调用编辑模型。这带来两个具体问题。其一,误差与伪影沿链累积:附录 Table 4 显示,用 Seedream 5.0 Lite 做 rollout 构造 8 轮轨迹,DRS 从第 1 轮的 4.30 一路跌到第 8 轮的 3.51,Nano Banana 2 从 4.32 跌至 3.70,定性观察发现约 4 轮后画面出现杂斑、毛发纹理劣化。其二,现有数据集规模小、序列短、场景单一:MagicBrush 仅 3K 轨迹、平均 2.58 轮,ImgEdit 最多 3 轮且不含步进式数据,Pico-Banana-400K 的 rollout 管线同样会漂移,VINCIE 从视频抽取的序列覆盖不了多样的编辑意图。评测侧同样不足:已有基准多用约 3 轮的短序列,无法暴露长链误差累积,也普遍忽视视觉质量漂移这一维度。
本文的目标是本文要同时解决“数据—评测—验证”三件事。数据上,构建一个大规模、长序列、同时覆盖步进式与上下文感知两类场景的多轮编辑数据集:目标 500K 条轨迹、2.69M 编辑对,每条 4–8 轮(平均 5.38 轮),覆盖 23 种常见编辑类别,并把构造过程中的视觉质量漂移压到最低。评测上,提出 MTEdit-Bench,用 8 轮长序列步进式子集与三个 4 轮上下文感知子集,系统评估指令遵循、内容一致性、抗视觉漂移和历史上下文利用四种能力。验证上,用该数据微调 Qwen-Image-Edit-Causal 得到 Qwen-Image-MTEdit,在自建基准上与十余个闭源、开源模型对比,证明数据本身(而非模型结构改动)即可显著提升多轮编辑能力。
与已有工作不同的是,本文的独特切入是把“多轮一致性”从逐轮传递问题改写为单次生成问题:不再让第 $t+1$ 轮图像从第 $t$ 轮输出“滚动”出来,而是让 VLM 一次性规划 4 轮编辑并写成 PTC 提示词,由闭源编辑模型在一张 2×2、4K 画布内联合生成全部四个编辑状态,使四个面板天然共享视觉上下文。这与 Pico-Banana-400K 的 rollout、VINCIE 的视频序列抽取都不同——它不依赖模型输出的逐轮自举,也不受自然视频转场的意图覆盖限制,而是利用图像生成模型“同一画布内天然保持一致”的内生能力,从数据源头切断误差链。配套地,评测侧把 DRS 作为一等公民指标并引入失败传播置零规则,弥补了以往基准忽视漂移与因果性的缺口。
核心方法
直观理解:让画师在一整张画布上一次画出某场景的四个渐变状态,四个区域自然风格统一、细节连贯;若让他先画一张、复制后再改,每复制一次都会劣化一点。MTEdit 正是利用图像生成模型“同一画布内天然一致”的特性来制造多轮训练数据。技术路线是三步流水线:(a)种子图筛选——从 LAION、Open Images、DenseFusion 收集候选图,要求短边不少于 1024 像素且 Gemini 3.1 Pro 美学评分不低于 8/10;(b)PTC 生成——VLM 依据源图规划 4 轮累积编辑并合成 PTC 提示词,交给 GPT Image 2 或 Nano Banana 2 一次性生成 4K、2×2 布局画布,每面板约 2K 分辨率;(c)PTC 转多轮样本——Gemini 3.1 Pro 过滤失败画布,再据源图与画布生成逐轮用户指令,切分面板为目标图,最后用 SIFT 匹配加图像扭曲做像素级对齐。
核心创新是 PTC:把一条 4 轮编辑轨迹“打包”进单次生成。与顺序 rollout 的本质区别在信息流方向——rollout 中图像质量靠“上一轮输出”这一有损载体逐轮传递,误差单调累积;PTC 中四个面板在同一个生成过程中同时产生,共享同一视觉上下文,跨轮一致性由模型内部机制保证,不经过任何有损传递。定量对比(Table 4):同样 5000 个案例构造 8 轮轨迹,PTC 管线的 DRS 八轮稳定于 4.27–4.30,而 rollout 分别跌到 3.51(Seedream 5.0 Lite)、3.83(GPT Image 2)、3.70(Nano Banana 2)。另一个常被忽视的收益是成本:一次生成产出 4 个目标图,逐轮指令只需对整张画布调用一次 Gemini 3.1 Pro 而非逐面板查询;要造 8 轮样本,只需把第 4 轮面板作为新源图再跑一轮流水线。
方法步骤详情
流水线分三阶段。第一步种子图筛选:从 LAION/Open Images/DenseFusion 候选池中,保留短边 $\geq 1024$ 像素、Gemini 3.1 Pro 美学分 $\geq 8/10$ 的图像作为源图 $I_0$。第二步 PTC 生成:VLM 读入 $I_0$,规划 4 个自然、连贯、累积的编辑,输出 JSON 格式 PTC 提示词,明确 2×2 四个面板(左上/右上/左下/右下=第 1–4 轮累积结果)并约束零间距、无接缝、未编辑区域一致;随后把 $(I_0, \text{PTC prompt})$ 喂给 GPT Image 2 或 Nano Banana 2,得到 4K 画布。第三步转换:Gemini 3.1 Pro 先过滤失败画布,再据 $I_0$ 与画布一次性生成逐轮指令 $P_1$–$P_4$;按 2×2 切分出目标图 $I_1$–$I_4$;最后对每个编辑对做 SIFT 匹配与图像扭曲,得到像素对齐样本 $(I_0, P_1{:}P_4, I_1{:}I_4)$。8 轮样本=流水线跑两轮。微调侧:在 Qwen-Image-Edit-Causal 上加块因果注意力与 3D 交错 RoPE,教师强制并行训练轨迹内多轮;AdamW、学习率 $5\times10^{-5}$、权重衰减 $10^{-2}$,32 张 H100、bf16、20000 步。
技术新颖性
新颖性有四点。第一,任务重构:以往把多轮数据构造视为“推理—传递”问题,本文把它转化为“单次多面板生成”问题,与 InstructPix2Pix 用 Prompt-to-Prompt 合成编辑对、Pico-Banana 用 rollout 链式扩展都是不同范式。第二,工程系统性:PTC 提示词对布局(严格 2×2、零间距、无接缝)、累积关系、内容保持都有明确约束;作者实验发现 3×3 等更密布局会因需同时维护太多面板而使单面板质量与跨轮一致性明显退化,故选定 2×2 为默认。第三,评测设计:DRS 借鉴 Banana100 的发现(VisualQuality-R1 与 RALI 对迭代复制劣化敏感)组合而成,并把失败传播(任一轮 IF/CC<6 则后续轮置零)引入评测,体现多轮编辑的因果性。第四,训练侧把块因果注意力与 3D 交错 RoPE 组合用于多轮编辑微调,实现单次前向内的多轮并行监督。整体是“数据中心”创新而非结构创新,Table 3 的受控消融干净地隔离了数据因素。
实验结果
逐一分析。①步进式子基准(Table 2,100 条 8 轮样本):本文第 8 轮仍保持 IF 7.45/CC 6.42/DRS 4.33;基座 Qwen-Image-Edit-Causal 第 8 轮仅 3.17/2.41/4.06,最佳开源竞品 Qwen-Image-Edit-2511 为 6.87/5.56/4.05,最强闭源 Nano Banana Pro 为 8.83/7.51/4.05——本文开源全面领先、DRS 全八轮最高,但 IF/CC 仍略逊最强闭源。②持久约束(Table 5):第 4 轮 IF* 8.20/CC* 8.32,开源最佳,超 GPT Image 2(7.82/7.72),落后 Seedream 5.0 Lite(8.68/9.18)。③文本指代(Table 6)与④短指令(Table 7):第 4 轮分别达 8.24/8.12 与 7.48/8.12,均开源最佳。⑤消融(Table 3):同数据量同预算下,PTC 数据模型第 8 轮 5.06/4.44/4.22,rollout 数据为 4.26/3.84/3.96,证明收益来自数据构造方式。⑥数据级漂移(Table 4):PTC 八轮 DRS 恒定 4.27–4.30,三种 rollout 模型全部单调下滑(最低 3.51)。⑦人评对齐(Table 8):DRS 与人工排序的 Spearman $\rho=0.92$、Kendall $\tau_b=0.83$。⑧定性上(Fig. 4/5):对比模型第 8 轮普遍出现天空伪影与内容漂移,PTC 训练模型细节干净,rollout 训练模型有明显纹理伪影。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| 步进式多轮编辑(8轮,vs 基座) | IF / CC / DRS(第8轮) | IF 7.45 / CC 6.42 / DRS 4.33 | Qwen-Image-Edit-Causal:IF 3.17 / CC 2.41 / DRS 4.06 | IF +4.28、CC +4.01、DRS +0.27,DRS 为全部受测模型最高 |
| 步进式多轮编辑(vs 最佳开源竞品) | IF / CC(第8轮) | 7.45 / 6.42 | Qwen-Image-Edit-2511:6.87 / 5.56 | IF +0.58、CC +0.86 |
| 受控消融:PTC vs 顺序 rollout 数据 | IF / CC / DRS(第8轮,同数据量同训练步数) | PTC:5.06 / 4.44 / 4.22 | Sequential rollout:4.26 / 3.84 / 3.96 | IF +0.80、CC +0.60、DRS +0.26 |
| 数据构造漂移(5000 案例构造 8 轮轨迹) | DRS(第8轮) | PTC:4.27(八轮稳定于 4.27–4.30) | Seedream 5.0 Lite rollout 3.51;Nano Banana 2 3.70;GPT Image 2 3.83 | 较最优 rollout +0.44,且全程无漂移 |
| 持久约束子基准(4轮) | IF* / CC*(第4轮) | 8.20 / 8.32 | 最强闭源 Seedream 5.0 Lite:8.68 / 9.18;GPT Image 2:7.82 / 7.72 | 开源最佳并超过 GPT Image 2,仍落后最强闭源 |
| 文本指代子基准(4轮) | IF* / CC*(第4轮) | 8.24 / 8.12 | 开源次优 SenseNova-U1:6.94 / 6.92 | IF* +1.30、CC* +1.20,平均分开源最佳 |
| 短指令子基准(4轮) | IF* / CC*(第4轮) | 7.48 / 8.12 | GPT Image 2:7.72 / 8.20;开源次优 SenseNova-U1:6.50 / 6.52 | 开源最佳,接近最强闭源 |
| 自动评测与人评一致性 | Spearman ρ / Kendall τb | DRS(步进式)0.92 / 0.83;IF(文本指代)0.92 / 0.82 | — | 三指标在四个子基准上均与人评强正相关 |
局限与改进
作者承认三点(A.7):管线依赖闭源图像生成与编辑模型;PTC 生成需要额外过滤成本,因为不同面板内容偶尔互相干扰(Fig. 13);每次 PTC 只产 4 轮轨迹,扩展到 24 轮这类更长序列时视觉漂移可能重现。我的补充观察:其一,评测裁判是 Qwen 3.5 Plus,与被微调基座同属 Qwen 家族,虽然 Table 8 验证了与人评高相关($\rho$ 最高 0.92),仍不能完全排除同族偏置,且全部结论只在自建基准上得出,缺少第三方基准交叉验证;其二,PTC 天然只能表达“累积式”编辑,难以覆盖回退、撤销、覆盖修改等真实用户常见的非单调操作;其三,IF/CC 任一轮低于 6 即后续置零的失败传播规则,会让一次早失败毁掉整条轨迹得分,VINCIE 第 2 轮 IF 0.01、后续全 0 的极端数字部分源于此,可能放大模型间差距;其四,SIFT+扭曲的像素对齐隐含平面变换假设,面对大形变或视角变化类编辑可能引入几何失真。
独立分析的弱点
最实际的弱点是闭源依赖:按 2.69M 编辑对除以每次 PTC 产 4 轮估算,约需 67 万次画布生成调用(8 轮轨迹需跑两轮流水线)外加更多 Gemini 3.1 Pro 文本调用,API 涨价、限流或条款变化都会卡死数据扩展,第三方难以完整复现——改进方向是用最强开源编辑模型自举或蒸馏替代。第二,面板干扰(Fig. 13)说明单画布多面板生成并非免费午餐,3×3 更密布局质量明显退化,改进方向是引入面板间一致性约束或分层生成(先全局布局、后逐面板细化)。第三,4 轮打包限制单次轨迹长度,8 轮样本跨画布的两段之间仍靠 rollout 式衔接,存在段间漂移风险,改进方向是探索跨画布共享上下文的条件机制。第四,任务覆盖偏“加法式”累积编辑,缺少删除、替换、回退与多对象并发编辑,改进方向是在 PTC 提示词模板中加入负向操作与非单调操作设计。第五,逐轮指令由 Gemini 3.1 Pro 从画布反推生成,指令分布受单一 VLM 风格影响,可能低估真实用户指令的噪声与歧义,改进方向是混入人工书写或真实产品日志指令做校准。
未来方向
作者提出的方向:把 PTC 扩展到明显更长的序列(如 24 轮)而不复现漂移;降低对闭源模型的依赖。基于其成果可延伸的方向:其一,把更密布局(3×3 或非均匀)与分层生成结合,例如先生成低分辨率全局画布再逐面板超分,在保住一致性的同时提高单次产出轮数;其二,在 MTEdit 上做强化学习或 DPO,把 IF/CC/DRS 作为奖励直接优化抗漂移能力,而不止于 SFT;其三,把 PTC 思想迁移到视频编辑(多帧即多面板,天然时序累积)与 3D 场景编辑;其四,评测侧引入多裁判集成与跨模型家族校验,检验 Qwen 3.5 Plus 裁判对不同家族模型的中立性,并与 GEdit-Bench、EdiVal-Agent 等外部基准联测;其五,用探针实验分析 3D 交错 RoPE 是否真正建立了指令-图像轮次对齐,这对长上下文多模态模型有普遍意义;其六,把持久约束编辑与身份/风格保持的可控生成结合,服务真实设计工作流中的品牌色与风格锁定需求。
复现评估
复现难度中高。数据构造完全依赖闭源 API:GPT Image 2/Nano Banana 2 生成画布,Gemini 3.1 Pro 负责美学过滤、失败过滤与指令生成;利好是附录 A.8 公开了全部系统提示词,可直接照搬。但按 500K 轨迹估算约需 67 万次画布生成调用与更多文本调用,成本不菲,且 A.6 说明数据发布受源图版权与模型服务条款约束。训练细节完整可循:基于公开的 Qwen-Image-Edit-Causal,块因果注意力+3D 交错 RoPE,AdamW 学习率 $5\times10^{-5}$、权重衰减 $10^{-2}$、$(\beta_1,\beta_2)=(0.9,0.999)$,bf16、每卡 batch 1、32 张 H100 共 20000 步,单次微调对中小团队门槛较高;不过 Table 3 的消融只用 10000 条 8 轨迹、5000 步就复现出 PTC 收益,说明小预算验证可行。截至论文 v1(2026-10),正文未给出数据集/代码的明确下载链接,需关注作者后续发布;若数据不开源,建议以万级轨迹复现 Table 3 消融作为切入点。
论文图表
数据级漂移定性对比:同一 5000 案例分别用 PTC 与三种闭源模型 rollout 构造 8 轮轨迹,展示第 1/4/8 轮结果。rollout 方法约从第 4 轮起出现明显劣化(如汽车附近地面出现杂斑),PTC 结果保持稳定。
在数据层面(而非模型层面)直接呈现 rollout 的误差累积问题,是论文动机最有力的问题证据。
PTC 生成的失败案例:不同面板内容互相干扰(如元素跨面板泄漏、布局错乱),这类画布需要在构造管线中由 Gemini 3.1 Pro 过滤掉。
揭示 PTC 方法自身的失效模式与过滤成本来源,客观理解方法的边界,也是作者承认的局限之一。