通过条件偏移实现自对抗式一步生成 Self-Adversarial One Step Generation via Condition Shifting

APEX 的训练流程可分解为以下步骤。**步骤 1（构造 fake 条件）**：对原始条件 $c$（如文本嵌入）做仿射变换 $c^{fake}=Ac+b$，其中 $A$ 和 $b$ 可以是预设常量（如 $A=-I$）或可学习参数。**步骤 2（fake 速度场估计）**：先用真实条件 $c$ 让网络 $F_\theta(x_t, t, c)$ 跑一次前向，通过端点预测器 $f_x(F_\theta, x_t, t)=x_t - t\cdot F_\theta$ 得到当前模型对 clean 样本的估计 $x^{fake}$；再沿 OT 路径构造 fake 轨迹 $x^{fake}_t = tz + (1-t)x^{fake}$，并让网络在 $c^{fake}$ 条件下拟合这条 fake 轨迹，损失为 $L_{fake}=\mathbb{E}\|F_\theta(x^{fake}_t, t, c^{fake}) - (z - x^{fake})\|^2$。最小化 $L_{fake}$ 后，$v_{fake}:=sg(F_\theta(\cdot, \cdot, c^{fake}))$ 成为 $p_{fake}$ 速度场的独立估计器。**步骤 3（混合一致性损失）**：在同一对 $(x_t, t)$ 上，把监督 FM 项 $L_{sup}=\mathbb{E}\|f_x(F_\theta, x_t, t) - x\|^2$ 和 fake 对齐项 $L_{cons}=\mathbb{E}\|f_x(F_\theta, x_t, t) - f_x(v_{fake}, x_t, t)\|^2$ 加权组合为 $G_{APEX}=(1-\lambda)L_{sup}+\lambda L_{cons}$，等价地写成 $L_{mix}=\mathbb{E}\|f_x(F_\theta, x_t, t) - T_{mix}\|^2$ 其中 $T_{mix}=(1-\lambda)x + \lambda f_x(v_{fake}, x_t, t)$。**步骤 4（端点-速度等价与梯度同形）**：作者证明 endpoint MSE 与 velocity MSE 差一个常数 $t^2$ 因子（命题 3、4），进一步证明 $\nabla_\theta L_{mix}=\nabla_\theta G_{APEX}$（定理 1），最后把 $G_{APEX}$ 的梯度在 score 空间展开得到 $\nabla_\theta G_{APEX}\propto \mathbb{E}[1\cdot(s_\theta-s_{mix})\cdot\partial x_t/\partial\theta]$，其中 $s_{mix}=(1-\lambda)s_{data}+\lambda s_{fake}$，权重 $w\equiv 1$，这与 GAN 梯度同形但权重为常数（命题 5）。**步骤 5（完整训练）**：用 $\mathcal{L}_{APEX}=\lambda_p L_{fake}+\lambda_e L_{mix}$ 在 BLIP-3o/ShareGPT-4o 等数据集上训练 2K~10K 步，BF16 精度，16×H800 或 8×A100；推理时直接调用 $F_\theta(\cdot, \cdot, c)$ 在 $t=1$ 处单次前向即生成图像。

APEX 的技术新颖性体现在四个层面。第一是 '条件空间分离' 的范式创新：与 TwinFlow 把真假分离放在时间域（$t\in[-1,1]$，需要改时间嵌入）不同，APEX 把它放在条件域，时间域完全不动，因此可以作为一个零改造模块挂到任何 flow matching 主干和 LoRA 管线。第二是内生对抗信号的理论保证：作者通过 Score-Velocity Duality 严格证明 $\Delta v_{APEX}$ 是 KL 散度的精确下降方向，并把整个 $L_{mix}$ 的梯度投影到 score 空间，得到与 GAN 严格同形但权重恒为 1 的 update 形式，从理论上消除了 GAN 训练中 $D^*$ 引起的样本依赖梯度消失。第三是端点-速度损失等价性：作者给出 $\|f_x(F_\theta, x_t, t) - x\|^2 = t^2 \|F_\theta - v_{data}\|^2$ 的严格证明，把抽象的 score 空间结论和实际可优化的 MSE 损失桥接起来，使整套理论可落地。第四是 plug-and-play 的工程性：APEX 不需要任何外部判别器、预计算教师数据集或 JVP，对 FlashAttention、FSDP 完全友好，在 0.6B 小模型和 20B LoRA 大模型上都能跑通。

独立分析 APEX 的弱点可从四个角度展开。**弱点一：仿射变换的语义解耦性不足**。当前 $c^{fake}=Ac+b$ 是一个简单线性变换，作者在 $a\in\{-1.0, -0.5\}$ 时效果最好，本质上只是 '反义'。但当文本条件包含多个语义属性（如 '一只蓝色的狗在草地上' 同时编码颜色、物体、场景），简单的 $A=-I$ 只会整体反转，无法做到 '只反转颜色属性'。改进方向是引入属性可分解的偏移，例如用一个轻量 MLP 预测条件敏感的 $A$、$b$，或对条件嵌入做正交分解后只对部分子空间做偏移。**弱点二：self-adversarial 的分布匹配假设**。APEX 的理论保证 $v_{fake}$ 收敛到 $p_{fake}$ 的速度场，但这要求 $L_{fake}$ 在训练过程中持续提供充分监督。如果主分支 $F_\theta(\cdot, \cdot, c)$ 已经很强，$x^{fake}$ 接近 $x$，fake 轨迹 $x^{fake}_t$ 退化为真实轨迹，$v_{fake}$ 与 $v_\theta$ 几乎相同，对抗信号消失。改进方向是动态调节 $\lambda$（如 $x^{fake}$ 与 $x$ 的距离越大时 $\lambda$ 越大），或引入记忆库保存历史 $x^{fake}$ 以维持对抗性。**弱点三：单步采样对条件解耦能力的限制**。虽然 APEX 0.6B 在 GenEval 上反超 FLUX-Schnell 12B 15 个点，但在 DPGBench 上 FLUX-Schnell 仍是 82.00 vs APEX 0.6B 82.66（仅 +0.66），说明参数量的优势在 '复杂 prompt 渲染' 任务上仍然重要；APEX 通过自对抗节约了 20× 参数，但无法完全替代规模扩展。改进方向是把 APEX 的内生对抗信号和 teacher-student 蒸馏结合，让 $v_{fake}$ 同时参考一个冻结的 teacher。**弱点四：训练时显存峰值不透明**。虽然作者宣称无外部判别器节省显存，但 $L_{fake}$ 需要把 fake 轨迹再过一次网络（前向 + 反向），batch 内的激活内存可能仍然较高；论文未给出 wall-clock 训练时间，仅给出 6 小时的 LoRA 训练结果。改进方向是引入梯度检查点或 fake batch sub-sampling 来降低激活内存。

作者并未单列 'Future Work'，但基于 APEX 的方法学和成果，未来可延伸的方向有四类。**第一，理论方向的延伸**。APEX 已证明 '常权重 GAN-aligned gradient' 和 Fisher 散度最小化的联系，但 $w\equiv 1$ 是否是最优的常权重？是否存在 $w$ 的自适应选择（如 CLIP 相似度调制）能在保留训练稳定性的同时提升质量？另外，作者假设 $p_{mix}$ 是 'implicit training target' 而非真实分布，未来可探索 $s_{mix}$ 是否可对应一个有意义的分布（如某个流匹配中间态）。**第二，跨模态扩展**。APEX 的 '条件空间偏移' 思路天然适合多模态生成：视频生成中可偏移时间条件 (frame index) 得到 '未来帧' 自对抗；3D 生成中可偏移视角/相机参数得到 '反视角' 校正信号；语音/TTS 中可偏移说话人/情感嵌入得到风格对抗。**第三，与一致性模型的融合**。当前 APEX 是纯粹的 self-adversarial 框架，但可与 RCGM、MeanFlow 等高阶 consistency 模型结合：用 APEX 提供 'fake 端点目标'，用 RCGM 提供 'N 阶轨迹积分'，实现既锐利又路径一致的 NFE=1 生成。**第四，大规模预训练替代**。APEX 0.6B 已经反超 12B，说明内生信号比规模扩展更高效；未来可探索在 0.6B 基础上用 APEX 持续预训练（而非蒸馏），把 20B 模型的知识压缩到 0.6B 内，得到一个 '小而强' 的开源基础模型。

从复现难度看，APEX 整体属于中等偏难。**开源情况**：作者在摘要中声明 'Code is available here' 并给出链接（指向 GitHub），但截至 2026 年 4 月发布时仓库未必已 release 完整训练代码；论文提供了表 1-7 的全部数据点和超参细节（学习率未在主文给出，需查附录）。**数据**：训练集使用 ShareGPT-4o（开源）、BLIP-3o（开源），以及 600K 合成样本（用 Qwen-Image 20B 在 Flux-Reasoning-6M prompt 上生成）和 200K 海报 prompt 合成样本——后两者需要至少一个 Qwen-Image 20B 推理环境，对资源受限的实验室不友好。**算力**：APEX 0.6B/1.6B 训练用 16×H800 80GB 或 8×A100 80GB，BF16 精度；20B LoRA 同样硬件规模；6 小时的 LoRA 训练对单卡研究者不现实，需要至少 8 卡环境。**难度**：方法本身的实现并不复杂——核心公式 (12)、(22)、(24) 都很短，仿射变换 $c^{fake}=Ac+b$ 只需在 text encoder 输出后加一层 Linear，但 (a) 评分-速度 duality 涉及 Tweedie 公式、stop-gradient 时序、fake 轨迹构造等多处细节；(b) 端点-速度等价性需要把 $\omega(t)$ 时间权重和 fake 端点 $x^{fake}$ 的梯度链都接对；(c) LoRA 蒸馏还要保证 Qwen-Image 主干的时序和位置编码不被破坏。综合看，复现 APEX 的 '核心 0.6B 蒸馏' 大约需要 2-3 名熟练研究者 1-2 个月，'20B LoRA' 则需 8 卡 H800 集群 1-2 周。论文附录 B 给了 5 个数学证明（Score-Velocity Duality、Endpoint-Velocity Equivalence、Gradient Equivalence、Fisher Divergence Perspective），理论部分细节充分，对实现有直接帮助。