OmniHarness:基于符号策略学习的可泛化视觉生成框架 OmniHarness: Harnessing Generalizable Visual Generation via Symbolic Policy Learning
让智能体考前先刷题:符号策略学习+自定向探究+执行中即时验证,刷新六大视觉生成基准
前置知识
符号策略学习 (Symbolic Policy Learning)
将验证成功的执行轨迹抽象为可复用的工作流模板:保留任务族共享的操作流程与适用条件(前置条件、预期效果、依赖),剔除实例特定输入(具体提示词与源图)。策略存于库中,按使用次数 $u_w$ 与经验成功率 $p_w=s_w/u_w$ 维护 Provisional/Validated/Suspended 三级可靠性分层。
这是 OmniHarness 的核心机制,全文的方法设计、消融实验与分析都围绕策略如何被蒸馏、检索、组合与更新展开。
多智能体系统与 Harness(脚手架)
基于多模态大模型(MLLM)的多智能体系统把规划、生成、验证、修复等角色分配给不同 agent 协作完成任务;harness 指协调工具、工作流与记忆的外层框架,它与数据和模型共同决定 agent 的行为方式与进化能力。
本文的贡献点正是 harness 设计本身——如何组织执行流程和经验积累决定了智能体能否超越单例泛化。
ComfyUI 工作流与 Code-as-Policy
ComfyUI 是节点式图像/视频生成工具,工作流是节点与连线构成的有向图。Code-as-Policy 用类 Python 程序表示工作流:每行一个白名单节点调用,关键字参数指定节点配置,数据流定义连接,再由可逆解释器编译为可执行图。
论文全部实验都在 ComfyUI 环境中进行,理解这种「代码即策略」的中间表示是理解执行、编译与验证机制的前提。
Wilson 置信区间
对小样本比例的保守估计:$\hat{b}_r(w)=\frac{p_w+\frac{\kappa^2}{2u_w}-\kappa\sqrt{\frac{p_w(1-p_w)}{u_w}+\frac{\kappa^2}{4u_w^2}}}{1+\frac{\kappa^2}{u_w}}$,其中 $\kappa=1.96$ 对应 95% 置信水平。样本越少,估计越被向下修正,从而避免高估。
OmniHarness 用它做保守可靠性估计并进入任务选择,防止被少量偶然成功的新工作流误导练习方向。
能力边界探索与 Goldilocks 原则
源自课程学习的思想:最有利于学习的任务难度应处于「刚好够得着」的中间地带。本文用 $C(\tau)=4\bar{r}_t(\tau)(1-\bar{r}_t(\tau))$ 度量可学性,在估计胜任度 $\bar{r}_t=0.5$ 处取峰值,过易或过难的任务都被降权。
它与能力新颖度 $N(\tau)$ 共同构成自主出题的选择准则,是自定向探究模块的灵魂,也是消融实验的重点对象。
Pass 与 Resolve 双指标
Pass 指工作流可成功执行(衡量可执行性),Resolve 指输出满足任务的全部语义要求(衡量内容正确性)。ComfyBench 在 Vanilla、Complex、Creative 三个难度子集上分别报告这两个指标,Resolve 严格难于 Pass。
论文几乎所有表格都同时报告这两个指标,混淆二者会误读实验结论——例如中间验证消融主要打击 Pass 而非 Resolve。
研究动机
视觉生成目前沿两条路线演进。第一条是端到端统一多模态大模型(如 SD3-Medium、GPT-Image-1):推理快,但缺乏显式验证与自我纠错机制,复杂组合推理容易出错且错误无法定位。第二条是基于 MLLM 的多智能体系统(ComfyAgent、ComfyMind、SymbOmni 等),引入协作推理与记忆,但经验停留在个案层面:要么依赖人工定义的 ComfyUI 工作流或固定通信拓扑,要么只缓存成功执行的具体解法,无法提炼任务族共享的原理——如同授人以鱼而非授人以渔。实证差距非常明显:在 ComfyBench 的 200 个任务上,GPT-4o + ComfyAgent 的 Total Resolve 仅 32.5%,ComfyMind 为 83.0%,最强基线 SymbOmni 也只有 86.0%;尤其在考察超出课程示例技能迁移能力的 Creative 子集上,Resolve 掉到 57.5%–67.5%。此外,现有系统的反思普遍发生在任务完成之后,中间错误会一路传播到最终输出;知识获取是响应式的,只有下游任务暴露短板后才开始补课,为时已晚。
本文的目标是本文要回答一个核心问题:如何构建一个能超越个例泛化、边执行边反思、并在新任务到来之前就完成学习的视觉生成系统?具体拆成三个可操作的目标。其一,把验证过的执行经验抽象成任务族级的符号策略而非个案缓存,使经验可跨任务实例化、适配与组合复用;其二,在执行过程中对中间输出做四层验证(计划、工作流图、逐步中间结果、最终目标),失败时只修复受损组件、保留已验证步骤,把错误隔离在单步内;其三,引入自定向探究(self-directed inquiry):在下游目标指定之前,系统自主生成并执行接近自身能力边界的练习任务,用执行反馈持续精炼策略库。整个过程模型参数完全冻结,所有学习都发生在外部符号库中,经验以数据而非权重的形式积累。
与已有工作不同的是,本文的独特切入角度有三点。第一,经验抽象的粒度从单个任务提升到任务族:蒸馏时剥离实例特定输入(任务描述 $q_\tau$、源图 $x_\tau$),只保留共享的 ComfyUI 图结构与适用条件(前置条件、预期效果、依赖),使同一策略可服务一整族任务。第二,受王阳明「格物致知」的启发引入自定向探究,先出题自测再迎考:任务选择用能力新颖度 $N(\tau)$ 与能力边界分数 $C(\tau)$ 的乘积 $\tau_t=\arg\max N(\tau)C(\tau)$ 定量平衡「探索新组合」与「挑刚好能学会的任务」,而非随机探索或人工课程。第三,策略库可导出为冻结快照 $K_{\text{inquiry}}$,以即插即用方式注入 ComfyAgent、ComfyMind、SymbOmni 三种异构外部 agent;更意外的是,图像-only 探究学到的策略能零样本迁移到视频生成任务,展示了符号知识的跨模态价值。
核心方法
直觉上,OmniHarness 做的是「把做对的事总结成可复用的方法,并且在考试之前先自主刷题」。技术上它维护三份外置状态:场景上下文 $c_t$(记录能力覆盖、工作流可靠性与可用源图)、工作流库 $L_t$(存储符号策略)与失败库 $F_t$(存储失败证据与补救策略),合称策略库状态 $S_t=(L_t,F_t)$。系统运转是一个循环:Propose 依据能力空间 $\mathcal{G}$、$c_t$、$S_t$ 生成候选练习任务;按 $N(\tau)C(\tau)$ 选出一个任务;Run 执行反馈引导的生成(规划、Code-as-Policy 合成、编译、执行、中间验证、局部恢复);Update 把成功执行蒸馏为新策略、把失败连同根因写入失败库。默认跑 $N=50$ 轮探究后导出冻结快照 $K_{\text{inquiry}}$;下游执行继续在线更新 $S$,而快照保持不变,供外部 agent 即插即用。
与已有方法的本质区别可以概括为「一个粒度、三个时机」。粒度上,策略是任务族级的参数化模板:保留共享图结构、剔除 $q_\tau$ 与 $x_\tau$ 等实例输入,配合前置条件判断能否复用——这与 ComfyAgent 直接检索参考工作流、ComfyMind 的思维链自组织都有质的差异(SymbOmni 的符号概念最接近,但缺少先验探究课程与保守可靠性统计)。时机一:学习发生在下游目标指定之前,50 轮自主探究预先建好策略库,消融显示去掉它 Creative Resolve 从 95.0% 跌至 72.5%。时机二:反思发生在执行中间而非事后——计划验证器、工作流校验器、逐步中间验证、目标验证器四道关卡,配合只修补受损组件的局部恢复,把错误隔离在单步。时机三:更新发生在每次执行之后立即进行,下游执行仍在持续学习。任务选择用 Wilson 置信下界估可靠性、用 $C(\tau)=4\bar{r}_t(1-\bar{r}_t)$ 度量可学性,把「该练什么」与「库里有什么支撑」耦合起来,这是以往响应式 agent 记忆系统所没有的。
方法步骤详情
步骤一(候选任务生成):proposer 依据 12 项能力空间 $\mathcal{G}$(6 项 T2I + 6 项 I2I)、$c_t$ 与 $S_t$,每轮生成 10 个候选任务 $\tau=(q_\tau,m_\tau,G_\tau,x_\tau)$,过滤近重复并规避失败库中的已知反模式。步骤二(任务选择):新颖度 $N(\tau)=\frac{1}{|G_\tau|}\sum_{g\in G_\tau}\frac{1}{\sqrt{n_t(z_\tau,g)+1}}$ 奖励欠探索组合;每个所需能力取适用未停用工作流中最高的 Wilson 95% 置信下界 $\hat{b}_r(w)$(库空时先验 $\varepsilon=0.05$),估计胜任度取最弱能力 $\bar{r}_t(\tau)=\min_g r_t(\tau,g)$,可学性 $C(\tau)=4\bar{r}_t(1-\bar{r}_t)$ 在 0.5 处峰值;最终选 $\tau_t=\arg\max N(\tau)C(\tau)$。步骤三(反馈引导执行):planner 产出有序计划 $\rho_t=(a_{t,1},\dots,a_{t,J_t})$ 并过计划验证器;writer 写出 Code-as-Policy 程序 $e_{\pi_t}$,经可逆解释器编译为工作流 $\pi_t$ 执行;四层验证覆盖计划、图有效性、逐步中间输出与最终目标;失败时 diagnoser 定位最小失败阶段、从 $F_t$ 检索补救并只修补受损组件,必要时子代理生成可复用子工作流,重试预算 4 次。步骤四(策略学习):成功则把 $\pi_t$ 蒸馏为符号策略插入 $L_{t+1}$,$u_w\ge3$ 且 $p_w\ge0.5$ 升为 Validated,$u_w\ge10$ 且 $p_w\le0.2$ 停用;失败连同根因写入 $F_{t+1}$;curator 每 5 轮合并冗余并刷新 $c_{t+1}$。步骤五(导出):50 轮后冻结快照 $K_{\text{inquiry}}=\text{Snapshot}(S_{N+1})$ 供下游与外部 agent 复用。
技术新颖性
技术新颖性体现在四个方面。(1) 先练后考的自定向探究范式:以往 agent 的经验获取是响应式的,本文首次把「课程选择」形式化为 $N(\tau)C(\tau)$ 的乘积优化,且课程随 $S_t$ 演化动态自适应。(2) 保守统计驱动的可靠性治理:用 Wilson 下界而非经验成功率 $p_w$ 做任务选择,用 $u_w/p_w$ 双阈值做三级分层,防止被少量偶然成功误导——这在 agent 记忆系统中较少见。(3) 中间验证 + 局部恢复的执行设计:消融证明去掉规划 Complex Resolve 掉 28.3 个百分点、去掉中间验证 Pass 掉 25 个百分点,各环节贡献可分离、可归因。(4) 冻结快照的接口化设计:同一份 $K_{\text{inquiry}}$ 无需微调即可映射为 ComfyAgent 的 Reference 记忆、ComfyMind 的语义工作流模块、SymbOmni 的符号概念,验证了策略表示的中立性;图像-only 探究学到的 16 条 T2I + 27 条 I2I 策略还在视频任务中被调用 90 次,展示了跨框架、跨模态的双重复用。
实验结果
六大基准全面领先。ComfyBench:两种配置均 100% Pass,Codex GPT-4o 版 Total Resolve 92.5%,超 SymbOmni 6.5、ComfyMind 9.5 个百分点;Creative 子集 Resolve 95.0%,领先 SymbOmni(67.5%)27.5 个百分点。GenEval 总分 0.997(五项 1.00、属性绑定 0.98),超 SymbOmni 0.017、GPT-Image-1 0.157。GenEval2 总分 89.78,Attribute/Count/Position/Verb 四项第一(94.0/94.0/76.9/89.0),其中 Count 超最强对手 19.2 分。WISE WiScore 0.86 最高,Time/Biology/Physics/Chemistry 四类第一。Reason-Edit 理解场景四项指标全部第一(PSNR 23.89 dB、SSIM 0.86、LPIPS 0.05、CLIP 24.55),推理场景 SSIM 0.80 与 CLIP 21.32 最高。KRIS-Bench 总分 77.33,超 SymbOmni 5.15 分、BAGEL-Think 23.97 分。消融证实各模块必要:去自定向探究 Total Resolve 降至 87.0%(Creative 72.5%),去在线更新降至 88.5%,去规划/中间验证/局部恢复使 Complex Resolve 降至 55.0%/68.3%/76.7%。机制分析:策略库从探究后 43 条增长到 81 条,185 个已解决任务复用率 91.9%(110 直接 + 60 组合);图像-only 策略零迁移到视频任务 Resolve 85.9%;同一冻结快照使 ComfyAgent Resolve 从 32.5% 升至 57.0%、ComfyMind 83.0%→88.0%、SymbOmni 86.0%→89.0%;36 人盲评的用户研究均值 4.61 最高。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| ComfyBench 自主工作流构建(Creative 子集) | Resolve (%) | 95.0 | SymbOmni 67.5 / ComfyMind 57.5 | +27.5 / +37.5 个百分点 |
| ComfyBench 全集(200 任务) | Pass / Resolve (%) | 100.0 / 92.5 (Codex GPT-4o) | SymbOmni 100.0 / 86.0;ComfyMind 100.0 / 83.0 | Resolve +6.5 / +9.5 个百分点 |
| GenEval 组合式文生图 | Overall | 0.997 | SymbOmni 0.98;GPT-Image-1 0.84 | +0.017 / +0.157 |
| GenEval2 细粒度文生图 | Overall | 89.78 | SymbOmni 77.34;Gemini 2.5 Flash Image 83.48 | +12.44 / +6.30 分 |
| WISE 知识引导生成 | WiScore | 0.86 | SymbOmni 0.80;GPT-Image-1 0.80 | +0.06 |
| Reason-Edit 理解场景编辑 | PSNR (dB) / SSIM | 23.89 / 0.86 | InsightEdit 23.59 / 0.75 | +0.30 dB / +0.11 |
| KRIS-Bench 知识型生成与编辑 | Overall | 77.33 | SymbOmni 72.18;BAGEL-Think 53.36 | +5.15 / +23.97 分(仍低于 GPT-Image-1 的 80.09) |
| ComfyBench 视频子集(跨模态零迁移) | Resolve (%) | 85.9 (T2V 84.2 / I2V 92.0 / V2V 80.0) | SymbOmni 80.8 | +5.1 个百分点 |
局限与改进
作者承认的局限集中在计算开销:自定向探究需反复出题、构造、执行、验证与库整合,下游复杂任务会触发多轮规划-验证-恢复循环——200 个 ComfyBench 任务平均每任务消耗 12.03K tokens、52.9 秒 agent 侧推理,Creative 子集末端高达 18.63K tokens、83.5 秒。我的补充观察有四点。其一,模型参数全程冻结,能力上限被底层生成模型封顶:GenEval2 的 Object 得分 95.0 落后 Qwen-Image(99.1)与 Gemini 2.5 Flash Image(99.0);Reason-Edit 推理场景 PSNR 23.87 低于 SmartEdit-13B(25.76);用户研究中真实感与视觉质量也输给 GPT-Image-1(4.50/4.56 对 4.68/4.64)。其二,整套体系深度绑定 ComfyUI 节点生态与 GPT-4o/GPT-5.5/Codex 等专有 MLLM 骨干,迁移成本与 API 依赖都不小。其三,四层验证器与被评系统同为 MLLM,存在自评偏差风险;GenEval 0.997 与全子集 100% Pass 已近饱和,指标区分度下降。其四,12 项能力空间 $\mathcal{G}$ 与可靠性分层阈值($u_w\ge3$、$p_w\ge0.5$、$u_w\ge10$、$p_w\le0.2$)均为人工设定,换域需重新设计。
独立分析的弱点
弱点一:推理成本与延迟随任务难度陡增(Creative 子集末端 83.5 秒/任务、18.63K tokens),对实时或大规模场景不友好。改进方向:按难度自适应分配验证与重试预算、用小模型做中间输出初筛、对高频策略做检索缓存与预编译。弱点二:四层验证全部依赖 MLLM 判卷,可能把生成模型的系统性偏见内化为「验证通过」,验证器与生成器同源时失败恢复还可能陷入循环。改进方向:引入异源验证器或基于规则/信号的客观校验,并为 verifier 建立独立可靠性统计。弱点三:策略以 ComfyUI 节点图表示,生态锁定明显,换到 diffusers 等后端需重写全部模板。改进方向:抽象节点无关的中间表示(类似工作流领域的 ONNX),做多后端编译。弱点四:能力空间 $\mathcal{G}$ 人工定义 12 项能力,taxonomy 过窄限制探究上限,冷启动新领域时无既有策略。改进方向:从失败库聚类中自动归纳新能力类别,让能力空间随经验增长。弱点五:主基准趋饱和(全子集 100% Pass、GenEval 0.997),继续刷分边际信息量低,需要带噪声与歧义指令、贴近真实用户的评测检验方法价值。
未来方向
作者提出的方向:更轻量的执行框架、选择性验证、自适应恢复、高效的策略检索与组合、按任务难度自适应的推理预算。基于本文成果可以延伸的方向:(1) 跨领域迁移——把符号策略学习搬到代码生成、机器人任务规划、科学实验工作流等同样存在「任务族共享结构」的领域,验证范式的普适性;(2) 模态扩展——把自定向探究的能力空间从图像系统化扩展到视频、3D 与音频,论文已观察到下游执行中自发涌现 23 条视频策略(占最终库 28.4%),值得主动设计跨模态课程;(3) 终身学习机制——目前 Suspended 只是停用,可引入遗忘、合并与冲突消解,应对长期运行中策略库的膨胀与过时;(4) 与参数化学习结合——把高可靠策略转化为微调数据或 RL 奖励信号,突破「参数冻结导致的能力天花板」;(5) 多智能体策略共享——不同 harness 之间交换符号策略并协商统一的可靠性标准,形成开放的经验市场;(6) 理论层面分析 $N(\tau)C(\tau)$ 课程的样本复杂度与收敛性质。
复现评估
论文提供了项目主页与代码链接,所用六个基准(ComfyBench、GenEval、GenEval2、WISE、Reason-Edit、KRIS-Bench)全部公开。关键超参数披露完整:推理温度 0、top_p 1、重试上限 4、探究轮数 N=50、每轮 10 个候选任务、curator 每 5 轮运行、可靠性分层阈值明确,附录还公开了全部系统 prompt 与库 schema。复现门槛主要在工程与成本而非算法:需要搭建 ComfyUI 环境并安装相关节点与生成模型,购买 GPT-4o/Codex/GPT-5.5 与 Gemini API——仅 ComfyBench 200 个任务的 agent 侧开销就约 240 万 tokens(12.03K×200),加上 50 轮探究(每轮 10 个候选的生成与执行)和其余五个基准评测,总预算可观。算法本身无训练环节、消融开关清晰,对有 LLM agent 开发经验的团队而言,跑通主结果约需数天,完整复现全部消融与跨框架实验约需一至两周,难度评级为中等。
论文图表
对比三种范式:(a) 端到端统一 MLLM 生成快但缺乏深思推理与自我纠错;(b) 现有多智能体系统改善协作推理但缺乏统一协调与持久知识积累;(c) OmniHarness 融合自定向探究与反馈引导执行,学习可复用符号策略。
清晰呈现论文的问题定位与差异化主张,是理解 motivation 的核心插图。
200 任务按 20 个一组报告平均 token 消耗(柱)与推理时间(线):全均值 12.03K tokens/52.9 秒;Complex 组 14.36K–16.28K/57.9–66.8 秒;Creative 末端两组达 16.47K 与 18.63K tokens、69.8 与 83.5 秒。
量化方法的主要代价(成本随难度陡增),是理解论文局限性不可或缺的一张图。