← 返回 2026-02-03

超越像素:基于图式驱动智能体推理的视觉隐喻迁移 Beyond Pixels: Visual Metaphor Transfer via Schema-Driven Agentic Reasoning

Yu Xu, Yuxin Zhang, Juan Cao, Lin Gao, Chunyu Wang, Oliver Deussen, Tong-Yee Lee, Fan Tang 📅 2026-02-01 👍 16 2026-07-13 08:35
创意计算 图像生成 多智能体系统 概念整合理论 视觉隐喻

用多智能体框架将参考图像的抽象隐喻逻辑迁移至新主题,实现真正的创意转译而非像素复制

前置知识

概念整合理论 (Conceptual Blending Theory, CBT)

由 Fauconnier 和 Turner 在 1998 年提出的认知语言学理论,认为人类创造力来源于将不同的心理空间进行整合以产生新意义。一个完整的概念整合包含四个心理空间:输入空间(包含原始具体实体)、类属空间(捕获跨域的抽象关系不变量)、整合空间(选择性投射并融合各输入空间的元素,产生涌现结构)、以及由此产生的涌现意义。在视觉隐喻中,例如'咖啡=电池'的广告中,咖啡和电池分别属于两个输入空间,而'提供能量'这一功能关系构成了类属空间。CBT 是本文方法论的理论基石,论文将其从心理学理论转化为可计算的形式化表示。

本文的核心创新就是将 CBT 从认知科学理论工程化为可执行的计算框架。理解 CBT 的四空间模型是理解论文 Schema Grammar 七元组表示和整个多智能体流水线的前提。

视觉隐喻 (Visual Metaphor)

一种高阶认知形式,通过跨域语义融合将抽象概念转化为具有层次化非字面意义的视觉修辞。与风格迁移(保留视觉外观如纹理、色调)和主体定制(保留特定对象的视觉特征)不同,视觉隐喻关注的是深层的象征关系和抽象逻辑。例如一则广告中将枕头描绘成药丸,其隐喻逻辑是'自然助眠'而非简单的形状模仿。视觉隐喻的核心在于语义违反——主体违反了载体域的预期规范,从而产生认知张力和涌现意义。

本文定义了一个新任务——视觉隐喻迁移(VMT),要求模型从参考图像中解耦隐喻逻辑并重新实例化到新主体上。理解视觉隐喻与风格迁移、主体定制的本质区别是理解本文贡献的关键。

多智能体框架 (Multi-Agent Framework)

将复杂任务分解为多个专门化子任务,由不同的智能体(Agent)分别执行并协作完成的系统架构。每个智能体拥有独立的推理能力和职责范围,通过结构化通信实现信息流转。在本文中,框架包含四个专门化智能体:感知智能体(提取参考图像的结构化图式)、迁移智能体(跨域图式合成)、生成智能体(视觉实现)和诊断智能体(迭代质量优化)。与传统的顺序执行范式不同,本文的诊断智能体引入了回溯分析机制,形成闭环反馈。

本文的多智能体架构与现有的前馈式多智能体系统(如 SketchAgent、MCCD)有本质区别——引入了层级回溯的诊断智能体作为'批评家',这是实现高质量隐喻迁移的关键创新。

Schema Grammar (图式语法)

本文提出的一种新颖的结构化表示方法,将视觉隐喻表示为七元组 G = {S, C, A_S, A_es, G, V, I}。其中 S 为主体(被描绘的主要实体),C 为载体(提供隐喻框架的视觉上下文),A_S 为主体固有属性,A_es 为视觉表达属性,G 为类属空间(跨域关系不变量),V 为违反点(主体违背载体预期规范的具体位置),I 为涌现意义。核心设计思想是将关系逻辑(G, V, I)与具体视觉实体(S, C)解耦,使得同一抽象逻辑可以在不同主体和载体上重新实例化。

Schema Grammar 是连接认知理论与计算实现的桥梁。它使得隐喻的'创意本质'可以作为结构化表示进行操作和迁移,是整个方法论的形式化基础。

层级回溯机制 (Hierarchical Backtracking)

本文诊断智能体采用的错误定位与修复策略,包含三个层级:首先检查文本提示(Prompt)是否准确翻译了目标图式;若问题持续,则回溯到组件层面,评估载体选择、违反配置是否合理;最后在极少数情况下回溯到抽象层面,验证类属空间 G 的提取是否恰当。这种策略确保修正针对真正的错误源,而非过度调整下游组件。诊断智能体使用 VLM 在四个维度上进行定性分析:主体显著性、违反实现、关系连贯性和意义对齐。

这是本文与现有多智能体系统的关键区别。现有系统通常采用前馈执行范式,而本文通过诊断智能体实现了闭环迭代优化,显著提升了复杂隐喻任务的生成可靠性。

研究动机

当前的生成式 AI 在视觉隐喻生成方面面临根本性瓶颈。现有的文本到图像(T2I)模型(如 FLUX、SDXL)和图像到图像(I2I)模型主要停留在像素级指令对齐和表面视觉外观(风格、纹理、主体)的保持层面,无法捕获真正隐喻生成所需的底层抽象逻辑。具体而言,多模态大语言模型(MLLMs)虽然展现了隐喻理解的基本认知能力,但在解析复杂视觉修辞中的非字面语义和深层象征关系时仍然吃力,需要额外的信息或提示。同时,合成方法主要依赖文本驱动,通过大量文本提示将语言隐喻映射到具体物体上。MetaCLUE 基准测试表明,视觉语言模型在隐喻理解任务上的表现显著低于字面图像理解。这两条研究路径的共同局限是过度依赖用户提供的显式文本描述,形成了一个关键技术障碍——无法从视觉参考中自主解耦隐喻逻辑并将其灵活地重新实例化到新的语境中。

本文的目标是本文提出视觉隐喻迁移(Visual Metaphor Transfer, VMT)这一新任务,挑战模型从参考图像中自主解耦'创意本质',并将该抽象逻辑重新实例化到用户指定的新主体上。与关注视觉外观的传统主体定制(如 DreamBooth、Textual Inversion)或风格迁移(如 Style Aligned)不同,VMT 要求解构参考图像中的深层隐喻逻辑——即主体、载体、违反点和涌现意义之间的抽象关系——并在保持该逻辑不变的前提下为新主体找到全新的载体和违反点。这一范式转变将隐喻生成从像素级重构问题转化为图式空间中的结构化搜索与实例化任务。

与已有工作不同的是,本文的独特切入角度在于将认知语言学中的概念整合理论(CBT)工程化为可执行的计算范式。现有方法要么仅做表面级别的对象替换(如将广告中的产品简单替换为另一种产品),要么完全从文本描述生成隐喻(如 I-spy-a-metaphor、Creative Blends),都无法实现真正的跨域隐喻逻辑迁移。本文通过提出 Schema Grammar 将隐喻的抽象关系不变量与具体视觉实体解耦,使得同一创意逻辑可以在完全不同的视觉域中重新实例化。同时,现有方法缺乏自我反思和纠错能力,而本文引入的诊断智能体通过层级回溯机制模仿专业批评家的思维方式,能够在抽象逻辑、组件选择和提示编码三个层面识别并修正错误,形成闭环优化。这种从被动像素合成到主动智能体推理的转变是本文最核心的创新视角。

核心方法

本文提出一个受认知科学启发的多智能体框架,将概念整合理论(CBT)操作化为可执行的计算流水线。整体思路是:首先通过感知智能体将参考图像的隐喻逻辑提炼为结构化的图式语法(Schema Grammar),然后通过迁移智能体在保持类属空间不变量的前提下为新主体发现合适的载体,接着由生成智能体将逻辑蓝图转化为高质量的图像合成提示,最后通过诊断智能体进行层级回溯的闭环精炼。这四个智能体形成一个协作系统,其中诊断智能体作为'批评家'角色尤为关键——它模仿专业评论者的思维方式,在主体显著性、违反实现、关系连贯性和意义对齐四个维度上检查生成结果,发现不足后回溯到提示层、组件层或抽象层进行针对性修正。这种设计将人类的创意认知过程分解为可计算、可调试的子任务,同时通过闭环反馈确保最终输出不仅在像素层面一致,更在抽象逻辑层面与参考隐喻对齐。

本文的核心创新点在于提出 Schema Grammar 这一结构化表示方法,将隐喻的关系逻辑(类属空间 G、违反点 V、涌现意义 I)与具体视觉实体(主体 S、载体 C)解耦。与已有方法的本质区别体现在三个层面:第一,现有方法(如 DreamBooth、IP-Adapter)关注视觉外观的保持,而本文关注抽象逻辑的迁移——同一个'提供能量'的功能隐喻可以从咖啡-电池迁移到护肤品-花朵。第二,现有文本驱动方法(如 Creative Blends、TIAC)需要用户显式指定隐喻概念,而本文方法从视觉参考中自主提取并迁移隐喻逻辑。第三,现有生成系统采用前馈执行范式,缺乏自我反思能力,而本文通过诊断智能体实现了层级回溯的闭环纠错——不仅检查最终图像质量,还回溯到提示编码、组件选择和抽象逻辑三个层面定位错误根源。这种'批评家'机制使得系统能够处理单次生成无法解决的复杂隐喻任务。

方法步骤详情

方法分为四个阶段,每个阶段由一个专门化智能体执行。阶段一:感知智能体(Perception Agent)。输入为参考图像 I_ref,使用视觉语言模型(VLM)通过思维链(Chain-of-Thought)推理按序列 S/C -> A_S -> G -> V -> I 提取结构化图式。模型首先识别具体实体(主体和载体)及其固有属性,然后进行抽象推理以隔离类属空间,揭示使隐喻映射成为可能的跨域关系不变量。通过对比主体固有属性 A_S 与类属空间 G,推导出违反点 V(产生认知张力的语义不协调),最后推断涌现意义 I。输出为参考图式语法 G_ref = VLM(I_ref, p_extract)。阶段二:迁移智能体(Transfer Agent)。输入为参考图式 G_ref 和用户指定的新主体 S_tgt,目标是生成新的目标图式 G_tgt 使类属空间 G 保持不变。VLM 按以下推理链执行:(1) 隔离类属空间 G 的域无关本质;(2) 分析新主体的固有属性 A_tgt^S 及其典型功能或象征角色;(3) 搜索与 S_tgt 共享相同类属空间 G 关系的新载体 C_tgt;(4) 设计新的违反点 V_tgt,使 S_tgt 违反 C_tgt 的预期规范。输出为 G_tgt = VLM(G_ref, S_tgt, p_transfer)。阶段三:生成智能体(Generation Agent)。输入为目标图式 G_tgt,由 LLM 将其结构化组件翻译为高保真描述性提示 P。提示构建强调三个原则:结构锚定(利用 C_tgt 定义空间构成)、语义并置(明确表达 V_tgt 以诱发概念失调)、情感编码(通过灯光、色彩等风格指令体现 I_tgt)。最终通过预训练图像生成模型合成目标图像 I_gen = Gen(P)。阶段四:诊断智能体(Diagnostic Agent)。使用 VLM 在四个互补维度上检查 I_gen:主体显著性、违反实现、关系连贯性、意义对齐。VLM 输出定性描述的问题分析,然后通过三个层级的级联归因进行回溯:提示层(检查 P 是否准确翻译 G_tgt)、组件层(评估 C_tgt 选择和 V_tgt 配置)、抽象层(验证 G 提取是否恰当)。精炼循环持续进行直到诊断反馈表明质量满意或达到最大迭代阈值 tau=5。

技术新颖性

本文的技术新颖性体现在四个维度。第一,任务定义的新颖性——首次形式化定义视觉隐喻迁移(VMT)任务,将其与主体定制和风格迁移明确区分开来,提出从像素级重构到图式空间结构化搜索的范式转变。第二,表示方法的新颖性——Schema Grammar 是首个将认知语言学中的概念整合理论映射为可计算七元组的结构化表示,其核心设计——将关系逻辑与视觉实体解耦——使得抽象的'创意本质'可以被显式操作和迁移。第三,框架架构的新颖性——与现有的前馈式多智能体系统(如 SketchAgent、MCCD)不同,本文引入了作为'批评家'的诊断智能体,通过层级回溯机制实现闭环纠错。这种设计模仿了专业创意评论者的工作方式——不仅评判最终结果,还能定位问题根源是在抽象逻辑层、组件选择层还是提示编码层。第四,评估方法的新颖性——传统图像评估方法(CLIP、DINO)主要评估低层视觉特征或语义相似度,而本文提出使用前沿 VLM(Gemini-3-pro、GPT-5.2、Claude-4.5)作为评估器,在隐喻一致性、类比适当性和概念整合三个高层维度上进行 10 分制评估,并通过多人类评估者验证了 VLM-as-judge 的可靠性。

Diverse image metaphor transfer results generated by our framework
Figure 1: Diverse image metaphor transfer results generated by our framework
Architecture of our Self-Reflective Agentic Framework for Visual Rhetoric Transfer
Figure 3: Architecture of our Self-Reflective Agentic Framework for Visual Rhetoric Transfer

实验结果

本文在 126 个视觉隐喻数据集上进行了全面的定量、定性和人类评估实验,核心发现如下。定量结果(Table 1):本文方法在所有三个前沿 VLM 评估器上全面超越基线。以 Gemini-3-pro 评估器为例,隐喻一致性(MC)达到 9.31(vs. 最强基线 Banana-pro 的 8.75,提升 6.4%),类比适当性(AA)达到 8.97(vs. 7.68,提升 16.8%),概念整合(CI)达到 8.76(vs. 7.33,提升 19.5%)。美学得分也达到最高 5.68。AA 指标上 16.8% 的最大提升幅度表明迁移智能体在发现与新主体隐喻匹配的载体方面特别有效。消融实验进一步验证了各组件的必要性:去除 CBT 和阶段 1-2 后(Ablation 1),MC 从 9.31 降至 8.79;去除 CBT 后(Ablation 2),AA 从 8.97 降至 8.09;去除阶段 4 诊断智能体后(Ablation 3),CI 从 8.76 降至 8.33。人类评估(Figure 5):65 名参与者(年龄 14-55 岁,32 男 33 女)参与评估。Likert 评分中,本文在隐喻可识别性(MR=4.40)、隐喻巧妙性(MI=4.57)、违反适当性(VA=4.45)、视觉整合(VI=4.64)和整体视觉质量(VQ=4.77)五个维度均获得最高分。GSB 偏好评估中,本文在所有对比中获得超过 60% 的'本文更优'评价:vs. BAGEL 76.15%、vs. Midjourney 71.54%、vs. GPT-Image 63.54%、vs. Banana-pro 61.85%,而被评为'较差'的比例均低于 10%。定性分析:如 Figure 4 所示,在'美国薯条'任务中,基线模型仅做表面组件替换,而本文方法成功合成了映射薯条几何形态的纽约地标建筑。在'玫瑰护手霜'案例中,基线错误保留了参考图的'切片'几何形态,而本文方法将有机玫瑰纹理与传统包装融合。在'螃蟹'案例中,基线将垃圾散落为背景,而本文方法将塑料废物无缝嵌入螃蟹的生物结构中。泛化性分析(Figure 7):框架在不同 LLM(Gemini、GPT-4)与不同 T2I 模型(Nano-Banana-Pro、GPT-Image、FLUX)的组合下均表现稳定,验证了方法的模型无关性。不同 LLM 影响创意叙事风格(Gemini 倾向主动报复解读,GPT 倾向文化讽刺解读),但所有 T2I 模型均能忠实渲染对应提示。

Quantitative evaluation Results
Table 1: Quantitative evaluation Results
Qualitative comparison with baseline methods
Figure 4: Qualitative comparison with baseline methods
Human evaluation study
Figure 5: Human evaluation study
Qualitative comparison of ablation variants
Figure 6: Qualitative comparison of ablation variants
Qualitative comparison of different backbone combinations
Figure 7: Qualitative comparison of different backbone combinations
Versatility of the proposed framework in reference-guided and text-guided scenarios
Figure 9: Versatility of the proposed framework in reference-guided and text-guided scenarios
Application of meme image generation
Figure 10: Application of meme image generation
查看结构化数据
任务指标本文基线提升
视觉隐喻迁移 - 隐喻一致性 (MC) Gemini-3-pro 评分 (10分制) 9.31 Banana-pro 8.75 +6.4%
视觉隐喻迁移 - 类比适当性 (AA) Gemini-3-pro 评分 (10分制) 8.97 Banana-pro 7.68 +16.8%
视觉隐喻迁移 - 概念整合 (CI) Gemini-3-pro 评分 (10分制) 8.76 Banana-pro 7.33 +19.5%
视觉隐喻迁移 - 隐喻一致性 (MC) GPT-5.2 评分 (10分制) 8.62 Banana-pro 7.95 +8.4%
视觉隐喻迁移 - 类比适当性 (AA) GPT-5.2 评分 (10分制) 8.51 Banana-pro 7.77 +9.5%
视觉隐喻迁移 - 概念整合 (CI) GPT-5.2 评分 (10分制) 8.58 Banana-pro 7.37 +16.4%
视觉隐喻迁移 - 美学质量 SigLip 预测器评分 5.68 GPT-Image 5.63 +0.9%
人类偏好 - GSB vs. Banana-pro Ours Better 占比 61.85% Banana-pro 被偏好率 <10%
人类偏好 - GSB vs. GPT-Image Ours Better 占比 63.54% GPT-Image 被偏好率 <10%

局限与改进

本文存在以下几个值得关注的局限性。首先是认知障碍问题——作者在 Badcase 分析中坦承,迁移后的隐喻可能需要过高的认知解码成本,妨碍即时传达。例如'阿喀琉斯之踵'的创可贴广告隐喻高度依赖观众的特定文化背景,缺乏神话知识的观众无法感知其'终极保护'的象征意义;'饥饿的塞壬'降噪耳机隐喻需要多步逻辑推理链(塞壬之歌 -> 吸引 -> 捕食 -> 降噪 -> 饿死)。这暴露了语义深度与认知即时性之间的权衡——智能体推理可能优先保证逻辑完整性而牺牲了可解释性。其次是数据集规模有限——仅使用 126 个视觉隐喻样本进行评估,其中产品广告 32 个、表情包 33 个、电影海报 15 个、漫画 10 个、其他 36 个。这一规模难以充分验证方法在更广泛隐喻类型和文化语境下的泛化能力。第三是计算效率问题——诊断智能体的迭代精炼机制(最大迭代阈值 tau=5)意味着每次生成可能需要多次 VLM 推理和图像生成,显著增加了计算成本和延迟,但论文未报告具体的推理时间或计算开销。第四是评估依赖 VLM-as-judge——虽然使用了三个前沿 VLM 进行评估,但 VLM 本身对视觉隐喻的理解能力仍然有限(MetaCLUE 已证明这一点),用理解能力有限的模型评估隐喻生成质量可能存在系统性偏差。第五是缺乏负面对照——论文未讨论方法在处理非隐喻图像或退化输入时的行为,也未分析错误图式提取对下游生成的级联影响。

独立分析的弱点

本文存在几个值得深入分析的弱点。第一,载体发现的搜索空间未被显式建模——迁移智能体通过 VLM 推理来'发现'新载体,但这一搜索过程完全依赖模型的隐式知识和提示引导,缺乏对候选载体空间的系统化探索。在主体属性复杂或文化语境独特的情况下,VLM 可能无法想到最佳载体。改进方向可以引入外部知识库(如 ConceptNet、Wikidata)作为载体候选池,或使用检索增强生成(RAG)技术扩大搜索空间。第二,Schema Grammar 的抽象层级难以自动调节——类属空间 G 的抽象程度直接影响迁移质量:过于抽象会导致载体匹配过于宽泛,过于具体则限制跨域迁移能力。论文提到在极少数情况下需要'回访 G_ref 验证 G 是否在适当的抽象层级上提取',但未提供自动化调节机制。改进方向可以设计多层级 G 提取策略,从粗到细逐步精炼。第三,迭代精炼缺乏收敛保证——诊断智能体的回溯循环最多进行 tau=5 次,但论文未分析迭代过程中质量是否单调提升,也未讨论在达到上限时仍不满意的处理策略。改进方向可以引入质量预测模型提前终止或切换策略。第四,文化敏感性未被处理——隐喻高度依赖文化背景,但框架未包含文化适配机制。对于跨文化应用场景,需要增加文化语境感知的载体选择和违反设计模块。

未来方向

作者在论文中未明确提出未来研究方向,但基于本文成果可以延伸出多个有前景的研究路径。第一,交互式隐喻创作系统——将多智能体框架扩展为人类-AI 协作系统,允许用户在不同阶段(图式提取、载体选择、违反设计)提供指导或约束,实现可控的创意生成。第二,隐喻理解与生成的统一模型——当前框架的感知智能体和生成智能体使用不同的模型(VLM 和 T2I),未来可以探索统一的多模态模型同时具备隐喻理解和生成能力。第三,视频隐喻迁移——将 Schema Grammar 扩展到时序维度,支持动态视觉隐喻的迁移,例如将广告中的动态隐喻逻辑迁移到新产品的视频广告中。第四,隐喻质量的自动化评估基准——当前缺乏专门的视觉隐喻评估基准(MetaCLUE 侧重理解),可以基于本文的 Schema Grammar 构建包含结构化标注的大规模评估数据集。第五,多隐喻组合——当前方法处理单个隐喻的迁移,未来可以研究如何将多个隐喻有机组合在同一视觉作品中,实现更复杂的创意表达。

复现评估

论文的复现评估需要从以下几个维度考虑。代码开源:作者声明'Source code will be made publicly available',但截至论文发布时尚未公开。数据:论文使用了 126 个自行策划的视觉隐喻数据集,来源为互联网(产品广告、表情包、电影海报、漫画等),但未提供数据集下载链接或详细的收集协议。这意味着完全复现需要重新收集类似数据。模型依赖:框架依赖闭源商业模型——Gemini-3-pro 作为 VLM 和 LLM,Banana-pro 作为图像生成模型。这意味着复现需要 API 访问权限和相应的使用费用,且模型版本更新可能导致结果不可完全复现。提示工程:论文提到 p_extract、p_transfer、p_generation 和 p_critic 提供在补充材料中,这些系统提示的具体设计对结果质量有重要影响。算力需求:虽然单次生成的算力需求不高(调用 API),但诊断智能体的迭代机制(最多 5 次循环)意味着每个样本可能需要多次 API 调用,126 个数据集的完整评估成本不容忽视。总体而言,复现难度中等偏高,主要障碍在于闭源模型依赖和数据集未公开。