AutoFigure:从长篇科学文本自动生成可发表的科学插图 AutoFigure: Generating and Refining Publication-Ready Scientific Illustrations
首个从长篇科学文本自动生成出版级科学插图的智能体框架与评测基准
前置知识
智能体框架(Agentic Framework)
智能体框架是指由多个具有特定角色的 AI 模型协同工作的系统架构。在本文中,系统包含概念提取智能体、设计智能体和评审智能体,它们像一个设计团队一样分工协作:有人负责理解文本提取方法论,有人负责画草图,有人负责审稿提意见。这种多角色协作模式使系统能够进行复杂的迭代推理,而不仅仅是单次生成。
AutoFigure 的核心架构就是多智能体协作,理解智能体框架是理解本文方法论的基础。
SVG/HTML 矢量图形
SVG(可缩放矢量图形)和 HTML 是基于代码的图形描述格式,用文本标签定义图形元素的位置、形状、颜色和连接关系。与像素图不同,矢量图形可以无损缩放,且其结构化特性使 LLM 能够精确控制元素的拓扑关系。在本文中,LLM 输出 SVG/HTML 代码作为中间表示,既保留了结构准确性,又为后续渲染提供了精确的布局参考。
本文选择 SVG 作为中间表示格式是关键设计决策之一,直接影响了结构保真度和渲染质量。
VLM-as-a-Judge(视觉语言模型作为评判者)
这是一种利用大型视觉语言模型(如 GPT-5)自动评估生成图像质量的范式。评估时,VLM 接收原始文本、参考图和生成图,从视觉设计、传播效果、内容保真度等多个维度打分并给出推理过程。本文还采用盲评配对比较(blind pairwise comparison),让 VLM 在不知道哪个是原图的情况下选择更优的一方。该范式的有效性在本文中通过与人类专家评分的相关性研究得到验证(Pearson r=0.659, p<0.001)。
这是本文的主要评估方法,理解其工作原理和局限性对判断实验结果的可信度至关重要。
擦除-修正策略(Erase-and-Correct)
这是本文提出的文本后处理策略,用于解决 AI 生成图像中常见的文字模糊问题。具体步骤是:先用非 LLM 的擦除工具去除图像中所有文字像素得到干净背景,然后用 OCR 引擎提取原始文字和位置信息,接着用多模态验证模型将 OCR 结果与 SVG 中的真值文本对齐修正,最后将修正后的文字以矢量形式叠加到干净背景上。这确保了最终输出中文字的完美清晰度。
文本模糊是科学插图生成的核心痛点,这个策略是本文实现'出版级'质量的关键技术之一。
Reasoned Rendering 范式
这是本文提出的核心范式名称,将科学插图生成解耦为两个阶段:语义解析与布局规划(Reasoning)+ 美学渲染与文本修正(Rendering)。关键思想是让 LLM 先'想清楚'要画什么(生成结构化布局),再用图像生成模型'画好看'(美学渲染),而非端到端直接生成。这种解耦设计使系统既能保持结构准确性,又能获得高质量的视觉呈现。
这是本文的核心创新范式,理解它才能理解为什么 AutoFigure 能同时解决结构保真度和视觉美学的矛盾。
研究动机
高质量科学插图是科学传播的关键媒介,能帮助读者在几分钟内快速把握论文核心思想并防止误读。然而,制作一张有效的科学插图通常需要研究者花费数天时间,且要求创作者同时具备领域知识和专业设计技能。现有自动化方案面临三重困境:第一,现有基准数据集(如 Paper2Fig100k、ACL-Fig、SciCap+)主要关注从标题或短片段重建已有图表,而非从长篇科学文本从零生成插图;第二,端到端文本到图像模型(如 GPT-Image)虽然能生成美观的图像,但在面对平均超过 1 万 token 的长篇科学文本时,无法保持结构保真度,常出现主题幻觉和文字不可读等问题;第三,代码生成方法(如 TikZ/HTML/SVG)虽然能保证结构正确性,但输出视觉效果枯燥,难以达到出版标准。更关键的是,随着 AI Scientist(如 CycleResearcher、DeepScientist)的发展,AI 已能自主撰写论文,但无法为自己的发现生成配图,这成为 AI 科学家视觉表达能力的关键瓶颈。
本文的目标是本文的直接目标是构建一个能够从长篇科学文本(平均超过 1 万 token)自动生成出版级科学插图的系统。具体而言,系统需要满足三个可量化标准:(1) 内容保真度——准确反映论文核心方法论的结构和逻辑关系;(2) 视觉美学——达到可直接用于学术出版的质量标准;(3) 文本清晰度——图中所有文字标签准确无误、清晰可读。此外,作者还构建了 FigureBench 基准数据集(3,300 对高质量文本-插图对),为该任务提供系统化的评估框架。
与已有工作不同的是,本文的独特切入角度在于提出了'Reasoned Rendering'(推理渲染)范式,将科学插图生成解耦为'推理'和'渲染'两个独立阶段。现有方法要么试图端到端直接生成(如 T2I 模型),导致结构失真;要么完全依赖代码生成(如 TikZ/HTML),牺牲视觉质量。AutoFigure 观察到:理解科学文本的语义结构和生成美观的视觉呈现是两个本质不同的认知任务,前者需要深度逻辑推理,后者需要视觉设计能力。通过解耦这两个过程,系统可以用 LLM 专注于'想清楚'(结构推理),用图像生成模型专注于'画好看'(美学渲染),并通过迭代自精炼机制在两者之间找到最优平衡点。此外,本文还抓住了现有评测体系的空白——没有专门针对长文本到科学插图的基准数据集,从而构建了 FigureBench 来填补这一缺口。
核心方法
AutoFigure 的方法可以用一个建筑类比来理解:如果把科学插图比作一栋建筑,传统方法要么直接让 AI 画一栋完整的房子(端到端生成,外观好看但结构不稳),要么让 AI 写出精确的建筑图纸代码(代码生成,结构稳固但外观粗糙)。AutoFigure 则采用了一个更合理的流程:先让'建筑师'(LLM)深度理解需求并画出精确的结构蓝图(SVG 布局),然后由'室内设计师'(图像生成模型)在保持结构不变的前提下进行美学包装,最后再由'质检员'修正所有文字细节。整个系统分为三个阶段:Stage I(概念提取与布局生成)让 LLM 从长篇科学文本中提取核心方法论,将其转化为结构化的 SVG/HTML 布局;Stage II(评审与精炼)通过 AI 设计师与 AI 评审员的对话式迭代,不断优化布局的结构一致性和逻辑连贯性;Stage III(美学渲染与文本后处理)将优化后的布局转化为高保真插图,并通过擦除-修正策略确保文字完美清晰。
AutoFigure 的核心创新在于'解耦推理与渲染'(Decoupled Reasoning and Rendering)。这一设计的本质洞察是:科学插图生成面临一个根本矛盾——结构保真度和视觉美学需要不同的能力。LLM 擅长理解复杂的科学逻辑和拓扑关系,但不擅长直接生成高质量图像;图像生成模型擅长视觉呈现,但无法理解长篇科学文本的深层语义。AutoFigure 通过引入中间表示(SVG/HTML 布局)将这两个能力解耦:LLM 负责语义理解和结构规划,输出机器可读的布局代码;图像生成模型负责美学渲染,将布局转化为美观的插图。更重要的是,系统引入了'评审-精炼'(Critique-and-Refine)循环,模拟设计师与评审员的对话,在 N 次迭代中不断优化布局,直到达到最优。公式上,这可以表示为:评审员 $\Phi_{\text{critic}}$ 评估当前最优布局 $(S_{\text{best}}, A_{\text{best}})$ 的对齐性、平衡性和重叠问题,生成反馈 $F_{\text{best}}$;生成器 $\Phi_{\text{gen}}$ 基于反馈重新解释方法论,产生候选布局,若评分更高则替换当前最优。这种迭代机制确保了最终布局在结构和美学上都达到最优。
方法步骤详情
AutoFigure 的完整工作流程包含三个主要阶段,每个阶段包含多个具体步骤。Stage I:概念提取与布局生成。输入为长篇科学文本 T(平均 >10k token),概念提取智能体输出精炼的方法论摘要 $T_{\text{method}}$ 和实体-关系集合,然后将其序列化为 SVG/HTML 格式的符号布局 $S_0$ 和风格描述 $A_0$,同时光栅化为参考图像 $I_0$。Stage II:评审与精炼。初始布局 $(S_0, A_0)$ 被评分得到初始分 $q_0$,设为当前最优;在每次迭代 i 中,评审员 $\Phi_{\text{critic}}$ 评估最优布局的对齐性、平衡性和重叠问题,生成文本反馈 $F_{\text{best}}^{(i)}$;生成器 $\Phi_{\text{gen}}$ 基于反馈重新解释 $T_{\text{method}}$,生成候选布局 $(S_{\text{cand}}^{(i)}, A_{\text{cand}}^{(i)})$ 并评分 $q_{\text{cand}}^{(i)}$;若候选评分更高则替换当前最优;循环持续直到达到预设迭代次数 N 或评分收敛,最终输出 $(S_{\text{final}}, A_{\text{final}})$。Stage III:美学渲染与文本后处理。首先用 LLM 将 $(S_{\text{final}}, A_{\text{final}})$ 转化为详细的文本到图像提示词,配合从 $S_{\text{final}}$ 派生的结构图,输入多模态生成模型渲染图像 $I_{\text{polished}}$;然后进入擦除-修正流程:用非 LLM 擦除器 $\Phi_{\text{erase}}$ 去除所有文字像素得到 $I_{\text{erased}}$,用 OCR 引擎 $\Phi_{\text{ocr}}$ 提取文字和位置 $(T_{\text{ocr}}, C_{\text{ocr}})$,用多模态验证器 $\Phi_{\text{verify}}$ 将 OCR 结果与 $S_{\text{final}}$ 中的真值文本对齐修正得到 $T_{\text{corr}}$,最后将修正后的文字以矢量叠加形式渲染到 $I_{\text{erased}}$ 上得到最终插图 $I_{\text{final}}$。
技术新颖性
AutoFigure 的技术新颖性体现在三个层面。第一,范式层面:这是首个提出'Reasoned Rendering'范式的工作,将科学插图生成明确解耦为推理和渲染两个阶段,从根本上解决了结构保真度与视觉美学的矛盾。与之前的端到端方法(如 GPT-Image)和纯代码生成方法(如 TikZ/HTML)相比,这种解耦设计使系统能够同时利用 LLM 的逻辑推理能力和图像生成模型的视觉呈现能力。第二,机制层面:评审-精炼循环是本文的核心机制创新。通过模拟设计师与评审员的对话,系统能够在迭代中不断优化布局质量。实验表明,从 0 次迭代到 5 次迭代,整体性能从 6.28 稳步提升至 7.14,证明了该机制的有效性。第三,工程层面:擦除-修正策略巧妙地解决了 AI 生成图像中文字模糊的普遍问题。通过 OCR 提取 + 真值验证 + 矢量叠加的组合,确保了文字的完美清晰度,这是达到出版标准的关键技术细节。此外,本文还首次构建了 FigureBench 大规模基准数据集(3,300 对),填补了该领域的评测空白。
实验结果
AutoFigure 在自动化评估和人类专家评估中均显著优于所有基线方法,证明了'Reasoned Rendering'范式的有效性。在自动化评估中(Table 2),AutoFigure 在所有四个文档类别(Blog、Survey、Textbook、Paper)上都取得了最高的 Overall 分数:Blog 7.60、Survey 6.99、Textbook 8.00、Paper 7.03。在盲评配对比较中,Win-Rate 分别为 75.0%(Blog)、78.1%(Survey)、97.5%(Textbook)、53.0%(Paper)。对比基线方法,GPT-Image 虽然视觉美学尚可,但内容准确性严重不足,在 Paper 类别中 Win-Rate 仅 7.0%;代码生成方法(HTML/SVG)结构正确但视觉枯燥,Win-Rate 在 11.0%-45.0% 之间;Diagram Agent 在所有类别中 Win-Rate 均为 0.0%,说明没有专门结构化方法很难完成此任务。在人类专家评估中(Figure 4),10 位论文第一作者评估了 21 篇自己论文的生成插图,结果显示:AutoFigure 获得 83.3% 的 Win-Rate(仅次于原图的 96.8%),66.7% 的专家愿意在 camera-ready 论文中使用 AutoFigure 生成的插图,这在准确性(4.00/5)、清晰度(4.14/5)和美学(4.24/5)三个维度上都接近人类水平。消融实验证明:渲染阶段使 GPT-5 的 Overall 分从 6.38 提升至 7.48;5 次迭代精炼使分从 6.28 提升至 7.14;SVG(8.98)和 HTML(8.85)作为中间格式显著优于 PPT(6.12)。开源模型实验表明 Qwen3-VL-235B 达到 7.08 的 Overall 分,超过多个商业模型(Gemini-2.5-Pro 6.99、Claude-4.1-Opus 6.80、Grok-4 6.76)。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| Blog 类科学插图生成 | Overall Score | 7.60 | HTML-Code 6.40 / SVG-Code 4.96 / GPT-Image 4.39 / Diagram Agent 1.92 | AutoFigure 比最强基线 HTML-Code 高 18.8% |
| Survey 类科学插图生成 | Overall Score | 6.99 | Gemini-HTML 5.92 / Gemini-SVG 5.34 / GPT-Image 4.63 / Diagram Agent 2.22 | AutoFigure 比最强基线 Gemini-HTML 高 18.1% |
| Textbook 类科学插图生成 | Overall Score | 8.00 | Gemini-HTML 6.53 / Gemini-SVG 6.12 / GPT-Image 5.67 / Diagram Agent 2.25 | AutoFigure 比最强基线 Gemini-HTML 高 22.5% |
| Paper 类科学插图生成 | Overall Score | 7.03 | HTML-Code 6.35 / SVG-Code 5.49 / GPT-Image 3.47 / Diagram Agent 2.12 | AutoFigure 比最强基线 HTML-Code 高 10.7% |
| Textbook 类配对比较 | Win-Rate | 97.5% | Gemini-SVG 76.9% / Gemini-HTML 72.5% / GPT-Image 55.0% / Diagram Agent 0.0% | AutoFigure Win-Rate 达 97.5%,几乎全面胜出 |
| 人类专家评估 - 发表意愿 | Publication Intent Rate | 66.7% | GPT-Image 28.6% / 其他 <5% | 2/3 的专家愿意使用 AutoFigure 生成的插图 |
| Paper 类扩展基线对比 | Overall Score | 7.03 | AutoPresent 2.55 / TikZero+ 1.45 / TikZero 1.25 | AutoFigure 比 AutoPresent 高 175.7%,比 TikZero+ 高 385% |
局限与改进
论文坦诚地指出了几个持续存在的局限性。最突出的是细粒度文字渲染准确性问题:即使采用了擦除-修正后处理,在小字号、密集布局或复杂背景条件下,系统仍可能出现字符级错误,例如论文中提到的将'gravity'拼成'ravity'(缺少字母'g')。其次是美学呈现与科学严谨性之间的张力:当源文本描述不够具体时,系统的'具象化'行为可能超出严格字面内容,例如对理论性或模糊表述的段落,模型可能产生视觉上合理但概念结构不完美的结果,如压缩细微区别或无意中将并行概念强加为层次关系。此外,Paper 类别的 Win-Rate(53.0%)显著低于 Textbook(97.5%)和 Survey(78.1%),这反映了研究论文插图的独特挑战:信息层次更密集(宏观工作流 + 微观步骤 + 细粒度实体),且通常是需要从零设计的定制化视觉表达,而非教科书中标准化的流程图。从我的分析来看,评测基准本身也存在局限:VLM-as-a-Judge 虽然与人类评分相关性显著(r=0.659),但仍无法完全替代人类专家判断;测试集仅覆盖计算机科学领域,对其他学科的泛化能力有待验证。
独立分析的弱点
从独立分析的角度,我识别出以下几个弱点及改进方向。第一,知识局限问题:当准确的结构或标注依赖于输入文本中未明确说明的领域特定惯例或外部知识时,系统可能产生不完整的结构。例如,某些领域有约定俗成的符号系统或缩写,AutoFigure 可能无法正确识别。改进方向是引入检索增强(RAG)机制,在生成布局前检索相关领域的视觉惯例和术语表。第二,细粒度本体区分问题:当输入涉及多分支分类法(如复杂的本体树)时,模型倾向于牺牲精确关系来换取更简洁的视觉组织。改进方向是引入领域验证器(Domain Verifier),在最终渲染前对实体、关系和术语进行约束检查。第三,文字渲染鲁棒性:擦除-修正策略虽然大幅改善了文字清晰度,但在极端情况下(超小字号、艺术字体)仍可能失败。改进方向是探索更紧密的 OCR-布局对齐算法,或直接采用 SVG 内嵌字体的技术方案。第四,风格一致性问题:虽然论文展示了风格可控性,但在同一套图中保持跨图一致性的能力尚未充分验证。对于需要多张配图的论文,这是一个实际痛点。
未来方向
论文作者和基于成果可延伸的未来方向包括以下几个方面。作者明确提出:(1) 将框架扩展到其他学科(生物学、化学、经济学等),需要引入领域特定知识来生成信号通路图、分子结构等专业图表;(2) 从静态图扩展到动态和交互式图表,利用动画展示随时间变化的过程或允许用户驱动的交互探索;(3) 引入外部知识库(检索增强定位)和领域验证器来解决推理与渲染之间的'最后一公里'问题。基于本文成果,我认为还可以延伸以下方向:(4) 将 AutoFigure 集成到 AI Scientist 系统中,实现从论文写作到插图生成的全自动流水线;(5) 探索端到端的可训练方法,利用 FigureBench 开发集训练专门的科学插图生成模型;(6) 支持多图协同生成,为一篇论文自动生成风格一致、逻辑互补的多张配图;(7) 引入用户反馈机制,允许研究者在迭代过程中提供指导性意见。
复现评估
本文在可复现性方面做得相当出色。代码、数据集和 HuggingFace Space 均已开源(GitHub: https://github.com/ResearAI/AutoFigure)。FigureBench 测试集 300 个样本、开发集 3,000 个样本均已公开,数据来源于 Research-14K(CC BY 4.0 许可)和其他开放许可资源。算力需求方面,商业 API 部署(Gemini-2.5-Pro)生成一张图约需 17.5 分钟、成本约 $0.20;本地部署(Qwen-3-VL 在 2×H100 GPU 上)约需 9.3 分钟,边际成本接近零。论文附录 M 提供了完整的提示词模板和输入-输出模式,确保 Stage I 和 Stage II 的可复现性。Stage III 的渲染阶段使用了开源工具(EasyOCR、ClipDrop API)。总体而言,复现难度中等:核心框架基于开源模型可运行,但高质量渲染需要商业 API 或高性能 GPU。论文还提供了在开源模型(Qwen3-VL-235B、GLM-4.5V、ERNIE-4.5-VL)上的性能评估,其中 Qwen3-VL-235B 达到 7.08 的 Overall 分,仅比 GPT-5 的 7.48 低 5.3%,证明了开源方案的可行性。
论文图表