← 返回 2026-04-01

VectorGym:用于SVG代码生成、草图绘制和编辑的多任务基准 VectorGym: A Multitask Benchmark for SVG Code Generation, Sketching, and Editing

Juan Rodriguez, Haotian Zhang, Abhay Puri, Tianyang Zhang, Rishav Pramanik, Meng Lin, Xiaoqing Xie, Marco Terral, Darsh Kaushik, Aly Shariff, Perouz Taslakian, Spandana Gella, Sai Rajeswar, David Vazquez, Christopher Pal, Marco Pedersoli 📅 2026-02-22 👍 6 2026-07-13 08:36
SVG编辑 VLM评估 多任务学习 强化学习 视觉代码生成

首个覆盖草图到SVG、文本到SVG、SVG编辑和描述的多任务SVG基准

前置知识

SVG(可缩放矢量图形)

SVG是一种基于XML的矢量图形格式,用代码描述几何形状、路径、颜色和样式。与位图图像不同,SVG是可编程的,包含circle、rect、path等几何原语,支持渐变、动画等高级特性。其核心优势在于可无损缩放、精确编辑和语义化结构。例如,一个圆可以用circle标签表示,包含圆心坐标、半径和填充颜色等属性,这些属性可以被程序精确读取和修改。

本文的核心研究对象。理解SVG语法和渲染机制对于评估模型的代码生成能力、视觉理解能力和编辑能力至关重要,这是区分SVG生成与普通图像生成的关键。

GRPO(Group Relative Policy Optimization)

GRPO是一种强化学习优化算法,在组内计算相对优势而非绝对优势。对于一组K个采样响应,标准GRPO的组级优势定义为响应减去组内均值后除以组内标准差。本文将其改进为批级归一化,即在整个批次的N乘以K样本上计算标准差,这种方法可以提高训练稳定性,减少方差,使梯度更新更加可靠。批级归一化利用了更多样本的统计信息,使优势估计更加准确。

本文使用GRPO变体来训练SVG生成模型。理解GRPO的工作原理和本文的改进对于复现实验方法和理解训练过程至关重要,特别是批级归一化的技术细节。

VLM-as-a-Judge(视觉语言模型作为裁判)

一种自动评估方法,使用强大的视觉语言模型如Gemini 3 Pro或GPT-5.1来评估模型输出的质量。对于SVG生成任务,VLMAJ从视觉准确性、语义对齐、代码质量和整体美学等多个维度对生成的SVG进行0到5分的打分。作者通过人类评估与VLMAJ评分的Pearson相关性分析来选择最佳裁判模型,确保自动评估的可靠性。不同任务可能需要不同的裁判模型,如编辑任务可能需要更专业的模型。

本文引入了针对SVG生成任务定制的VLMAJ评估协议。理解VLMAJ的设计原理、验证方法和局限性对于评估本文结果和未来研究工作非常重要,这是评估自动指标与人类判断一致性的关键。

课程学习(Curriculum Learning)

一种训练策略,按照难度递增的顺序训练模型。本文使用响应长度作为难度的代理指标,将样本按响应长度排序,从简短简单的例子逐渐过渡到复杂的长例子。具体实现是在四个任务的每个任务内部按响应长度排序,然后按照数据集频率比例采样构建每个小批次。这种策略使模型能够在学习复杂任务之前先掌握基础知识,提高训练稳定性和最终性能,避免过早面对过难的样本导致训练失败。

本文使用课程学习来提高多任务SVG训练的稳定性和效果。理解课程学习的设计原理和实现细节对于理解训练过程和结果分析至关重要,特别是响应长度作为难度代理的有效性。

研究动机

现有SVG评估基准存在严重局限性:数据集通常只针对简单图标或基本形状,如DeepSVG的10万图标数据集和SVGEditBench的1.6千emoji数据集,缺乏真实世界的多样性。编辑任务依赖合成程序化编辑,如SVGEditBench V2使用算法变换(旋转、缩放、颜色变化)生成编辑指令,这些操作可以通过简单规则实现,不需要深层语义理解或设计意图。没有覆盖从草图转换SVG的任务,无法评估模型将手绘草图转换为干净矢量代码的能力。缺乏人工标注的金标准标签,无法有效评估模型的语义理解能力,现有基准多使用合成数据或低质量标注。

本文的目标是构建一个全面的多任务SVG生成与操作基准,包含四个互补任务:从粗糙草图转换到干净SVG代码、基于自然语言指令进行复杂编辑、从文本描述生成SVG和描述SVG内容。目标是提供真实、挑战性的评估,覆盖专业设计工作流的需求,使用专家人工标注的金标准数据,并且全面评估当前前沿VLM在SVG生成任务上的性能差距。此外,提出基于强化学习的训练方法和定制的VLM-as-a-Judge评估协议,为SVG生成研究提供新的技术方向和评估标准。

与已有工作不同的是,本文的独特切入角度是提供首个由人工专家创建的复杂SVG编辑数据集,包含多步推理和语义理解的高级操作,以及首个从人工手绘草图到SVG的转换任务。与SVGEditBench V2的1.6千emoji样本和简单合成编辑不同,VectorGym的6.5千样本来自真实世界的SVG-Stack数据集,包含图标、图表、emoji、字体、商标和复杂插图等多种类型。编辑任务要求添加新对象、修改标志内容、转换图表类型、改变表情等深层语义操作,无法通过简单几何或算法变换实现。此外,本文还引入了针对SVG生成任务定制的VLM-as-a-Judge评估协议,通过人类相关性研究验证其可靠性,为SVG生成评估提供了新的基准方法。

核心方法

VectorGym基准包含四个任务:VG-Sketch草图到SVG转换、VG-Edit基于自然语言指令的SVG编辑、VG-Text文本到SVG生成和VG-Cap SVG描述。数据集构建从SVG-Stack数据集提取7000个样本,通过多阶段过滤(token长度2k到8k、颜色熵阈值大于0.55、人工视觉检查)获得6500个训练样本、100个验证样本和300个测试样本。超过20名具有设计、矢量图形和编码背景的标注人员使用专业绘图工具和自定义SVG编辑软件创建高难度标注。评估方法包括视觉相似性指标(像素MSE、LPIPS、DINO)、语义准确性指标(CLIP、VLM-Judge)和SVG描述指标(ROUGE-L F1、BGE-M3余弦相似度、LLM评分)。整体VectorGym分数是四个任务特定分数的算术平均值,提供统一的性能度量。

核心创新点是提供首个由人工专家创建的复杂SVG编辑数据集,引入Sketch2SVG新任务,以及基于渲染反馈的多任务强化学习方法。与SVGEditBench V2等依赖合成编辑的基准不同,VectorGym的编辑指令需要深度理解SVG语法、使用复杂原语(文本、动画、颜色渐变)、多步推理和语义理解。本文还引入了针对四个SVG生成任务定制的VLM-as-a-Judge评估协议,通过人类相关性研究验证其可靠性。技术新颖性体现在使用响应长度作为难度代理的课程学习策略、改进的GRPO算法使用批级标准差归一化而非组级、联合优化四个任务的强化学习框架。这些创新使得8B参数的模型能够在SVG生成任务上超越更大的模型。

方法步骤详情

方法步骤完整描述如下。第一,数据准备阶段:从SVG-Stack数据集提取7000个候选样本,应用多阶段过滤包括token长度约束2k到8k、颜色熵阈值大于0.55、随机子采样和人工视觉检查,获得6500个训练样本。从训练集选择100个样本作为验证集,从SVG-Stack测试集选择300个样本作为测试集。第二,人工标注阶段:与两家专业数据标注商合作,超过20名标注人员创建标注。对于VG-Sketch任务,标注人员提供手绘草图(纸笔绘制并拍照和数字绘图板绘制两种变体,每种包含彩色和黑白版本)和文本描述。对于VG-Edit任务,标注人员创建复杂编辑指令,禁止简单编辑如旋转、颜色变化、缩放,要求复杂编辑如路径修改、原语添加、参数调整、概念添加。第三,强化学习训练阶段:使用Qwen3-VL 8B Instruct模型作为基础,采用Reinforcement Learning from Rendering Feedback框架。对于Text-to-SVG、SVG Editing和Sketch-to-SVG任务,模型输出SVG代码,计算奖励时将预测和真实SVG渲染为光栅图像,评估感知相似性指标。对于SVG Captioning任务,奖励是预测和真实文本描述之间的嵌入相似性。第四,课程学习实现:将响应长度作为难度的代理指标,在每个任务内部按响应长度排序,然后按数据集频率比例采样构建小批次。第五,评估阶段:使用多个指标评估四个任务,计算整体VectorGym分数。

技术新颖性

技术新颖性体现在多个方面。第一,首个Sketch2SVG任务数据集,包含人工手绘草图(纸笔和数字绘制两种变体,彩色和黑白版本)和对应的干净SVG代码。第二,首个由人工专家创建的复杂SVG编辑数据集,编辑指令需要深度理解SVG语法、使用复杂原语(文本、动画、颜色渐变)、多步推理和语义理解,与SVGEditBench V2的简单合成编辑形成鲜明对比。第三,改进的GRPO算法使用批级标准差归一化而非组级标准差,提高训练稳定性,利用更多样本的统计信息使优势估计更加准确。第四,课程学习策略使用响应长度作为难度代理,在每个任务内部排序后按频率比例采样,使模型从简到难逐步学习。第五,针对四个SVG生成任务定制的VLM-as-a-Judge评估协议,通过人类相关性研究选择最佳裁判模型(Gemini 3 Pro用于VG-Sketch、VG-Cap和VG-Text,GPT-5.1用于VG-Edit),确保自动评估的可靠性。

Overview of VectorGym. VectorGym is a suite of human-authored datasets covering Sketch2SVG (VG-Sketch), SVG Editing (VG-Edit), Text2SVG (VG-Text), and SVG Captioning (VG-Cap).
Figure 1: Overview of VectorGym. VectorGym is a suite of human-authored datasets covering Sketch2SVG (VG-Sketch), SVG Editing (VG-Edit), Text2SVG (VG-Text), and SVG Captioning (VG-Cap).
Visualization of VectorGym Test Examples (Editing Task).
Figure 2: Visualization of VectorGym Test Examples (Editing Task).
Visualization of VG-Sketch Test Examples.
Figure 6: Visualization of VG-Sketch Test Examples.

实验结果

核心发现包括:Gemini 3 Pro在整体VectorGym评分上领先,达到73.17分,其次是GPT-5.1达到71.36分,确立了Gemini 3 Pro作为多模态SVG生成的领先模型。任务难度层次清晰:Text2SVG最简单,GPT-5.1达到93.00分;SVG Editing中等,Gemini 3 Pro达到81.20分;Sketch2SVG较难,Gemini 3 Pro达到72.20分;SVG Captioning最难,Gemini 3 Pro达到70.40分。本文训练的Qwen3VL 8B Gym模型在开源模型中达到最优性能,整体分数为66.05分,超过GPT-4o的64.93分和更大的Qwen3VL 235B的62.32分,验证了高质量任务特定课程学习可以抵消较小参数量的限制。VG-Sketch任务中,Gym模型的VLM Judge分数为46.00分,显著超过基础Qwen3VL 8B Instruct的33.00分,验证了课程学习对结构视觉对齐的有效性。VG-Edit任务中,Gym模型的MSE为8.36,低于基础8B模型的11.01,表明微调编辑轨迹显著增强了坐标操作精度。VG-Cap任务中,Gym模型在BGE-M3和ROUGE上超过所有专有模型,但VLM Judge分数较低,表明Gym模型捕捉了显著语义细节,但可能缺乏对话流畅性或VLM Judge偏好的格式。

SVG Datasets Comparison.
Table 1: SVG Datasets Comparison.
Sketch2SVG and SVG Editing Performance.
Table 2: Sketch2SVG and SVG Editing Performance.
Text2SVG and SVG Captioning Performance.
Table 3: Text2SVG and SVG Captioning Performance.
VLM as a Judge and Human Correlation Analysis.
Table 4: VLM as a Judge and Human Correlation Analysis.
Comparison of SVG datasets and benchmarks.
Table 5: Comparison of SVG datasets and benchmarks.
Scores for human evaluation and VLMAJ.
Table 6: Scores for human evaluation and VLMAJ.
Qualitative results on VectorGym.
Figure 3: Qualitative results on VectorGym.
VG-Sketch Qualitative Results.
Figure 4: VG-Sketch Qualitative Results.
VG-Edit Qualitative Results.
Figure 5: VG-Edit Qualitative Results.
Visualization of test performance on the Sketch2SVG task.
Figure 7: Visualization of test performance on the Sketch2SVG task.
Qualitative analysis of Text2SVG generation results.
Figure 8: Qualitative analysis of Text2SVG generation results.
Qualitative analysis of SVG editing with natural language instructions.
Figure 9: Qualitative analysis of SVG editing with natural language instructions.
Qualitative analysis of Sketch2SVG generation results.
Figure 10: Qualitative analysis of Sketch2SVG generation results.
Qualitative analysis of Text2SVG generation results.
Figure 11: Qualitative analysis of Text2SVG generation results.
查看结构化数据
任务指标本文基线提升
Sketch2SVG VectorGym Score 70.72 GPT-4o: 69.55 +1.17
Sketch2SVG VLM Judge 46.00 Qwen3VL 8B Instruct: 33.00 +13.00
SVG Editing VectorGym Score 82.81 GPT-4o: 82.35 +0.46
SVG Editing MSE 8.36 Qwen3VL 8B Instruct: 11.01 -2.65
Text2SVG VectorGym Score 63.60 Qwen3VL 235B: 59.68 +3.92
SVG Captioning BGE-M3 79.76 Gemini 3 Pro: 72.27 +7.49
Overall VectorGym Score 66.05 GPT-4o: 64.93 +1.12

局限与改进

作者承认的局限性包括:VG-Edit和VG-Text任务即使在完美示例上相关性也较低,表明这些任务包含更多结构模糊性,难以达成完全共识。VG-Sketch和VG-Text的创意性质导致相关性较低,因为不同评估者对创意作品的主观判断差异较大。训练的Gym模型在某些多步编辑任务上仍然难以跟踪,无法像Gemini 3 Pro、Claude Sonnet 4.5和GPT-5.1那样有效执行复杂语义修改,特别是在需要同时修改多个部分或理解复杂设计意图的场景下。自己的观察包括:数据集规模相对较小,只有6.5k训练样本,与SVG-Stack的230万样本相比很小,可能导致过拟合和泛化能力有限。评估指标如VLM-as-a-Judge的主观性可能导致结果不稳定,不同裁判模型可能给出不同的评分。课程学习使用响应长度作为难度代理可能不完全反映任务真实难度,因为复杂度不仅取决于输出长度。强化学习训练需要大量计算资源,复现成本高,限制了研究社区的复现能力。未评估模型在极端编辑任务如完全重构SVG或跨风格迁移上的性能,这些任务可能更能测试模型的泛化能力。

独立分析的弱点

独立分析的弱点包括:数据集规模有限只有6.5k训练样本,与SVG-Stack的230万样本相比很小,可能导致过拟合。改进方向是扩展数据集规模,增加更多样化的SVG类型和编辑任务,特别是来自不同文化和艺术风格的样本。编辑任务的复杂度评估缺乏客观标准,依赖标注人员的主观判断,可能导致不一致性。改进方向是引入自动复杂度度量,如编辑步骤数、涉及的原语数量、语义变化程度来量化任务难度。课程学习使用响应长度作为难度代理不够准确,可能无法反映任务真实认知难度。改进方向是探索更精确的难度度量,如VLM困惑度、人类评分、任务特定指标来指导课程学习。VLM-as-a-Judge评估的主观性和不稳定性,人类与VLMAJ评分的相关性在不同任务上差异较大。改进方向是集成多个VLMAJ裁判,使用加权平均或投票机制,提高评估稳定性。强化学习训练的计算成本高,限制了研究社区的复现能力。改进方向是探索更高效的训练方法,如离线强化学习、蒸馏技术,降低计算需求。未评估模型在极端编辑任务上的性能。改进方向是扩展评估协议,包含更具挑战性的编辑场景。

未来方向

作者提出的未来研究方向包括继续改进VectorGym基准,增加更多任务和数据类型。基于成果可延伸的方向包括:探索更复杂的SVG编辑任务,如跨SVG元素迁移、风格一致性编辑、多轮对话式编辑,这些任务更接近真实的设计工作流。研究SVG生成模型的可解释性和可控性,允许用户精确控制生成过程,这对于专业设计工具很重要。探索SVG与其他矢量格式如PDF、EPS的互操作性,扩展应用场景。研究SVG生成的实时交互应用,如设计工具辅助、教育场景,提高用户体验。探索多模态SVG生成,结合文本、草图、语音等多种输入,提供更自然的交互方式。研究SVG生成的版权和伦理问题,确保生成内容符合法律和道德标准,这对于商业应用很重要。开发更高效的SVG评估方法,减少对大型VLM的依赖,降低评估成本。探索SVG生成与3D图形的结合,实现2D到3D的转换,扩展到三维设计领域。研究SVG生成模型的压缩和部署,使其能在边缘设备上运行,提高可访问性。探索SVG生成在无障碍访问中的应用,如为视障用户生成描述性SVG。

复现评估

复现评估:VectorGym基准已在HuggingFace公开发布,包含数据集、评估协议和训练代码。开源情况良好,数据集使用MIT、Apache、BSD和CC0等宽松开源许可,允许重新分发和研究使用。数据来源明确,继承自SVG-Stack数据集和TheStack,包含原始文件路径和许可证标识符。训练细节详细:使用Qwen3-VL 8B Instruct模型,学习率为3乘以10的负6次方,KL系数为0.01,采样温度为1.0,批大小为168,每个样本生成8个采样轨迹,训练600次迭代,在8乘以H200 GPU上约2天完成。评估指标明确定义:MSE、LPIPS、DINO、CLIP、VLM-Judge、ROUGE-L F1、BGE-M3余弦相似度、LLM评分。人类评估包含17名技术工程师或AI和设计专家,产生约674个评分用于相关性分析。复现难度中等偏高,主要挑战在于计算资源需求(8乘以H200 GPU 2天)和数据标注的专业性。开源模型和评估协议降低了复现门槛,但完整的复现仍需要大量计算资源和专业知识,对于资源有限的研究团队可能难以实现。