DeepVision-103K：面向多模态推理的视觉多样、覆盖广泛且可验证的数学数据集

提出10.3万规模的多模态数学数据集，通过三阶段自动清洗管道构建，显著提升视觉推理能力

前置知识

RLVR（Reinforcement Learning with Verifiable Rewards）

一种强化学习范式，使用可验证的奖励信号来训练语言模型。与传统RLHF依赖人类偏好不同，RLVR基于答案正确性给予奖励（如数学题答对+1，答错0），这使得奖励信号更加可靠和客观。DeepSeek-R1和OpenAI o系列模型都采用了这种训练方式，证明其能有效激发模型的推理能力。

本文的核心主题就是为RLVR提供高质量训练数据，理解RLVR的工作原理是理解本文动机和方法的基础

Pass Rate（通过率）

指模型在多次独立推理尝试中得出正确答案的比例。本文对每个问题进行8次rollout（推理尝试），计算通过率。通过率接近0的问题可能太难或无法验证，通过率接近1的问题太简单不适合RL训练，因此保留通过率在1/8到7/8之间的样本。

通过率是本文数据难度校准的核心指标，直接决定了哪些数据被保留用于训练

Visual Logic（视觉逻辑）

指主要依赖视觉感知和空间推理而非数学公式的问题类型，如迷宫、国际象棋、七巧板、俄罗斯方块等。这类问题的解决主要靠观察物体位置、空间关系和模式识别，而不是应用数学定理。

本文创新性地将视觉逻辑数据与数学数据混合训练，发现两者能相互促进提升推理能力

Query Correctness Verification（查询正确性验证）

数据清洗流程的最后一步，使用强大的外部模型（Gemini-3-Flash）检查每个样本的问题是否完整、文本是否损坏、图文是否匹配、答案是否正确。只有通过所有检查的样本才会被保留。

消融实验表明，去掉这一步骤会导致模型性能明显下降，说明正确的奖励信号对RLVR至关重要

研究动机

现有用于多模态RLVR训练的数据集存在三个核心问题。第一，合成构建的数据集（如使用GeoGebra等专业工具生成）虽然能提供大量可构造类别的数据（如几何图形、函数曲线），但缺乏真实世界的数学场景，限制了模型在通用任务上的泛化能力。第二，人工标注的K12数据集虽然来自真实教育场景且有可验证答案，但依赖专家标注严重限制了数据规模和可扩展性。第三，对现有数据集的过滤或重组方法并没有创造新问题，导致数据集之间存在重叠，且分布范围不够广泛。这些局限性共同制约了多模态模型在视觉反射和推理能力上的进一步提升。

本文的目标是本文的目标是构建一个大规模、视觉多样、覆盖广泛且可验证的多模态数学数据集DeepVision-103K，专门用于RLVR训练。具体而言，该数据集应涵盖多种视觉类别（几何图形、解析图、图表、真实世界物品）、包含丰富的视觉元素类型（超过现有开源数据集）、覆盖广泛的数学知识点（200+细粒度主题、近400个知识点），同时每个样本都应有唯一可验证的答案以支持可靠的奖励计算。

与已有工作不同的是，本文的独特切入角度在于同时追求视觉多样性和数据可验证性。与以往工作不同，作者认识到高质量RLVR训练数据不仅需要答案正确，还需要视觉内容丰富多样。为此，他们设计了一个自动化的三阶段数据整理管道：有效性过滤、基于模型能力的难度校准、查询正确性验证。这个管道能将多样但嘈杂的真实世界K12问题转化为结构化、可验证的QA对。此外，本文创新性地引入视觉逻辑数据（迷宫、象棋、七巧板等），与数学数据混合训练，发现两类数据能相互促进，这是以往工作中被忽视的重要维度。

核心方法

DeepVision-103K的构建方法可以比喻为“从沙中淘金”：从330万原始K12数学题中，通过三层筛子逐步筛选出高质量的训练数据。第一层筛子过滤掉不适合RL训练的题目（如证明题、描述题）；第二层筛子根据模型能力校准难度，去除太简单或太难的题目；第三层筛子验证问题和答案的正确性，剔除损坏或错误的样本。最终从330万原始数据中得到7.7万数学QA对和2.6万视觉逻辑数据，总计10.3万高质量训练样本。技术路线上，本文采用GSPO算法进行RL训练，使用基于规则的奖励（答案正确+1，否则0），并在提示中指定响应格式，不额外添加格式奖励。

本文的核心创新在于两个方面。第一，提出了一个模型自适应的难度校准方法：使用待训练的模型（MiMo-VL-7B-SFT）对每个样本进行8次rollout，计算通过率，并只保留通过率在[1/8, 7/8]区间内的样本。这与以往使用人类定义标准或固定模型评估难度的方法不同，能更好地匹配模型的实际能力。第二，创新性地将视觉逻辑数据（迷宫、象棋、七巧板等）与多模态数学数据混合训练。消融实验显示，单独的数学数据或视觉逻辑数据都能提升模型性能，但两者混合训练效果最佳。这是因为视觉逻辑训练直接强化了空间推理和模式识别等基础能力，这些能力在数学推理中同样重要，但单纯数学训练不足以充分培养。

方法步骤详情

数据集构建分为三个阶段。Stage 1（有效性过滤）：从MM-MathInstruct-3M和MultiMath-300K的330万初始样本开始，首先用规则过滤移除包含“prove”、“explain”、“describe”等关键词的证明或解释任务，然后使用Qwen3-VL-32B-Instruct分析每个样本，判断答案是否唯一、是否真正需要视觉信息，只保留满足条件的问题，得到88万样本。Stage 2（难度过滤）：使用MiMo-VL-7B-SFT对每个问题进行8次rollout，用MathVerify计算通过率，保留通过率在[1/8, 7/8]的样本。通过率为0的样本被认为太难或无法验证而丢弃，通过率为1的样本太简单会减少RL探索而移除。对于视觉逻辑数据，应用相同的rollout和过滤流程，得到2.6万干净样本。Stage 3（查询正确性验证）：使用Gemini-3-Flash检查每个样本的问题完整性、文本损坏、图文匹配和答案正确性，只保留通过所有检查的样本，最终得到7.7万正确可验证的数学QA对。

技术新颖性

本文的技术新颖性体现在三个方面。第一，难度校准的创新：与DeepMath使用SOTA模型按人类定义标准标注难度不同，本文直接使用待训练模型的实际通过率来校准难度，这更好地反映了模型的真实能力水平。第二，数据组成的创新：首次将视觉逻辑数据（迷宫、象棋、七巧板等）与多模态数学数据混合用于RLVR训练，发现两类数据存在正向迁移，这在以往工作中未被探索。第三，数据质量验证的创新：在通过率过滤后，额外使用Gemini-3-Flash进行查询正确性验证，消融实验表明这一步骤对最终性能有显著影响（数学平均67.93% vs 70.10%），证明了正确奖励信号对RLVR的重要性。

实验结果

实验结果表明，DeepVision-103K训练的模型在多个基准上取得了强劲表现。在多模态数学推理方面，Qwen3-VL-8B-DeepVision在WeMath上达到85.11%的Pass@1准确率，超越了官方Thinking变体（84.54%）和闭源模型GPT-5-Nano-High（78.62%）；MiMo-VL-7B-DeepVision在LogicVista上达到65.62%，同样超越官方RL变体（64.28%）和闭源基线。相比各自的Instruct/SFT基线，DeepVision模型在所有评估基准上都实现了2.91%到8.56%的一致提升。在泛化能力方面，DeepVision模型在通用多模态任务（MMMUval、MMMUPro、M3CoT）上也表现出一致的改进，而其他开源数据集训练的模型在通用领域改进有限，这说明DeepVision的多样视觉元素和广泛领域覆盖对增强通用多模态推理能力至关重要。消融实验进一步揭示，数学数据和视觉逻辑数据单独使用都能提升性能，但混合训练效果最佳（70.10% vs 69.02%数学平均），视觉逻辑数据直接强化了空间推理和模式识别等跨任务基础能力。

查看结构化数据

任务	指标	本文	基线	提升
WeMath（多模态数学推理）	Pass@1 Accuracy (%)	85.11 (Qwen3-VL-8B) / 82.98 (MiMo-VL-7B)	84.54 (Thinking) / 76.95 (RL-2508)	+0.57% / +6.03%
LogicVista（逻辑推理）	Pass@1 Accuracy (%)	64.73 (Qwen3-VL-8B) / 65.62 (MiMo-VL-7B)	64.73 (Thinking) / 64.28 (RL-2508)	+0% / +1.34%
MathVision（数学视觉）	Pass@1 Accuracy (%)	55.49 (Qwen3-VL-8B) / 55.24 (MiMo-VL-7B)	57.89 (Thinking) / 53.91 (RL-2508)	-2.4% / +1.33%
MMMUval（通用多模态）	Pass@1 Accuracy (%)	71.33 (Qwen3-VL-8B) / 71.00 (MiMo-VL-7B)	69.33 (Thinking) / 67.44 (RL-2508)	+2.0% / +3.56%
MMMUPro（通用多模态）	Pass@1 Accuracy (%)	70.29 (Qwen3-VL-8B) / 69.19 (MiMo-VL-7B)	70.29 (Thinking) / 63.87 (RL-2508)	+0% / +5.32%

局限与改进

本文承认了几个局限性。第一，虽然DeepVision-103K大幅提升了视觉多样性，但数据分布仍然不均衡，平面几何占据主导地位，一些稀有视觉元素类型仍然代表性不足。第二，数据整理管道依赖强大的外部模型（Gemini-3-Flash）进行查询正确性验证，这可能引入潜在偏差和额外成本，且可能过滤掉一小部分有效但困难的样本。第三，数据集聚焦于K12级别、具有唯一最终答案的问题以支持可验证奖励，因此没有完全覆盖开放式数学任务（如证明写作、多解问题），这些任务需要更丰富的评估信号。从我的观察来看，通过率过滤的阈值选择（1/8到7/8）可能过于粗糙，不同难度级别的问题可能需要更精细的分层策略。

独立分析的弱点

基于独立分析，本文存在以下弱点和改进方向。第一，视觉元素分布不均衡是一个显著问题，平面几何主导了数据集，而立体几何、解析图等相对较少。改进方向是通过数据增强或主动学习策略来平衡不同视觉类别的样本数量，特别是增加稀有元素类型的样本。第二，难度校准使用固定的通过率阈值可能不够精细，改进方向是设计自适应的难度分层策略，根据模型在训练过程中的能力变化动态调整难度分布。第三，外部模型（Gemini-3-Flash）用于验证可能引入偏差，改进方向是设计更鲁棒的验证机制，如多模型投票或基于规则的自动验证。第四，数据集只包含单一正确答案的问题，限制了其在开放性数学推理任务上的应用，改进方向是扩展数据格式以支持多步推理、证明生成等复杂任务。

未来方向

基于本文成果，未来研究可以从以下几个方向延伸。第一，扩展数据集的视觉多样性：增加更多稀有视觉元素类型、引入三维场景和动态视觉内容，以覆盖更广泛的多模态推理场景。第二，探索更精细的难度校准方法：研究基于课程学习的动态难度调整策略，使训练过程更高效。第三，将数据整理管道应用于其他领域：验证该三阶段管道在科学推理、代码生成等其他需要可验证奖励的任务上的有效性。第四，研究数学数据与视觉逻辑数据的协同机制：深入分析两类数据如何相互促进，设计更优的数据混合策略。第五，扩展到更复杂的数学任务：将方法推广到证明写作、多解问题等需要更丰富评估信号的开放性任务。

复现评估

本文在复现方面具有较好的条件。数据集和代码已在GitHub和Hugging Face上开源（https://github.com/SKYLENAGE-AI/DeepVision-103K, https://hf.co/datasets/skylenage/DeepVision-103K），提供了完整的数据访问。训练使用的是开源模型（MiMo-VL-7B-SFT、Qwen3-VL-8B-Instruct）和开源算法（GSPO），降低了复现门槛。数据整理依赖的外部模型（Gemini-3-Flash）是商业API，但可以用其他开源模型替代。主要的复现挑战在于计算资源：需要对每个样本进行8次rollout进行难度校准，以及大规模的RL训练。总体而言，对于有足够计算资源的研究团队，复现本文工作是可行的。

DeepVision-103K：面向多模态推理的视觉多样、覆盖广泛且可验证的数学数据集 DeepVision-103K: A Visually Diverse, Broad-Coverage, and Verifiable Mathematical Dataset for Multimodal Reasoning