驯服幻觉：通过反事实视频生成提升多模态大语言模型的视频理解能力 Taming Hallucinations: Boosting MLLMs' Video Understanding via Counterfactual Video Generation
提出DualityForge框架和DNA-Train训练方法，通过生成反事实视频对抗MLLM的语言先验依赖，显著降低视觉幻觉
前置知识
多模态大语言模型
MLLM是将视觉编码器与大型语言模型结合的架构，能够同时处理图像/视频和文本输入。模型通常通过视觉编码器提取视觉特征，然后通过投影层将视觉特征映射到语言模型的特征空间，最后由语言模型生成文本响应。训练过程通常包括大规模图像-文本对的对比学习和对齐微调。
本文的核心研究对象，理解MLLM如何融合视觉和语言信息是理解幻觉问题根源的基础
语言先验
指语言模型从大规模文本预训练中获得的统计规律和常识推理倾向。在视觉-语言任务中，语言先验会导致模型在视觉信息不明确或冲突时，过度依赖文本线索而非实际视觉证据进行推理。例如，看到海滩一词会先验性地联想到蓝色大海，即使视频中的海滩实际上是灰暗的。
本文要解决的核心问题，语言先验依赖导致模型产生视觉非接地幻觉，这是本文方法要对抗的根本原因
反事实推理
反事实推理是询问如果某个条件改变，结果会如何变化的思维过程。在本文中，反事实视频是指通过编辑使真实视频违背常识或物理规律的场景，如物体突然消失、反重力运动等。通过要求模型对同一问题在原始视频和反事实视频中给出不同答案，强制模型关注实际视觉变化而非语言先验。
本文的核心方法论，通过反事实视频创造视觉-语言冲突场景，暴露并纠正模型的幻觉行为
强化学习与优势函数
强化学习中，代理通过与环境交互学习策略以最大化累积奖励。优势函数hat{A}_t衡量某个动作相对于平均动作的好坏。在本文中，使用DAPO算法，通过对优势函数进行配对ell_1归一化，确保真实视频和反事实视频对的学习信号平衡，避免训练偏向某一类型。
DNA-Train的核心技术，通过优势归一化解决反事实训练中的学习信号不平衡问题
研究动机
现有的多模态大语言模型在视频理解任务中存在严重的语言先验过度依赖问题。当模型处理违背常识的反事实视频时，往往选择语言上合理但视觉上错误的答案。例如在Figure 1所示的实验中，当视频中出现玉米从收割机水平喷出时，GPT-4o和Qwen-VL等模型错误地回答向上弧形漂浮，因为玉米加收割机的语言先验暗示向上抛入拖车。作者在DualityVidQA-Test上的实验表明，即使是最先进的商业模型如GPT-4.1和Gemini-2.5 Pro，在真实视频上达到92%准确率，但在反事实视频上仅能获得约80%的准确率，这种14%以上的性能下降证明了语言先验依赖的普遍性和严重性。
本文的目标是本文的核心目标是开发一种系统化的方法来缓解MLLM中的视觉非接地幻觉，特别是针对反事实视频场景。具体来说，作者希望：(1) 构建大规模、高质量的反事实视频-问答数据集，包含原始-编辑视频对和对应的对比性问答；(2) 设计有效的训练策略，强迫模型将推理基于实际视觉证据而非语言先验；(3) 在不牺牲真实视频理解性能的前提下，显著提升模型对反事实视频的理解能力。最终目标是实现更强的视觉接地性和泛化能力，使模型能够在违背常识的视觉场景中依然做出正确的判断。
与已有工作不同的是，本文的独特切入角度是将问题从搜索转变为合成。传统的幻觉缓解方法主要集中在修改文本数据或使用对比解码等训练时技巧，但这些方法要么受限于昂贵的人工标注，要么无法真正改变模型的视觉感知能力。本文的创新之处在于利用AIGC技术，特别是可控扩散视频编辑，主动创造反事实场景，而不是被动搜索现有的异常数据。这种范式转变使得大规模、可控的数据合成成为可能。更重要的是，作者设计了双重利用策略：反事实上下文既指导视频编辑，又作为语义蓝图指导问答生成，从而完全自动化了高质量QA对的构建流程，打破了传统方法中的自动化悖论——模型无法可靠地标注它本身不理解的现象。
核心方法
本文的方法框架包含两个核心组件：DualityForge数据合成框架和DNA-Train训练方法。DualityForge首先定义三类反事实上下文（视觉异常、语义异常、常识异常），然后利用可控视频编辑技术将真实视频转换为反事实视频。编辑过程中嵌入的结构化上下文信息随后被用作语义蓝图，指导MLLM自动生成密集字幕和高质量问答对。特别重要的是，作者利用数据的双重性（原始vs编辑视频），构建共享问题对比性问答对——同一个问题在两个视频中应该产生不同的正确答案，这强制模型关注视觉细节变化。DNA-Train则采用两阶段训练：监督微调阶段在混合数据上初始化模型；强化学习阶段引入优势归一化，确保真实-反事实视频对的学习信号平衡。整个框架的直觉是：通过让模型在视觉-语言冲突场景中学习，它将逐渐学会优先信任视觉证据而非语言先验。
本文的核心创新点有三：(1) 主动范式转变：从被动搜索异常数据转变为主动合成反事实场景。利用扩散模型的可控视频编辑能力，精确注入特定类型的异常，如物体消失、物理规律违背等，而非依赖稀缺的自然发生异常。(2) 双重上下文利用：反事实上下文C被两次使用——首先指导视频编辑生成V_edit，其次作为语义蓝图指导MLLM生成接地QA对。这种设计解决了自动化悖论，使得高质量数据标注变得可扩展。(3) 对偶优势归一化：在RL阶段，对每个真实-反事实视频对计算缩放因子，并将其应用于各自的优势值。这保证了两种类型数据对梯度更新的贡献相等，解决了准确率差距导致的学习信号不平衡问题。与传统的GRPO或DAPO相比，这种方法在保持稳定性的同时更有效地利用了对比数据的特性。
方法步骤详情
DualityForge框架的完整流程包括四个步骤：(1) 反事实上下文定义：由MLLM分析原始视频并提议反事实上下文C，属于三类之一——视觉异常（像素级扭曲，如异常对比度、饱和度）、语义异常（场景语义违背，如物体消失、突然出现）、常识异常（物理规律违背，如反重力运动、不合理交互）。(2) 视频编辑：根据C类型选择对应编辑流程。视觉异常使用OpenCV进行像素级操作；语义异常使用Grounding DINO和SAM定位目标对象，然后用VACE进行编辑；常识异常由MLLM生成违背常识的编辑指令，FLUX-Kontext执行图像编辑，VACE插值生成视频。所有编辑结果通过多模型投票验证。(3) QA生成：使用相同的上下文C指导MLLM生成密集字幕和QA对。SFT数据包含54,879个真实视频QA和50,000个反事实视频QA；RL数据包含20,000个共享问题对比性QA对，同一问题在两个视频中有不同正确答案。(4) DNA-Train训练：SFT阶段使用均衡采样（每批包含等量真实和反事实样本），目标函数为交叉熵损失。RL阶段采用DAPO框架，引入对偶优势归一化：首先计算每个组的优势范数，然后计算缩放因子，最后应用归一化优势进行梯度更新。
技术新颖性
本文的技术新颖性体现在多个维度。首先，这是首个利用扩散模型可控视频编辑来系统构建反事实视频数据集的工作，相比基于文本数据修改的方法，能够产生更精确、更多样的视觉异常。其次，DNA-Train的对偶优势归一化是一种创新的RL优化策略，它从理论角度解决了对比学习中常见的数据不平衡问题——对于二进制奖励，优势范数在准确率R=0.5时达到最大，这意味着中等难度的任务提供最强的学习信号，而真实和反事实视频的准确率差距会导致学习信号不平衡。通过归一化，作者确保两种类型的数据都能提供同等强度的学习信号。第三，本文的工作展示了生成增强理解的新范式——通过主动生成异常数据来提升模型对正常和异常场景的理解能力。这在一定程度上挑战了传统的需要更多真实数据的观点，证明了精心设计的合成数据可以比单纯增加真实数据更有效地改善模型性能。
实验结果
实验结果表明，本文方法在幻觉检测和通用视频理解两个方面都取得了显著提升。在DualityVidQA-Test上，DNA-Train-7B达到了76.8%的准确率，相比Qwen2.5-VL-7B基线的52.8%实现了24.0%的相对提升，这验证了方法的有效性。更细致的分析显示，模型在最具挑战性的Counter Physical类别中表现出色，达到79.2%的准确率，远超基线的49.3%。这证明模型能够识别违背物理规律的视觉异常，如反重力运动或不可能的形变。在EventHallusion基准上，DNA-Train-7B达到61.3%的准确率，比基线33.5%提升82.9%，进一步验证了幻觉缓解效果。关键的是，这种专门化并未牺牲通用视频理解能力。在TempCompass上，模型从71.4%提升到73.5%；在MVBench上从62.6%提升到63.8%；在TOMATO上从26.8%提升到32.6%；在TVBench上从51.6%提升到53.0%。这表明DNA-Train不仅增强了反事实推理能力，还改善了整体视频理解性能，证明了方法的泛化能力。消融研究显示，仅使用真实数据会将DualityVidQA-Test性能从52.8%降至29.0%，仅使用反事实数据更是降至13.1%，这证明了配对数据的必要性——真实和反事实数据的协同效应是关键。
查看结构化数据
| 任务 | 指标 | 本文 | 基线 | 提升 |
|---|---|---|---|---|
| DualityVidQA-Test (幻觉检测) | 准确率 | 76.8% | Qwen2.5-VL-7B: 52.8% | +24.0% |
| EventHallusion (幻觉检测) | 准确率 | 61.3% | Qwen2.5-VL-7B: 33.5% | +82.9% |
| TempCompass (时序理解) | 准确率 | 73.5% | Qwen2.5-VL-7B: 71.4% | +2.9% |
| MVBench (多任务视频理解) | 准确率 | 63.8% | Qwen2.5-VL-7B: 62.6% | +1.9% |
| TOMATO (时序推理) | 准确率 | 32.6% | Qwen2.5-VL-7B: 26.8% | +21.6% |
| Counter Physical子任务 | 准确率 | 79.2% | Qwen2.5-VL-7B: 49.3% | +60.7% |
局限与改进
作者承认的局限性包括：(1) 视频编辑质量限制：当前的视频编辑技术（如VACE）在某些复杂场景下可能产生不自然的过渡或伪影，这可能影响训练数据的质量。作者通过多模型投票过滤降低了这一影响，但无法完全消除。(2) 计算成本高昂：构建DualityVidQA数据集约需40,000个GPU小时（NVIDIA H20），这限制了方法的可访问性。RL阶段也要求大量的计算资源，特别是对于大规模模型。(3) 视频时长限制：数据集主要集中在2-6秒的短视频，对长视频（超过30秒）的适用性尚未充分验证。这是因为长视频的时序一致性编辑更加困难。(4) 异常类型覆盖不全：虽然定义了三大类异常，但仍可能存在其他类型的视觉-语言冲突场景未涵盖。我自己观察到的额外局限性：(1) 依赖预设异常类别：框架需要预先定义反事实上下文的类型，这可能限制发现新的、未预料的幻觉模式。(2) 评估集规模有限：DualityVidQA-Test仅包含600个样本，虽然人工精心标注，但统计显著性可能受限。(3) 闭源模型比较不完整：作者仅报告了GPT-4o等闭源模型在测试集上的表现，但无法确保这些模型在相同条件下评估，可能存在方法论上的不一致。
独立分析的弱点
独立分析发现的弱点：(1) 对极端异常的鲁棒性不足：当前方法主要针对可控的反事实场景，但对于完全不可预测的、极端的视觉异常（如严重的视频伪影、完全随机的像素噪声），模型的鲁棒性可能有限。改进方向可以引入更激进的数据增强策略，如随机噪声注入、极端几何扭曲等。(2) 跨领域泛化能力待验证：数据集主要来自Pexels和OpenVid，偏向于网络视频风格。对于专业领域视频（如医疗影像、监控视频、科学实验录像），方法的有效性需要额外验证。改进方向是领域自适应数据合成，针对特定领域设计合适的反事实上下文。(3) 长视频时序建模不足：当前数据集中的视频时长较短，模型可能缺乏处理长程时序依赖的能力。改进方向包括开发分层编辑策略（对视频的不同段落应用不同异常）和引入更复杂的时序一致性约束。(4) 评估指标单一：主要使用准确率评估，但对于幻觉问题，还需要考虑其他维度，如置信度校准、错误类型分析、人类对齐度等。改进方向是开发更全面的幻觉评估框架。
未来方向
作者提出的未来工作方向包括：(1) 扩展到更多模态：将框架应用到音频-视频、深度视频等更多模态组合，探索跨模态幻觉问题。(2) 改进视频编辑技术：随着视频生成技术的发展，探索更高质量、更灵活的视频编辑方法，减少伪影和过渡不自然。(3) 自动化程度提升：进一步减少人工干预，实现完全自动化的反事实数据生成和QA构建流程。基于成果可延伸的方向：(1) 实时幻觉检测：将训练好的模型用于推理时幻觉检测，在模型生成过程中识别可能的幻觉并给出置信度评分。(2) 主动学习框架：利用模型在反事实视频上的表现来识别其弱点，然后针对性地生成新的训练数据，形成迭代改进的闭环。(3) 跨任务泛化：探索将反事实训练应用到其他多模态任务，如图像描述、视觉问答、多模态推理等。(4) 理论分析深化：从理论角度分析为什么反事实训练能够改善视觉接地性，建立更完善的理论框架指导实践。
复现评估
本文承诺将开源数据和代码，这对复现性是积极的。数据集构建流程描述详细，包括视频源、编辑参数、QA生成提示模板等，理论上可以复现。然而，存在一些挑战：(1) 计算资源需求高：数据集构建需要约40,000 GPU小时（H20），这对大多数研究团队来说是巨大的资源门槛。虽然作者会发布数据集，但重新生成或扩展数据集将非常昂贵。(2) 依赖专有模型：QA生成使用了GPT-5和Gemini 2.5 Pro等专有模型，这些模型并非完全开放，可能限制完全复现。(3) 视频编辑模型依赖：使用了VACE、FLUX-Kontext等特定模型，这些模型的版本、参数配置可能影响结果，需要详细说明。(4) RL训练稳定性：强化学习训练通常对超参数敏感，虽然DAPO相对稳定，但仍需仔细调优。总体而言，在获得开源代码和数据后，中等资源的研究团队应该能够复现主要结果，但完整的数据生成过程可能难以重复。建议作者提供更详细的超参数设置、训练曲线和中间结果，以帮助诊断复现问题。
论文图表
该图展示了四个多模态大语言模型（Qwen-VL、GPT-4o、DNA-Train-7B）在反事实视频问答任务上的表现对比。每个示例包含关键帧、多选题、模型的推理过程和答案。图中可以看到，通用模型（Qwen-VL、GPT-4o）倾向于依赖语言先验，选择了虽然语言上合理但视觉上错误的答案，而本文的DNA-Train-7B模型能够将推理基于视频内容，选择了反直觉但正确的答案。
这张图对理解论文至关重要，因为它直观地展示了论文要解决的核心问题——MLLM的语言先验依赖导致的幻觉，以及本文方法如何解决这个问题。通过对比不同模型的推理过程，可以清楚地看到本文方法的优势。
该附录表格定义了三种视频异常类别：Visual（像素级扭曲，主要影响视觉质量而无明确语义改变）、Semantic（场景语义违背，如物体消失、意外出现、物体替换导致的时间不一致）、Commonsense（涉及时空或物理不可能性的抽象和整体违背，如不自然形变、不合理物体运动、不合理交互和人体运动异常）。
这个表格提供了论文核心概念——反事实异常的精确定义，对理解框架的设计和应用场景至关重要。它帮助读者区分不同类型的视觉-语言冲突。
该附录表格展示了视频数据集的类型统计。包括color（27,353）、replacement（9,961）、appearance（6,092）、disappear（5,016）、common sense（86,746），总计135,168个视频。这表明数据集中常识异常占主导地位，这符合作者的意图——创造最具挑战性的反事实场景。
这个表格提供了数据集的规模和分布信息，帮助读者理解训练数据的构成和代表性。常识异常的高比例解释了模型在物理违背场景上的强性能。
该附录表格展示了问题类型的频率统计，包括Multiple Choice（真实视频12,210，反事实视频10,224）和Open-Ended（真实视频42,669，反事实视频39,776）。总计真实视频54,879，反事实视频50,000。这表明开放式问题占主导（约80%），这有助于模型学习更详细的视觉推理。
这个表格展示了训练数据中问题类型的分布，帮助读者理解模型的训练目标和评估维度。开放式问题的高比例强调了详细推理的重要性。
该附录表格详细列出了16种问题类型的统计和描述，包括Attribute Change、Binary、Camera Direction、Causal、Count、Description Human、Description Object、Description Scene、Fine-grain Action Understanding、Non-Existent Actions with Existent Scene Depictions、Object Direction、Plot Understanding、Spatial、Speed、Temporal、Time Order Understanding。每种类型都有真实视频和反事实视频的计数以及简短描述。
这个表格提供了问题类型的全面分类，展示了框架覆盖的推理维度广度。它证明了数据集不仅测试简单的识别，还涵盖复杂的时空推理和因果理解。
该附录表格展示了DualityVidQA-Test中反事实视频类别的统计：causal reversal（158）、counter physical（221）、object/scene deformation（187）、attribute change（33），总计599。这表明测试集覆盖了四种主要的反常识场景，其中counter physical最多，这与训练数据中common sense占主导相呼应。
这个表格提供了测试集的详细类别分布，帮助读者理解评估的全面性和重点。counter physical的高数量解释了为什么模型在该类别上表现突出。