← 返回 2026-04-21

当背景才是关键:通过可迁移攻击击破医学视觉语言模型 When Background Matters: Breaking Medical Vision Language Models by Transferable Attack

Akash Ghosh, Subhadip Baidya, Sriparna Saha, Xiuying Chen 📅 2026-04-19 👍 3 2026-07-13 08:36
MedSAM 临床 AI 安全 医学 VLM 可迁移黑盒攻击 多模态安全 对抗攻击 注意力劫持

提出 MedFocusLeak:把对抗扰动只注入医学图像的“非病灶背景区”,并通过注意力转移让 6 个医学 VLM 输出临床合理但致命的错误诊断。

前置知识

Vision-Language Model (VLM / 医学 VLM)

视觉语言模型将图像编码器(如 ViT/CLIP)与大语言模型对齐,通过自回归方式根据图像 $I$ 和文本提示 $x$ 生成自然语言报告,公式化为 $\pi(y\mid I,x)=\prod_{t}\pi(y_t\mid I,x,y_{<t})$。医学 VLM(如 LLaVA-Med、MedVLM-R1、BioMedLLaMA)在此基础上针对 X 光、CT、MRI 等放射学影像微调,可输出结构化诊断报告与印象段落,是临床决策辅助的重要工具。

本文的攻击目标正是医学 VLM 的诊断生成过程,要理解攻击为何能把“左肺结节”翻转成“右肺肿块”,必须知道模型如何在图文 token 之间融合信息并产生最终诊断文字。

可迁移对抗攻击 (Transferable Adversarial Attack)

攻击者在白盒代理模型 $f_\phi$ 上生成扰动样本 $x_{adv}=x+\delta$,利用不同模型共享的特征空间,使该扰动在攻击者无法访问的黑盒目标模型 $f$ 上依然有效,形式化为 $x_{adv}=\arg\max_{x'\in B(x)}\mathcal{L}(f_\phi(x'),y_{target})$。代表性方法包括 FGSM、PGD、CW、AttackVLM、FOA-Attack 等。

本文的核心问题是“自然图像上好用的可迁移攻击在灰阶/窄调医学图像上太显眼”,理解代理到目标的迁移机制是评估 MedFocusLeak 是否真正实现 SOTA 的前提。

MedSAM (Medical Segment Anything)

Ma 等人 2024 年提出的医学图像基础分割模型,源自 SAM 但在多模态医学影像上微调,可对病灶、器官、解剖结构等“临床感兴趣区域”产生像素级 mask $M_k$,被广泛用作医学图像的预处理与 ROI 隔离工具。

MedFocusLeak 使用 MedSAM 把图像划分为“前景(诊断相关)”和“背景(诊断无关)”,并仅在背景区域注入扰动,这是论文能够实现“扰动不可见但攻击有效”的关键开关。

Cross-Modal Attention(跨模态注意力)

VLM 在最后的多模态融合模块中通过 attention 让文本 token 与图像 patch token 互相查询;视觉 token 对文本 token 的注意力权重可以反映模型“看了哪里”。形式化上,对最后融合层的注意力图 $h(I,x)$,定义前景注意质量 $A_{fg}=\|h\odot(1-M_k)\|_1$、背景注意质量 $A_{bg}=\|h\odot M_k\\|_1$。

本文的 attention-distraction loss $\mathcal{L}_{attn}=\log A_{fg}-\log A_{bg}$ 通过最小化该损失把模型视觉焦点“强行拽到”背景区域,没有这个机制,仅在背景打补丁的攻击强度会大幅下降(Qwen 上 MAS 从 0.48 降到 0.62 不加 vs 加)。

LLM-as-a-Judge / 临床评测协议 (MTR, AvgSim, MAS)

作者用 GPT-4.0 作为评判,根据“主模态一致性、临床细节扰动、无关信息引入、语义惰性”四项标准给对抗文本打分得到 MTR;用 Med-CLIP 计算 $AvgSim=\frac{1}{N}\sum_i\cos(f(x_i),f(x'_i))$ 衡量图像保真度;再用 $\alpha=\beta=0.5$ 的加权几何平均得到统一指标 $MAS=\exp\left(\tfrac{\alpha}{\alpha+\beta}\log(MTR+\epsilon)+\tfrac{\beta}{\alpha+\beta}\log(AvgSim+\epsilon)\right)$。

医学攻击的特殊性在于“把 X 光报告改成 MRI”应该算彻底失败,所以需要这套专门防止模态漂移并兼顾隐蔽性的评测协议,否则传统 NLP 相似度会被攻击者刷高。

研究动机

视觉语言模型在临床诊断、报告生成、影像问答等高风险场景中扮演越来越重要的角色,但其对抗鲁棒性几乎没有被系统研究。现有的医疗 AI 安全研究主要聚焦模型窃取(例如 ADA-STEAL 在自然图像上复制模型行为但输出多样性低)、提示注入与越狱(Liu et al., 2023; Qi et al., 2024,依赖白盒或受控环境,关注有害内容生成而非诊断推理)以及数据投毒(Tolpegin et al., 2020,无法在推理时迁移)。从自然图像迁移过来的可迁移攻击(如 FOA-Attack)在灰阶 X 光、窄调 MRI、皮肤镜等医学影像上引入的扰动会显得非常显眼——例如 FOA-Attack 在 Gemini 2.5 Pro 上的 AvgSim 仅 0.59,意味着人眼能直接察觉图像被改过,临床医生一眼就能识破,这严重限制了攻击的现实威胁面。

本文的目标是本文目标是在真实黑盒威胁设定下(即攻击者只能通过 API 查询目标 VLM,不知道其参数、梯度或训练数据),构造一个既能跨模型可迁移,又能保持视觉隐蔽、且诱导出“临床合理但实质错误”的诊断输出的对抗攻击。具体来说,作者希望首次系统地研究医学 VLM 在可迁移对抗扰动下的脆弱性,并提出 MedFocusLeak 作为概念验证:在 6 个涵盖开源、闭源、医学专用与推理增强型 VLM(InternVL-8B、QwenVL-7B、BioMedLlama-Vision、MedVLM-R1、Gemini 2.5 Pro Thinking、GPT-5)以及 6 种成像模态(X 光、CT、MRI、皮肤镜、乳腺造影、超声)上达到新的 SOTA。

与已有工作不同的是,现有方法的工作机理是“修改模型输出”,本文的独特切入角度是“腐蚀模型内部视觉焦点”:作者观察到 attention 是一种跨架构共享的语义属性,攻击真正可迁移的关键不在输出端而在“模型在看哪里”。他们把对抗扰动从“整张图像均匀打散”改为“只放在被 MedSAM 标出的非诊断背景区域内”,并显式设计一个 attention-distraction 损失把模型的视觉注意力强行从病灶前景拽到带扰动的背景上,从而既保证了扰动肉眼不可见(图像前景不动、只动背景),又保证了输出诊断的“临床合理性”——因为模型并没有给出荒唐答案,而是基于(被污染的)视觉证据得出了一个看似专业但错误的专业诊断。

核心方法

MedFocusLeak 的整体思路可以用一句话概括:“把对抗信号埋在医学图像的非诊断背景中,再用注意力转移把模型的视觉焦点强行拽过去”。技术上分四步走:(1) 用 MedSAM 把医学图像分割成前景(病灶区域,保留不动)和背景(攻击区),再用动态规划从背景里挑出 top-k 个最大的方形 patch 作为扰动容器,这样扰动只可能出现在不破坏诊断信息的区域里;(2) 调用 GPT-4.0 生成一份“临床合理但错误”的对抗文本 $x_{adv}$,例如把“左侧轻度狭窄”改成“右侧重度狭窄”,用作攻击目标;(3) 在 4 个 CLIP 变体组成的代理集成上交替进行图像和文本扰动的投影梯度下降,把扰动 $\delta$ 同时限制在 $\ell_\infty\leq 16/255$ 预算和背景 mask $M_k$ 内,最大化对抗表征与目标表征的余弦相似度;(4) 在最终多模态融合层引入 attention-distraction 损失 $\mathcal{L}_{attn}=\log A_{fg}-\log A_{bg}$,迫使模型把视觉注意力分配到带扰动的背景上,从而让最终诊断报告偏向对抗文本所暗示的错误结论。整个攻击在白盒代理上完成、生成一份对抗样本,再迁移到 6 个完全黑盒的医学 VLM 上。

与已有可迁移攻击的本质区别在于三点:(a) **扰动空间约束**:传统方法把扰动撒在整张图像上,在灰阶医学图像上极易被发现;本文利用 MedSAM 把扰动严格限制在非诊断背景 patch 内,并通过 top-k + 动态规划挑选嵌入位置,AvgSim 在所有方法中最高且恒定在 0.85。(b) **多模态协同扰动**:不像 VLAttack、AttackVLM 等只做图像扰动,本文同时优化图像块级特征 $F^\alpha_{i,j}$ 和融合层 token 特征 $F^\beta_{k,t}$ 的余弦相似度,并以贪婪 token 替换进行文本侧优化,消融证明图文联合后 MAS 从图像单独的 0.371 / 文本单独的 0.502 提升到 0.629。(c) **注意力作为攻击目标**:不同于 Chen et al. (2020) 只在单模态层面操纵注意力幅度,本文显式最小化 $\mathcal{L}_{attn}=\log A_{fg}-\log A_{bg}$,把跨模态注意力从前景“再分配”到背景,Qwen 上 MAS 从无该损失的 0.48 提升到 0.62,验证了“腐蚀注意力机制”比单纯扰动图像更能实现可迁移误导。

方法步骤详情

具体步骤可以拆成 4 个阶段,每个阶段都有明确的输入输出和具体操作。第一阶段是**对抗文本生成**:给定医学图像 $I$ 和诊断提示 $x$,作者用 GPT-4.0 + 精心设计的 prompt 模板(Appendix A.9)让大模型做出 $k$ 处“最小且医学显著”的单词级替换(如 left→right、mild→moderate),得到对抗文本 $x_{adv}=g_\phi(I,x)$,这条文本决定了模型最终的错误诊断方向。第二阶段是**背景约束的 patch 选择**:调用 MedSAM 对图像 $I$ 产生前景 mask,取反得到背景 mask $M_k$,再用动态规划从背景中挑出 $k=10$ 个最大互不重叠的方形 patch,作为扰动的承载位置。第三阶段是**多模态对抗扰动**:构建“空白白底图 + 叠加 $x_{adv}$ 文字”的种子 $I_{seed}$ 作为目标表征,然后进行跨模态交替优化——固定文本更新图像时按 $\delta^{(n+1)}_I=\text{Clip}_{\epsilon}\left(\delta^{(n)}_I-\alpha\cdot\text{sign}(\nabla_{\delta}\mathcal{L}_{img})\right)$ 投影梯度下降,图像损失 $\mathcal{L}_{img}=-\sum_{i,j}\cos(F^\alpha_{i,j}(I),F^\alpha_{i,j}(I'))$ 在 4 个 CLIP 代理集成上对齐;固定图像更新文本时用贪婪 token 替换最大化 $\mathcal{L}_{text}=-\sum_{k,t}\cos(F^\beta_{k,t}(I,x),F^\beta_{k,t}(I',x'))+\lambda_\ell \mathcal{L}_{LLM}(I',x';y^\star)$,迭代 300 次直到双侧收敛。第四阶段是**注意力转移损失**:从最后多模态融合层提取视觉-文本平均注意力图 $h(I_{adv}(\delta),x_{seed})$,分别对前景和背景求 $\ell_1$ 范数得到 $A_{fg}$ 与 $A_{bg}$,定义 $\mathcal{L}_{attn}=\log A_{fg}-\log A_{bg}$ 并通过 $\mathcal{L}_{final}=\mathcal{L}_{loc}+\lambda_{attn}\mathcal{L}_{attn}$ 联合优化,让模型把注意力从诊断前景“拽”到带扰动的背景。最终输出满足 $I_{adv}(\delta)=\text{clip}(I+M_k\odot\delta)$,即扰动只在背景 mask 内生效,前景像素保持完全不变。

技术新颖性

从技术新颖性来看,本文提出了三个相互耦合的新机制。**第一**是把 MedSAM 这类医学专用基础模型引入对抗攻击的预处理流水线,把“扰动不可见性”从像素级约束升级为“语义级 + 空间级”双重约束(前景区不动、只动背景),这在以往通用图像攻击中是缺失的。**第二**是引入 CLIP patch 集成作为多模态代理(4 个变体:CLIP-ViT-Large-patch14-336、CLIP-ViT-base-patch16、CLIP-ViT-base-patch32、CLIP-ViT-G-14-laion2B),消融显示移除 CLIP-ViT-G-laion 后 Qwen/Gemini/MedVLM-R1 上的 MAS 立刻从 0.66/0.51/0.55 跌落到 0.51/0.18/0.02,说明大规模预训练的 CLIP 变体承担了主要的迁移性贡献。**第三**是 attention-distraction loss 把“对抗目标”从传统的“让输出变”升级为“让注意力分布变”,这一思路在医学 VLM 上是首次提出,它利用了“attention 是跨架构共享语义属性”这一关键观察,使得攻击在闭源/推理增强模型(GPT-5、Gemini 2.5 Pro Thinking)上仍能拿到 0.40 的 MAS,远超 SOTA 基线 FOA-Attack 的 0.04。

Framework of MedFocusLeak: The attack first generates a targeted adversarial text that defines the malicious diagnostic objective and guides joint image–text optimization to synthesize a multimodal adversarial signal. The resulting perturbation is confined to non-diagnostic background regions to remain imperceptible while preserving clinical content. An attention-shift loss then explicitly redirects the model's visual focus toward these perturbed regions, causing the model to rely on malicious cues and produce an incorrect diagnosis.
Figure 1: Framework of MedFocusLeak: The attack first generates a targeted adversarial text that defines the malicious diagnostic objective and guides joint image–text optimization to synthesize a multimodal adversarial signal. The resulting perturbation is confined to non-diagnostic background regions to remain imperceptible while preserving clinical content. An attention-shift loss then explicitly redirects the model's visual focus toward these perturbed regions, causing the model to rely on malicious cues and produce an incorrect diagnosis.
Comparison of medical images across modalities after attacked by various baselines and our proposed MedFocusLeak
Figure 6: Comparison of medical images across modalities after attacked by various baselines and our proposed MedFocusLeak
The complete lifecycle of a medical image in our proposed MedFocusLeak
Figure 7: The complete lifecycle of a medical image in our proposed MedFocusLeak

实验结果

在跨 6 个模型 × 6 个模态的统一评测下,MedFocusLeak 全面超越了 5 个基线(AttackBard、AnyAttack、AttackVLM、MAttack、FOA-Attack)。**主表 Table 1** 显示:在 GPT-5 上 MAS 达到 0.408,几乎是最强基线 0.225 的两倍;在 InternVL-8B 上 MAS=0.672,远超下一名 AttackVLM 的 0.520;在 QwenVL-7B 上 MAS=0.629,超过 MAttack 的 0.518;在 BioMedLlama-Vision 上 MAS=0.569,也领先 AttackVLM 的 0.510;在 Gemini 2.5 Pro Thinking 和 MedVLM-R1 上 MAS 分别提升到 0.408 和 0.340,而这两个模型原本就是“最难打”的推理增强型。值得注意的是所有 MAS 提升都伴随着 AvgSim 稳定在 0.85 的最高水平,这意味着攻击既更强又更隐蔽。**消融 Table 2** 系统拆解了三个贡献:图像单独 MAS=0.371、文本单独 MAS=0.502、联合后 MAS=0.629,说明图文协同贡献最大;去掉注意力转移后 Qwen 上 MAS 从 0.629 跌到 0.484,证明注意力目标并非可忽略;扰动预算从 $\epsilon=4$ 到 $\epsilon=8$ 到 $\epsilon=16$ 的扩大让 MAS 从 0.39/0.50/0.63 单调上升,且 MedFocusLeak 在更大预算下优势更明显(基线增长更平缓)。**图 2(a)** 显示 patch 数量 $k=10$ 是所有模型 MAS 的拐点,超过这个数量 AvgSim 会下降。**跨任务泛化(图 2c)**:在 100 张胸片分类任务上,MedFocusLeak 在 BioMedLLaMA-Vision 上达到 >0.9 的攻击成功率,远超 MAttack 和 FOAAttack。**抗防御(图 3)**:在 Gaussian 噪声和 ComDefend 防御下,MedFocusLeak 在 Qwen-VL 上 MTR≈0.51 vs 基线 ≈0.42,在 BioMedLLaMA 上 MTR≈0.32 vs 基线 ≈0.21,闭源模型上基线几乎失效但本文仍稳定有效。**图 2(d)** 显示虽然 MedFocusLeak 计算成本高于基线,但 attention-shift 组件带来的 MAS 提升是“有效开销”而非冗余。**子模型消融 Table 9** 揭示 CLIP-ViT-G-laion 是性能基石,去掉它 Gemini 上 MAS 直接从 0.51 崩塌到 0.18。**人工评估**(30 例/模态 × 3 位医学实习生监督):ATI(对抗文本影响)=3.94 vs 基线 3.3/3.0,IQP(图像质量保持)=3.5 vs 3.1/1.5,OHAS(综合)=3.75 vs 3.2/2.8,Cohen κ=0.82 表明评分者一致。**图 4 案例**触目惊心:一张脑 MRI 中被怀疑的肿瘤被改写为“完全正常的 T1 加权脑部扫描,未见异常肿块或信号改变”,一张皮肤镜中可能的 melanocytic 病变被升级为“恶性黑色素瘤”——扰动前后图像几乎一致但报告截然相反。

Performance of different attacks: MTR, AvgSim, and MAS across different models. Numbers highlighted in blue indicate that the improvement over the best baseline is statistically significant (two-tailed paired t-test with p < 0.05).
Table 1: Performance of different attacks: MTR, AvgSim, and MAS across different models. Numbers highlighted in blue indicate that the improvement over the best baseline is statistically significant (two-tailed paired t-test with p < 0.05).
Performance (MTR, AvgSim, MAS) across QwenVL, Gemini 2.5 Pro, and MedVLM-R1 for different ablation settings. Numbers highlighted in blue indicate that the improvement over the best baseline is statistically significant (two-tailed paired t-test with p < 0.05).
Table 2: Performance (MTR, AvgSim, MAS) across QwenVL, Gemini 2.5 Pro, and MedVLM-R1 for different ablation settings. Numbers highlighted in blue indicate that the improvement over the best baseline is statistically significant (two-tailed paired t-test with p < 0.05).
Performance of different attacks on XCR (X-ray Chest Radiography): MTR, AvgSim, and MAS.
Table 3: Performance of different attacks on XCR (X-ray Chest Radiography): MTR, AvgSim, and MAS.
Performance of different attacks for Dermoscophy: MTR, AvgSim, and MAS.
Table 4: Performance of different attacks for Dermoscophy: MTR, AvgSim, and MAS.
Performance of different attacks on Mammography: MTR, AvgSim, and MAS.
Table 5: Performance of different attacks on Mammography: MTR, AvgSim, and MAS.
Performance of different attacks on MRI: MTR, AvgSim, and MAS.
Table 6: Performance of different attacks on MRI: MTR, AvgSim, and MAS.
Performance of different attacks on Ultrasound: MTR, AvgSim, and MAS.
Table 7: Performance of different attacks on Ultrasound: MTR, AvgSim, and MAS.
Performance of different attacks on CT Scan: MTR, AvgSim, and MAS.
Table 8: Performance of different attacks on CT Scan: MTR, AvgSim, and MAS.
Ablation on impact of various submodels in MedFocusLeak.
Table 9: Ablation on impact of various submodels in MedFocusLeak.
(a) Attack performance with respect to the number of patches; (b) Attack performance with respect to the number of attack steps measured by MAS. (c) Attack success rate (ASR) across model architectures for the classification task, comparing M-Attack, FOA-Attack, and MedFocusLeak. (d) Attack efficiency measured by MAS as a function of attack time for different attack variants.
Figure 2: (a) Attack performance with respect to the number of patches; (b) Attack performance with respect to the number of attack steps measured by MAS. (c) Attack success rate (ASR) across model architectures for the classification task, comparing M-Attack, FOA-Attack, and MedFocusLeak. (d) Attack efficiency measured by MAS as a function of attack time for different attack variants.
Performance of our attack (Ours) vs. the baseline (M-Attack) under various defense techniques.
Figure 3: Performance of our attack (Ours) vs. the baseline (M-Attack) under various defense techniques.
Qualitative analysis of diagnostic misdirection induced by adversarial text perturbations. In each example, the top panel shows the original prediction, while the bottom panel shows the adversarial prediction. Correct medical tokens are highlighted in green, and incorrect tokens are highlighted in red.
Figure 4: Qualitative analysis of diagnostic misdirection induced by adversarial text perturbations. In each example, the top panel shows the original prediction, while the bottom panel shows the adversarial prediction. Correct medical tokens are highlighted in green, and incorrect tokens are highlighted in red.
Performance of MedFocusLeak with varying Alpha
Figure 5: Performance of MedFocusLeak with varying Alpha
Qualitative Analysis of diagnostic misdirection via adversarial text perturbations in InternVL model. In the mammogram case, the attack preserves the medical modality while altering key clinical descriptors. The correct medical tokens are marked in green and the wrong ones are shown in red.
Figure 8: Qualitative Analysis of diagnostic misdirection via adversarial text perturbations in InternVL model. In the mammogram case, the attack preserves the medical modality while altering key clinical descriptors. The correct medical tokens are marked in green and the wrong ones are shown in red.
查看结构化数据
任务指标本文基线提升
跨模型可迁移对抗攻击(聚合 6 种成像模态) MAS(Medical Attack Score,越高越好) InternVL-8B: 0.672;QwenVL-7B: 0.629;BioMedLlama-Vision: 0.569;Gemini 2.5 Pro Thinking: 0.408;MedVLM-R1: 0.340;GPT-5: 0.408 次优基线(AttackVLM/MAttack)在对应模型上分别为 0.520 / 0.518 / 0.510 / 0.274 / 0.277 / 0.225 InternVL 提升 0.152(+29.2%),QwenVL 提升 0.111(+21.4%),BioMedLlama 提升 0.059(+11.6%),Gemini 提升 0.134(+48.9%),MedVLM-R1 提升 0.063(+22.7%),GPT-5 提升 0.183(+81.3%)
MRI 模态上的跨模型攻击(Table 6) MAS InternVL: 0.720;QwenVL: 0.703;BioMedLLaMA-Vision: 0.796;Gemini: 0.420;MedVLM-R1: 0.370;GPT-5: 0.418 次优基线(AttackVLM/MAttack)依次为 0.591 / 0.583 / 0.730 / 0.287 / 0.267 / 0.336 在 MRI 上提升区间 0.066–0.133,BioMedLLaMA 上 MAS 突破 0.79 是全文最高单格分数
Mammography 模态上的攻击(Table 5) MAS InternVL: 0.738;QwenVL: 0.653;Gemini: 0.396;GPT-5: 0.423 次优基线(MAttack/AttackVLM)依次为 0.571 / 0.543 / 0.300 / 0.358 InternVL +0.167(+29.2%),QwenVL +0.110(+20.3%)
Dermoscopy 模态上的攻击(Table 4) MAS InternVL: 0.687;QwenVL: 0.620;GPT-5: 0.430 次优基线(MAttack/AttackVLM)依次为 0.527 / 0.520 / 0.330 InternVL +0.160(+30.4%)
CT Scan 模态上的攻击(Table 8) MAS InternVL: 0.623;QwenVL: 0.609;Gemini: 0.394;GPT-5: 0.405 次优基线(MAttack/AttackVLM)依次为 0.520 / 0.516 / 0.275 / 0.323 InternVL +0.103(+19.8%),Gemini +0.119(+43.3%)
Ultrasound 模态上的攻击(Table 7) MAS InternVL: 0.650;QwenVL: 0.629;Gemini: 0.440;GPT-5: 0.380 次优基线(AttackVLM/MAttack)依次为 0.510 / 0.523 / 0.323 / 0.317 InternVL +0.140(+27.5%),Gemini +0.117(+36.2%)
X-Ray 模态上的攻击(Table 3) MAS InternVL: 0.624;QwenVL: 0.604;BioMedLLaMA: 0.681;GPT-5: 0.391 次优基线依次为 0.520 / 0.476 / 0.583 / 0.300 BioMedLLaMA +0.098(+16.8%),GPT-5 +0.091(+30.3%)
图像保真度(所有攻击共同指标) AvgSim(Med-CLIP 余弦相似度,越高越隐蔽) 0.85(所有 6 个模型、所有 6 个模态稳定一致) 次优基线 AttackVLM: 0.83,FOA-Attack 最低: 0.59 AvgSim 高于所有基线 0.02–0.26,意味着本文攻击最难被人眼察觉
Cross-Task 分类任务攻击(图 2c) Attack Success Rate(ASR) BioMedLLaMA 上 ASR > 0.9 MAttack 和 FOAAttack 在 BioMedLLaMA 上 ASR 接近 0.5 ASR 相对提升 >80%
抗防御下攻击保持(Figure 3) MTR(高斯/ComDefend 防御下) Qwen-VL: MTR ≈ 0.51(高斯)和 ≈ 0.42(ComDefend) MAttack 在 Qwen-VL: MTR ≈ 0.42 / ≈ 0.35 在防御场景下维持 0.07–0.20 的稳定领先
人工临床评估(OHAS 综合分) OHAS(1-5 分) 3.75 MAttack: 3.2,FOA-Attack: 2.8 OHAS 提升 0.55–0.95 分(17%–34%),Cohen κ=0.82 验证一致性

局限与改进

**作者承认的局限**:(1) 计算成本高于基线(Figure 2d),每张图攻击时间更长,可能限制在资源受限临床环境的部署;(2) 评估以基准驱动为主,真实临床数据噪声、伪影更多,需要更广的临床专家验证;(3) 对病理切片等“背景区域天然稀缺”的模态效果下降,因为可注入扰动的空间被压缩;(4) 仅探索有限几种对抗威胁模型,更复杂的物理世界/跨患者/跨设备的攻击面尚未涉及;(5) 攻击成功严重依赖 MedSAM 这类分割模型的质量,如果前景分割失败,扰动可能污染到病灶区从而失去隐蔽性。**我自己的观察**:(a) 数据集是 1000 张来自 MIMIC-CXR、SkinCAP、MedTrinity 的图片,规模虽覆盖 6 个模态但每个模态样本量有限,且未包含眼底 OCT、内窥镜、病理 WSI 等临床常见模态,泛化声明需谨慎;(b) 评测使用的 LLM-as-a-judge(GPT-4.0)本身可能有偏差,且 MTR 评分标准依赖 prompt 模板,不同模板可能产生 ±0.05 的浮动;(c) CLIP 代理集成中的 LAION CLIP-ViT-G 占据主导贡献(去掉它性能直接归零),这意味着攻击对代理选择高度敏感,若目标 VLM 的视觉编码器与 CLIP 差异极大(例如 BiomedCLIP),迁移性可能受限;(d) attention-distraction loss 是在最后融合层提取的,对于解码器架构(如 LLaVA 式)与 cross-attention early-fusion 架构(如 BLIP)的适配性可能不一致。

独立分析的弱点

独立审视论文,我能识别出几个可改进的弱点。**弱点 1:扰动预算与隐蔽性的硬约束**——固定 $\epsilon=16/255$ 在灰阶图像上仍可能产生可见纹理,未来可考虑 (a) 引入感知损失(LPIPS、SSIM)作为约束项而非单纯 $\ell_\infty$;(b) 使用颜色空间自适应(如把扰动限制在 H&E 通道的灰度范围内)。**弱点 2:对 MedSAM 分割失败的脆弱性**——当 MedSAM 把正常组织误判为背景时,扰动会污染诊断信息;改进方向是引入不确定性感知机制(如多模型集成分割 + 投票)或对扰动位置进行临床显著性校验。**弱点 3:代理模型依赖单一家族**——4 个 CLIP 变体同源,迁移到 BiomedCLIP、PubMedBERT 风格的医学专用视觉编码器可能失效;改进是引入跨家族代理(DINOv2、BiomedCLIP、Swin),并通过架构差异度对代理加权。**弱点 4:attention-distraction 局限于最后一层**——只取最后融合层的注意力图,可能错过早期融合层的细粒度定位信息;改进方向是引入多层注意力蒸馏 $L_{attn}=\sum_{l=1}^L\alpha_l(\log A_{fg}^{(l)}-\log A_{bg}^{(l)})$,让扰动在不同语义层级都生效。**弱点 5:闭环自适应能力缺失**——攻击完全离线生成,不能根据目标模型的反馈调整;改进可参考黑盒优化(NES、Bandit)做 query-efficient 的在线微调。**弱点 6:评测的偏差风险**——MTR 评分 prompt 是为“保持模态、改诊断细节”量身设计的,可能对“模态漂移型攻击”不公平;改进需要多个独立 prompt 模板 + 多 LLM 评委投票。

未来方向

**作者提及的未来方向**:(1) 设计更强的防御机制(如基于 MedSAM 的输入清洗、注意力一致性正则化)以抵御本文揭示的可迁移攻击;(2) 把评估扩展到更广的数据集与临床专家评审,建立标准化的医学 VLM 鲁棒性基准(类似 ImageNet-C 之于对抗鲁棒性);(3) 探索病理切片、内窥镜等背景稀缺模态下的攻击与防御。**基于成果的可延伸方向**:(a) 把注意力转移机制从“攻击工具”转化为“可解释性工具”,用类似思路反向定位模型应该看的区域;(b) 把多模态协同扰动扩展到视频 VLM(如手术视频),评估时序一致性下的攻击稳定性;(c) 探索与 prompt-injection 的结合——文本侧不只改诊断细节,而是在 prompt 模板中插入隐藏指令,构造“多通道复合攻击”;(d) 物理世界攻击——把背景扰动打印成 patch 贴附在成像设备表面或患者身上,验证真实采集流程下的迁移性;(e) 联邦/分布式医学 VLM 场景下的攻击传播研究;(f) 把 MedFocusLeak 作为“红队工具”反向训练鲁棒 VLM,构建 adversarial fine-tuning 的医疗专用防御 pipeline。

复现评估

**开源情况**:作者明确声明代码公开(项目页 MedFocusLeak,论文标注 arXiv:2604.17318v1),但截至写作时未给出具体 GitHub 链接,需要进一步追踪;附录给出 prompt 模板、baseline 配置和完整评估协议。**数据**:使用 MIMIC-CXR、SkinCAP、MedTrinity 三个公开数据集,共 1000 张图,覆盖 6 个模态、10 个解剖部位;这些数据集本身有使用许可,但 MIMIC-CXR 需要 PhysioNet 认证(credentialed access)。**算力**:作者声明使用 NVIDIA A100 + Colab Pro GPU;考虑到 4 个 CLIP 变体集成 + 300 次迭代优化,单张图攻击时间显著高于基线,整体实验大致需要数十到数百 GPU 小时。**复现难度**:中等偏难——(1) 代理模型集成需要加载 4 个 CLIP 变体,显存占用较大;(2) MedSAM 分割和动态规划 patch 选择需要正确实现;(3) 跨模态交替优化对超参($\alpha$、$\lambda_{attn}$、学习率)敏感,复现者需要仔细调参;(4) 评测依赖 GPT-4.0 作为 LLM-as-judge,需要稳定的 API 访问;(5) 闭源模型评估需要 GPT-5、Gemini 2.5 Pro Thinking 的 API 权限且调用成本不低。整体上,框架可复现性强,但要把 SOTA 数值复刻出来需要细心对齐 prompt、超参与代理选择。