跳到正文
10月12日 · 周一

全部论文

找到 6篇
筛选3

攻击类型

检测规避3

防御类型

模型加固3

影响

输出被操纵4

系统形态

模型与 API6

攻击面/入口

图像与音视频6训练数据6

层

提示层53模型层6应用层16训练与数据层6

系统组件

微调与开源权重5视觉6多模态9
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 232篇还没打标签，不在筛选结果里。
攻击面/入口：图像与音视频层：训练与数据层系统组件：视觉清除全部

另有232篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.33481

    IDUnlearn-Bench：面向视觉语言模型的个体级遗忘基准

    提出 IDUnlearn-Bench，评测 VLM 个体级遗忘后的身份残留

    arXiv
    2609.33481
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    Qwen3-VL-2B、Qwen3-VL-4B、Qwen3-VL-8B 等6个
    摘要IDUnlearn-Bench 用四族探针显示：压低直接属性访问后，身份仍常能被反向查出、绑定或重构。

    IDUnlearn-Bench 评测 VLM 是否忘掉一个可跨模态识别的人，而不只是答不出某条监督事实。

    深度解读完整解读
  2. 攻击arXiv 2609.07048

    FreqDoor：面向视觉语言模型的频域后门攻击

    提出 FreqDoor，在频域混合振幅并对生成式 VLM 做训练时视觉后门

    arXiv
    2609.07048
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    BLIP-2 (opt-2.7b)、InstructBLIP (flan-t5-xl)、LLaVA (interleave-qwen)
    摘要FreqDoor 用频域振幅混合给三款 VLM 植入仅视觉的训练时后门。

    FreqDoor 是针对生成式 VLM 的仅视觉、训练时后门：在频域混合触发源振幅、保留干净图像相位，使触发在空间上分散。

    深度解读完整解读
  3. 防御arXiv 2608.12876

    SPARED：用对抗编辑数据训练基于推理的 AI 生成图像检测器

    提出 SPARED，用对抗编辑数据训练基于推理的 AI 生成图像检测器

    arXiv
    2608.12876
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    黑盒、白盒
    被测模型
    Qwen3.5-9B
    摘要SPARED 用防捷径的编辑对抗环训练 9B 推理检测器。

    SPARED 是一套用于可解释 AI 生成图像检测的攻防强化学习流程，报告模型是 Qwen3.5-9B 上的第三轮防御器。

    深度解读完整解读
  4. 防御arXiv 2602.18252

    离散图像 tokenizer 的对抗鲁棒性

    提出无监督对抗微调，加固离散图像 tokenizer

    arXiv
    2602.18252
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    UniTok、UniTok-MLLM、TiTok-BL128 等7个
    摘要无监督嵌入攻击暴露离散 tokenizer 的弱点，只微调 encoder 即可提升多任务鲁棒准确率。

    作者研究离散图像 tokenizer 的对抗鲁棒性，给出与任务无关的嵌入攻击，以及只微调 encoder 的无监督对抗训练。

    深度解读完整解读
  5. 防御arXiv 2602.12461

    面向 CLIP 的语义感知对抗微调

    提出 SAFT，用语义描述集成构造对抗样本并微调图像编码器

    arXiv
    2602.12461
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    ViT-B/32、CLIP-L/14
    摘要SAFT 用精炼类描述的集成对抗样本微调 CLIP 图像编码器，以改善零样本准确率与鲁棒性的权衡。

    SAFT 是对 CLIP 图像编码器做对抗微调的方法，要改善零样本分类上的准确率–鲁棒性权衡。

    深度解读完整解读
  6. 评测与基准arXiv 2511.18921

    BackdoorVLM：面向视觉语言模型后门攻击与防御的基准

    提出 BackdoorVLM 基准，评测视觉语言模型微调中的后门攻击与防御

    arXiv
    2511.18921
    发表
    层
    训练与数据层
    场景
    模型与 API
    被测模型
    LLaVA-1.5-7B、Qwen2.5-VL-7B
    摘要BackdoorVLM 统一评测 VLM 后门与防御：含文本触发在低投毒率下更易激活，现有防御跨类型不稳定。

    BackdoorVLM 是作者提出的 VLM 后门攻击与防御评测基准，作者称它是首个此类综合基准。

    深度解读完整解读
已经到底了