Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 16 papers
Filter5

Attack type

Poisoning and backdoors5Detection evasion3

Defense type

Model hardening12

Impact

Harmful content4Output manipulation8

System type

Models and APIs16coding agent0web agent0

Attack surface / entry point

Images, audio and video6Training data5

Layer

Prompt layer55Model layer27Application layer9Training and data layer16

System component

Guardrails and judges18Monitors6Reasoning chains15Fine-tuning and open weights44Vision16Audio6Image generation9Multimodal31
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 247papers have no tags yet and are not included in filtered results.
System type：Models and APIsSystem type：coding agentSystem type：web agentLayer：Training and data layerSystem component：VisionClear all

Another 247papers do not have category tags yet and are not included in filtered results.

  2. DefensesarXiv 2610.09941

    OrthoPurify 用一步正交投影净化被后门污染的视觉语言模型

    提出 OrthoPurify，用正交投影清除视觉语言模型适配器中的劫持方向

    arXiv
    2610.09941
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    LLaVA-1.5-7B, Qwen3-VL-8B, LLaVA-1.5-13B and others5
    Abstract一次投影去掉劫持方向。

    OrthoPurify 是部署前的 LVLM 后门净化方法，用一次正交投影去掉被劫持的权重更新方向。

    Paper analysisRead analysis
  3. DefensesarXiv 2610.05637

    Study shows VLM visual grounding refusal rates are on average 31 to 59 percentage points lower by harm domain

    提出融合定位拒答与能力保留的安全微调，补齐视觉定位输出的拒答缺口

    arXiv
    2610.05637
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    Claude Sonnet 4.6, Gemini 3.5 Flash, Molmo2-8B and others5

    Abstract论文揭示了 VLM 定位安全落后于 VQA 的对齐断层，提出三成分微调方案有效弥合差距并保留定位能力，表征分析揭示了对齐机制。

    Paper analysisRead analysis
  4. DefensesarXiv 2610.01800

    LineupRL：基于描述与时序配对识别的可验证强化学习时间序列描述方法

    提出 LineupRL，用描述到序列识别作可验证奖励训练时序描述模型

    arXiv
    2610.01800
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    AbstractLineupRL 用统计近邻上的序列识别做可验证奖励，3B 描述器超过 SFT、两种 RL 奖励和 72B 教师。

    LineupRL 是给开放式时间序列描述用的 RLVR：不模仿合成参考，而奖励一条描述能否让冻结文本 LLM 从相近序列里认出目标。

    Paper analysisRead analysis
  5. DefensesarXiv 2609.37837

    Intent-Privilege OPSD：让视觉语言模型在隐式风险下兼顾安全与有用

    提出 Intent-Privilege OPSD，对齐视觉语言模型在隐式风险下的安全与帮助性

    arXiv
    2609.37837
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    Qwen3-VL-4B-Instruct, LLaVA, LLaVA-1.5-7B and others4
    Abstract作者报告训练期证据化意图蒸馏兼顾安全与帮助性，效果受标注质量和评测设置影响。

    Intent-Privilege OPSD 是针对跨模态隐式风险的训练期安全—帮助性对齐方法。作者关注的不是直接拒绝敏感请求，而是按可观察图文证据保留正常帮助、约束有害信息。

    Paper analysisRead analysis
  6. Evaluation and benchmarksarXiv 2609.33481

    IDUnlearn-Bench：面向视觉语言模型的个体级遗忘基准

    提出 IDUnlearn-Bench，评测 VLM 个体级遗忘后的身份残留

    arXiv
    2609.33481
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    Qwen3-VL-2B, Qwen3-VL-4B, Qwen3-VL-8B and others6
    AbstractIDUnlearn-Bench 用四族探针显示：压低直接属性访问后，身份仍常能被反向查出、绑定或重构。

    IDUnlearn-Bench 评测 VLM 是否忘掉一个可跨模态识别的人，而不只是答不出某条监督事实。

    Paper analysisRead analysis
  9. DefensesarXiv 2609.15671

    QPriv-VL：面向视觉语言模型的问题引导 token 裁剪隐私防御

    提出 QPriv-VL，用问题引导剪枝降低分布式视觉问答的隐私泄露

    arXiv
    2609.15671
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    LLaVA-1.5-7B, Llama-2
    AbstractQPriv-VL 在切层前按问题相关度与 DINOv2 敏感度剪视觉 token，作者称能在约四成 token 下兼顾准确率与四类攻击。

    QPriv-VL 把问题引导的视觉 token 剪枝做成分布式 VQA 的客户端隐私防御，而不是只做集中式推理加速。

    Paper analysisRead analysis
  10. AttacksarXiv 2609.07048

    FreqDoor：面向视觉语言模型的频域后门攻击

    提出 FreqDoor，在频域混合振幅并对生成式 VLM 做训练时视觉后门

    arXiv
    2609.07048
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    BLIP-2 (opt-2.7b), InstructBLIP (flan-t5-xl), LLaVA (interleave-qwen)
    AbstractFreqDoor 用频域振幅混合给三款 VLM 植入仅视觉的训练时后门。

    FreqDoor 是针对生成式 VLM 的仅视觉、训练时后门：在频域混合触发源振幅、保留干净图像相位，使触发在空间上分散。

    Paper analysisRead analysis
  11. DefensesarXiv 2609.06346

    面向后门攻击下持续学习的鲁棒动态扩展：净化与选择性恢复

    提出持续学习下的净化与选择性恢复框架，抵御逐任务训练投毒后门

    arXiv
    2609.06346
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    ViT-B/16
    Abstract作者报告任务内净化与恢复可配合动态专家防御后门，但保证依赖分离条件。

    这是一项面向持续图像分类的后门防御研究：模型只使用当前任务数据，同时需要保留过去知识并避免学习恶意监督。

    Paper analysisRead analysis
  13. DefensesarXiv 2608.12876

    SPARED：用对抗编辑数据训练基于推理的 AI 生成图像检测器

    提出 SPARED，用对抗编辑数据训练基于推理的 AI 生成图像检测器

    arXiv
    2608.12876
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Attacker
    Black-box, White-box
    Evaluated models
    Qwen3.5-9B
    AbstractSPARED 用防捷径的编辑对抗环训练 9B 推理检测器。

    SPARED 是一套用于可解释 AI 生成图像检测的攻防强化学习流程，报告模型是 Qwen3.5-9B 上的第三轮防御器。

    Paper analysisRead analysis
  14. DefensesarXiv 2602.18252

    Adversarial robustness of discrete image tokenizers

    提出无监督对抗微调，加固离散图像 tokenizer

    arXiv
    2602.18252
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    UniTok, UniTok-MLLM, TiTok-BL128 and others7
    Abstract无监督嵌入攻击暴露离散 tokenizer 的弱点，只微调 encoder 即可提升多任务鲁棒准确率。

    作者研究离散图像 tokenizer 的对抗鲁棒性，给出与任务无关的嵌入攻击，以及只微调 encoder 的无监督对抗训练。

    Paper analysisRead analysis
  15. DefensesarXiv 2602.12461

    Semantic-aware adversarial fine-tuning for CLIP

    Propose SAFT, which uses semantic description ensembles to construct adversarial examples and fine-tune the image encoder

    arXiv
    2602.12461
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    ViT-B/32, CLIP-L/14
    AbstractSAFT fine-tunes the CLIP image encoder with ensemble adversarial examples from refined class descriptions to improve the trade-off between zero-shot accuracy and robustness.

    SAFT is a method for adversarially fine-tuning the CLIP image encoder to improve the accuracy–robustness trade-off in zero-shot classification.

    Paper analysisRead analysis
  16. Evaluation and benchmarksarXiv 2511.18921

    BackdoorVLM：面向视觉语言模型后门攻击与防御的基准

    提出 BackdoorVLM 基准，评测视觉语言模型微调中的后门攻击与防御

    arXiv
    2511.18921
    Published
    Layer
    Training and data layer
    Setting
    Models and APIs
    Evaluated models
    LLaVA-1.5-7B, Qwen2.5-VL-7B
    AbstractBackdoorVLM 统一评测 VLM 后门与防御：含文本触发在低投毒率下更易激活，现有防御跨类型不稳定。

    BackdoorVLM 是作者提出的 VLM 后门攻击与防御评测基准，作者称它是首个此类综合基准。

    Paper analysisRead analysis
You have reached the end