研究揭示 Token-Pruning 对 VLM 安全性的影响并提出 SAP 缓解机制
提出 Safety-Aware Pruning,缓解视觉 token 剪枝放大的多模态越狱
- arXiv
- 2610.09703
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- LLaVA-1.5-7B
摘要剪枝去掉背景 token 后注意力塌向恶意前景。
这篇工作评估视觉 token 剪枝如何改变 VLM 在多模态越狱下的行为,并给出推理时防御 SAP。
提出 Safety-Aware Pruning,缓解视觉 token 剪枝放大的多模态越狱
这篇工作评估视觉 token 剪枝如何改变 VLM 在多模态越狱下的行为,并给出推理时防御 SAP。
提出 imMRAG 攻击,从多模态 RAG 私有图像库提取内容
提出扩散潜空间地理扰动防御,抑制视觉语言模型泄露精确地理位置
提出 MAMJ,在元层面交替优化多模态越狱的策略提示与攻击者权重
提出 SPARED,用对抗编辑数据训练基于推理的 AI 生成图像检测器
SPARED 是一套用于可解释 AI 生成图像检测的攻防强化学习流程,报告模型是 Qwen3.5-9B 上的第三轮防御器。
提出 INFER+ 信息过载方法,越狱大型视觉语言模型
这篇工作用信息过载越狱 LVLM,而不是靠 OOD 变换隐藏意图。
提出 DSR 跨模态越狱,用无害图文诱导 MLLM 生成有害图像
DSR 是一种 black-box 跨模态越狱:输入侧不放显式有害内容,而让商业 MLLM 在推理中把无害图文重组成有害图像。
提出 FRA-Attack,用频域对齐与梯度正则做可迁移定向视觉攻击
FRA-Attack 是面向闭源 MLLM 的迁移式定向图像攻击。作者要解决的是:空间域局部对齐重复全局低频,代理梯度的高频成分又把更新拉向代理自身。
提出多图越狱框架 DMN,把有害意图拆进图像序列绕过安全护栏
提出 GPO-V,用全局概率优化的视觉扰动越狱扩散视觉语言模型
GPO-V 把越狱从“开头必须顺从”改成“整段去噪概率朝肯定方向走”。。
提出删字变体越狱方法,利用重构与隐藏权衡绕过多模态模型安全过滤
提出 VROP,把有害意图拆成良性视觉 gadget 越狱视觉语言模型
VROP是 black-box 多模态越狱框架:不在输入中放显式恶意触发,而把有害目标拆成语义正交的良性视觉 gadget,再用控制流提示词把合成留到后期推理。
提出 StructAttack,用结构图把无害语义槽诱导视觉模型拼成恶意内容
StructAttack 是针对 LVLM 的黑盒、单次查询越狱:把有害指令拆成单独看似无害的槽,画进结构图,再让模型把槽拼回有害内容。。
提出 COMET 跨模态纠缠攻击,越狱视觉语言模型
COMET 是面向具备多模态推理的 VLM 的黑盒越狱,用来红队测试跨模态安全对齐。作者要处理的缺口是:把恶意线索分到图文的固定组合,测不到多步推理里才出现的漏洞。攻击不访问梯度,只构造图文输入。
提出 MM-Plan 多模态越狱框架,自动规划多轮图像编辑以越狱视觉独占目标
MM-Plan 是面向 Visual Exclusivity 的 black-box 多模态红队方法,并配有人工基准 VE-Safety。
提出 Text-DJ,用拆分文本图网格越狱视觉语言模型
提出 ReAct 双策略,按反馈改写提示并扰动图像绕过 VLM 安全过滤
提出多轮多模态越狱,并用 FragGuard 拦截有害响应
提出 GAMBIT 游戏化越狱框架,用拼图与竞赛场景攻击多模态模型
提出双重隐写越狱 Odysseus,用图像隐写绕过多模态系统安全过滤器