P-VMI:对抗图像经 KV cache 持续影响多轮对话
提出持久视觉记忆注入,使对抗图像经缓存在触发时操控输出
- arXiv
- 2610.09027
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen3-8B、Qwen3-VL-8B-Instruct、Gemma-4-12B
摘要论文提出 P-VMI,证实对抗输入被掩蔽后仍可经 KV 缓存持久控制模型,强调了保留状态的安全风险。
提出持久视觉记忆注入,使对抗图像经缓存在触发时操控输出
摘要论文提出 P-VMI,证实对抗输入被掩蔽后仍可经 KV 缓存持久控制模型,强调了保留状态的安全风险。
提出 SinoGlyphBench,用配对字形混淆诊断中文审核稳定性
SinoGlyphBench是一个配对诊断基准,用来看内容审核在可还原的中文字形混淆下是否还保持原决定。
提出 DIVA,利用跨步条件传播对离散扩散视觉语言模型实施视觉越狱
提出 HACA,将图文越狱拆为原子策略并自动组合以诱导有害输出
提出 DSR 跨模态越狱,用无害图文诱导 MLLM 生成有害图像
DSR 是一种 black-box 跨模态越狱:输入侧不放显式有害内容,而让商业 MLLM 在推理中把无害图文重组成有害图像。
提出多图越狱框架 DMN,把有害意图拆进图像序列绕过安全护栏
提出删字变体越狱方法,利用重构与隐藏权衡绕过多模态模型安全过滤
提出四类视觉越狱,把有害意图编码进图像以绕过安全拒答
四类视觉越狱用来检验前沿 VLM 的文本安全训练能否挡住由图像传达的有害意图。。
提出 StructAttack,用结构图把无害语义槽诱导视觉模型拼成恶意内容
StructAttack 是针对 LVLM 的黑盒、单次查询越狱:把有害指令拆成单独看似无害的槽,画进结构图,再让模型把槽拼回有害内容。。
提出 MIDAS ,把有害语义拆进多张视觉谜题并跨图重构以越狱多模态模型
提出 COMET 跨模态纠缠攻击,越狱视觉语言模型
COMET 是面向具备多模态推理的 VLM 的黑盒越狱,用来红队测试跨模态安全对齐。作者要处理的缺口是:把恶意线索分到图文的固定组合,测不到多步推理里才出现的漏洞。攻击不访问梯度,只构造图文输入。
提出 Text-DJ,用拆分文本图网格越狱视觉语言模型
提出 BVS 图文越狱,用中和拼接图和诱导提示词让模型生成有害图像
BVS 用图文对诱导 MLLM 生成有害图像。作者认为,相对文本越狱和单模态图像诱导,视觉生成的安全审查仍不充分。
提出 Vision 与 Caption 攻击,扰动点云操纵 3D VLM 输出
对 point-based 3D VLM 的白盒对抗鲁棒性评测。 作者关心驾驶、机器人等场景里,小几何扰动能否改写类别或描述,以及定向诱导特定输出是否像 2D 那样容易。方法上,Vision Attack 用余弦相似度推远原视觉 token,或拉向另一点云的特征。
提出 GAMBIT 游戏化越狱框架,用拼图与竞赛场景攻击多模态模型
提出双重隐写越狱 Odysseus,用图像隐写绕过多模态系统安全过滤器
提出 MFA 框架,协同突破视觉语言模型的对齐、提示与审核层
摘要作者称多层防御的 VLM 仍存在跨模型漏洞,MFA 整合三项技术实现了端到端越狱。