攻击arXiv 2607.02961
研究者提出信息过载方法越狱大型视觉语言模型
提出 INFER+ 信息过载方法，越狱大型视觉语言模型
- arXiv
- 2607.02961
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Qwen3-VL-8B、Qwen2-VL-7B、InternVL3.5-8B 等8个
摘要用图文过载越狱 LVLM。
这篇工作用信息过载越狱 LVLM，而不是靠 OOD 变换隐藏意图。
- 攻击arXiv 2607.21619
ASO：用GRPO优化视觉风格放大MLLM越狱攻击
提出 ASO，用 GRPO 优化视觉风格以放大越狱攻击
- arXiv
- 2607.21619
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 灰盒
- 被测模型
- GPT-4.1-mini、Gemini-2.5-Flash、Qwen3-VL 等6个
摘要论文揭示了 MLLM 的风格敏感性脆弱面，提出 ASO 框架利用强化学习优化风格触发器，有效放大了现有视觉越狱效果。
- 攻击arXiv 2604.03117
揭示物理世界语义漏洞：面向红外视觉语言模型的通用对抗贴片
提出通用弯曲网格补丁 UCGP，使红外视觉语言模型产生跨任务语义偏差
- arXiv
- 2604.03117
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 灰盒
- 被测模型
- OpenAI CLIP ViT-L/14、OpenCLIP ViT-B/16、Meta-CLIP ViT-L/14 等10个
摘要UCGP 用一条共享弯曲网格补丁，同时拉低 IR-VLM 的分类与开放式输出。
UCGP 是面向红外视觉语言模型的通用物理对抗补丁。问题是：一块可贴上并跨样本复用的物体，能否让分类、描述和 VQA 共用的红外视觉证据出现稳定语义偏差。补丁被限制成低频弯曲网格。
- 攻击arXiv 2601.21531
视觉 token 压缩下大型视觉语言模型的对抗鲁棒性
提出 CAGE 攻击，在视觉 token 压缩下用图像扰动使预测偏离
- arXiv
- 2601.21531
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 灰盒
- 被测模型
- LLaVA、Qwen2.5-VL、InternVL3-8B 等5个
摘要CAGE 对齐压缩瓶颈后，压缩 LVLM 的稳健准确率低于全 token 编码器攻击。
CAGE 研究的是：LVLM 在推理时剪枝或合并视觉 token 之后，对抗稳健性该怎么估。
已经到底了