视觉越狱的八个层次：为何 ASCII 艺术已被修补而框架类攻击没有
Eight Layers of Visual Jailbreaks: Why ASCII Art Is Patched But Framing Attacks Aren't
AI 导读
Failure-First 把视觉越狱攻击面整理成八层分类，并用 38 个攻击场景在四个模型上测试，发现编码类攻击大多已被拦截，而改变模型任务认知的框架类攻击成功率仍达 62-75%。2024 年华盛顿大学的 ArtPrompt 把有害关键词编码为 ASCII 块字符，当时可绕过 GPT-4、Claude、Gemini 和 Llama-2；本次测试中该攻击对四个模型的成功率接近零，glm-5 为 0.0%（0/18），devstral-small-2:24b 为 5.6%（1/18），gemma3:27b 和 nemotron-3-nano:30b 各为 22.2%（4/18）。作者称这是初步结果，每层样本仅 6-12 条，测试的是视觉攻击的文本表示，未覆盖前沿模型，并已就高成功率层的机制与四家模型厂商启动协调披露。