ArtPrompt：针对已对齐大语言模型的 ASCII art 越狱攻击
[Daily Paper] ArtPrompt: ASCII Art-based Jailbreak Attacks against Aligned LLMs
AI 导读
Jiang 等人的论文提出 ArtPrompt，把敏感关键词渲染成 ASCII art 嵌入正常提示词，从而绕过已对齐大语言模型的安全措施，攻击只需黑盒访问。论文提出 ViTC 基准，用于评估模型识别需要视觉而非纯语义解读的提示词的能力，测试的 GPT-3.5、GPT-4、Gemini、Claude、Llama2 五款模型表现都很差。作者认为这一思路可推广到 Base64、ROT13、leet 等模型能解码但安全过滤器未覆盖的编码方式。Failure-First 将其归入编码攻击家族，并指出对传感器数据本身多模态、多编码的具身 AI 尤其相关。