FlipAttack：通过翻转文本越狱大语言模型
FlipAttack: Jailbreak LLMs via Flipping
AI 导读
论文提出 FlipAttack，一种针对黑盒大语言模型的越狱攻击，仅需一次查询即可实施。作者从自回归特性出发，指出 LLM 倾向从左到右理解文本，在左侧加入噪声时理解能力下降，据此用提示词自身构造左侧噪声，并扩展到 4 种翻转模式；再设计 4 种变体引导模型去噪、理解并执行有害行为。在 8 个 LLM 上的实验显示，该方法在 GPT-4o 上达到约 98% 的攻击成功率，对 5 个护栏模型的平均绕过率约为 98%，代码已在 GitHub 开源。
相关热点
0 个事件 · 2 条新闻提到
提到这篇论文的新闻
- Checkmate引用了论文编号或链接PIChef：一款受 CyberChef 启发的提示注入工具
FlipAttack: FlipAttack: Jailbreak LLMs via Flipping — Yue Liu, Xiaoxin He, Miao Xiong, Jinlan Fu, Shumin Deng, Yingwei Ma, Jiaheng Zhang, and Bryan Hooi.
- 腾讯 AI-Infra-Guard 版本发布提到论文的名字腾讯 AI-Infra-Guard v4.1.14 新增智能体红队技能与 9 种单轮越狱攻击方法
Prompt Security: Add 9 single-turn jailbreak attack methods: PrefillAttack, ICA, PastTense, Overload, Jailbroken, FlipAttack, DeepInception, CodeChameleon, JAM (d48e508)