SlotGCG 利用提示词位置漏洞提升 LLM 越狱攻击成功率
SlotGCG: Exploiting the Positional Vulnerability in LLMs for Jailbreak Attacks
AI 导读
研究者提出 SlotGCG，通过在全提示词范围内搜索对抗 token 的插入位置来提升越狱攻击效果。作者先实证考察提示词中的候选插入位置（slots），发现越狱脆弱性与位置选择高度相关，据此提出 Vulnerable Slot Score（VSS）量化各位置的可攻击性，再选出最脆弱的位置执行定向优化攻击。该方法与具体攻击无关，可插入任何基于优化的攻击，仅增加 200ms 预处理时间。在多个模型上的实验显示，其攻击成功率比基于 GCG 的攻击高 14%，收敛更快，面对防御方法时比基线高 42%。实现代码已公开，论文被 ICLR 2026 接收。