TrapSuffix：针对越狱对抗后缀的主动防御
TrapSuffix: Proactive Defense Against Adversarial Suffixes in Jailbreaking
AI 导读
研究者提出 TrapSuffix，一种针对越狱对抗后缀的主动防御微调方法，在多种基于后缀的越狱设置下把平均攻击成功率降到 0.01% 以下。其思路是把攻击者逼入两难：要么落入防御方设计的优化陷阱、无法生成有效后缀，要么生成带有可追踪指纹的后缀，平均追踪成功率为 87.9%。该方法不改变推理流程、没有推理时开销，平均仅需 15.87 MB 额外内存，而主流的基于 LLM 的检测式防御内存开销通常在 1e4 MB 量级，并可自然地与现有过滤式防御叠加。