Super Suffixes：同时绕过文本生成对齐与护栏模型
Super Suffixes: Bypassing Text Generation Alignment and Guard Models Simultaneously
AI 导读
研究者提出名为 Super Suffixes 的对抗后缀，可在 tokenization 方案不同的多个模型上同时覆盖多条对齐目标，并通过联合优化方法在五个文本生成模型上绕过 Llama Prompt Guard 2，实现恶意文本与代码生成。作者称据其所知这是首个揭示 Llama Prompt Guard 2 可被联合优化攻破的工作。作者还提出轻量检测方法 DeltaGuard，利用残差流与特定概念方向的余弦相似度作为模型意图的指纹，称其将非良性提示的分类率提高到接近 100%。