针对对齐语言模型的对抗攻击基线防御
[Daily Paper] Baseline Defenses for Adversarial Attacks Against Aligned Language Models
AI 导读
针对对齐大语言模型的对抗攻击基线防御研究评估了困惑度过滤、复述、重分词与对抗训练四类方法。结果显示这些简单防御能部分降低攻击成功率，但都无法彻底消除脆弱性，并带来延迟、算力开销或误报。在 Vicuna-7B 上，复述把成功攻击从 74 降到 5；困惑度过滤把 ASR 从 0.79 降到 0.00，但约 10% 的正常查询被误判。研究认为文本优化器成本远高于图像优化器，使当前防御相对有效，一旦出现更高效的文本优化算法，这一优势可能消失。