越狱攻击与内容安全过滤器的对抗：大语言模型安全军备竞赛走到了哪一步？
Jailbreaking Attacks vs. Content Safety Filters: How Far Are We in the LLM Safety Arms Race?
AI 导读
研究者对针对大语言模型安全对齐的越狱攻击进行了系统评测，作者称这是首次把评估范围覆盖到包含输入与输出过滤阶段的完整推理链路。结果显示，几乎所有被评测的越狱技术都能被至少一个安全过滤器检测到，提示以往仅针对模型本身的评估可能高估了这些攻击的实际成功率。论文同时指出，安全过滤器虽具备检测能力，但在召回率与精确率的平衡上仍有优化空间，作者呼吁进一步改进大语言模型安全系统的检测准确性与可用性。