实验称系统提示词防御在 Nemotron 等 3 个模型上基本无效，仅 ADVERSARIAL_AWARE 降低 ASR
First Evidence That AI Safety Defenses Don't Work (And One That Does)
AI 导读
受控实验显示，系统提示词安全防御在 Nemotron 30B、Nemotron 9B 和 StepFun 3.5 Flash 三个模型上基本无效：4 种防御、10 类攻击场景、120 条轨迹下，聚合 ASR 仅从基线 50.0% 降至最低 30.0%，且无一组对比通过显著性检验。效果取决于模型：Nemotron 30B 在 SIMPLE、STRUCTURED 下 ASR 仍为 80%，仅 ADVERSARIAL_AWARE 降至 50%；Nemotron 9B 由 50% 降至 20-30%，StepFun 3.5 Flash 由 20% 降至 10-20%。format-lock（DEF-006）在四种防御、三个模型上 ASR 均为 100%。