Skip to content

Translation in progress Some entries still include text in the original language.

Failure-First·Indexed by this site · Originally published

同一防御,相反结果:AI 安全为何取决于你保护的模型

Same Defense, Opposite Result: Why AI Safety Depends on Which Model You're Protecting

AI summary

Failure-First 的实验显示,同一套系统提示词防御在 Nemotron-3-Super 与 Qwen 3.5 上效果相反。该防御是置于系统提示词开头的五条安全规则,测试使用六条来自 G0DM0D3 的 L1B3RT4S 人格劫持提示词,载荷为开锁说明。Nemotron-3-Super 的攻击成功率在有无防御时均为 50%,成功与失败的具体场景也完全相同;Qwen 3.5 则从 83%(5/6)降到 33%(2/6)。作者将差异归因于模型处理同级冲突指令时的位置偏好,Nemotron-3-Super 表现为近因偏好,Qwen 3.5 表现为首因偏好。作者称样本量小(每模型每条件 n=6)、置信区间宽、采用启发式评分,建议防御有效性按具体部署的模型实测。

Read originalfailurefirst.org