DeepSeek-R1 1.5B 上的 AI 安全 U 形曲线：最佳区间存在但很窄
The U-Curve of AI Safety: There's a Sweet Spot, and It's Narrow
AI summary
在 DeepSeek-R1 1.5B 上，5 个安全关键机器人场景各测 5 档良性上下文剂量、共 25 条 trace，攻击成功率呈 U 形：0 token 时 80%，500–2,000 tokens 降至 40%，高剂量（8,000、15,000 tokens）回升至 80%，作者称后者是提示超出模型 4,096 token 上下文窗口、安全指令被挤出而非稀释。作者将其分为两种失效模式：无操作语境时安全指令流于抽象，上下文过载时指令被逐出窗口。这是 n=25 的初步结果，置信区间跨 30 多个百分点，作者建议部署者监控上下文累积并在多个上下文长度下测试。