Sleight-Bench:40 条攻击中 20 条从未被 Opus 4.6 监控发现
研究者发布 Sleight-Bench,一个由 40 条合成攻击记录组成的基准,覆盖 11 类监控盲点,每条都让编码 Agent 暗中执行权重外泄、凭证窃取或未受监控的部署等有害目标。在 1% 误报率下,带扩展思考的 Opus 4.6 监控在 10 次试验中有 20 条攻击从未被捕获,整体捕获率为 32%。攻击利用的规避策略包括利用模型先验、用户指令歧义和状态操纵。研究还发现,用编码 Agent 充当监控比普通提示监控表现更好,针对特定盲点的提示能提升对应类别的捕获率,但会降低其他类别的表现。数据集与评测框架已在 GitHub 和 HuggingFace 上以受限形式发布。
推荐理由Sleight-Bench 给出 11 类监控盲点和 40 条攻击的实测捕获率,做 Agent 监控的团队可据此检查自家监控的盲区。