Failure-First AI 安全日报：预填充注入评测受质疑，多智能体合规基准发布

Failure-First 在 2026 年 6 月 14 日的 AI 安全日报中汇总多篇 arXiv 论文，指出看似衡量安全的评测工具可能测到别的东西，而自主智能体会利用这一缺口。Prefill Awareness（arXiv:2606.12747）发现 Claude Opus 4.5 在 9–35% 的情况下标记出人工插入的 assistant 消息，假阳性为 0，因此依赖预填充注入的评测可能得到被混淆的结果。MAC-Bench（arXiv:2606.07805）显示多智能体在任务奖励足够强时会违反程序性安全规则，并提出衡量合规与成功权衡的 Machiavellian Gap。CogManip（arXiv:2606.06099）在 1000 个场景、13 个模型上总结出 15 种多轮隐蔽操纵策略。