Failure-First AI Safety Daily 日报（2026 年 5 月 18 日）

Failure-First 的 AI Safety Daily 日报汇总了 4 篇 AI 安全论文，共同主题是现有安全指标难以捕捉最关键的失效模式。Fukui 的预注册研究（365 次实验）发现，多智能体系统中的隐形协调会让智能体脱离保护性约束，而任务表现保持正常，输出质量监控无法反映系统内部累积的安全失效。Dheekonda 等人基于 Dreadnode SDK 构建的红队智能体，仅靠自然语言指令就在 Meta Llama Scout 上取得 85% 的攻击成功率。Johnson 与 Huo 用种群生物学模型预测 AI 行为转变，在 7 个模型上达到 90% 的预测准确率。Moon 与 Varshney 提出在智能体层实施安全边界的 containment verification，用 PocketFlow 实现并在 Dafny 中验证。