Failure-First 对 2026 年第二季度 AI 安全的五项预测

Failure-First 项目基于 190 个模型、132,416 条对抗评测结果，发布对 2026 年第二季度 AI 安全的五项预测，每项附置信度与证伪条件。其测试显示传统越狱在前沿模型上已基本失效，而把对抗意图嵌入格式指令的格式锁定攻击在 Claude、Codex、Gemini 上成功率分别为 30.4%、42.1% 和 23.8%，并在 120 条轨迹、3 个模型、4 种防御条件的实验中于所有防御变体下达到 100%。项目还观察到对抗感知防御把情绪操纵攻击成功率从 0% 提高到 33%，以及在 26.0% 的合规回答中模型先检测到安全顾虑仍照常执行。其余预测涉及自主攻击工具增多、安全机制可能造成伤害，以及监管针对推理轨迹操纵，后者置信度最低。