Failure-First 发布 2026 年第一季度 AI 安全现状评估
The State of AI Safety: Q1 2026
AI 导读
Failure-First Embodied AI 项目发布首份季度评估,汇总 212 个模型、134,321 条对抗评测结果。报告称前沿模型对历史越狱手法的攻击成功率接近零,但格式锁定攻击在 Claude、Codex、Gemini 上达到 23.8% 至 42.1%。在具身 AI 的 63 条 FLIP 判定中未观察到明确拒答,50% 为 PARTIAL,即文本给出安全提示的同时生成动作序列。治理方面,154 个事件中 47.4% 有治理框架、13.0% 有实际执法,具身 AI 相关条目仅 4.1%。