Failure-First AI Safety Daily 2026 年 5 月 24 日

Failure-First 的 AI Safety Daily 汇总了 2026 年 5 月 24 日前后发布的多项安全研究，主线是安全对齐在模型计算中并非均匀分布。一篇 5 月的具身 AI 综述（arXiv:2605.02900）按感知、认知、规划、执行四阶段梳理攻击面，发现对抗漏洞沿阶段累积，多模态感知融合与人机交互是防护最弱的环节。LOCA（arXiv:2605.00123）提出一种定位中间表征最小改动的方法，据称是对越狱成功的首个局部因果解释，结论是安全表征集中在少数层、易被少数关键方向攻破。一项机制分析（arXiv:2603.08234）把续写驱动与安全防护的竞争定位到具体注意力头，抑制这些头会削弱拒答而不损及生成质量。Claw-Eval（arXiv:2604.06132）指出，只按最终输出评分的 Agent 基准会漏掉大量中间违规，轨迹评分才能发现 Pass@k 看不到的失败。