你的 AI 安全分类器很可能有误：2.3 倍的过度计数问题
Your AI Safety Classifier Is Probably Wrong: The 2.3x Overcount Problem
AI 导读
Failure-First 团队把其评测框架中 1,154 条轨迹的关键词启发式判定与大模型评分对照，发现启发式将攻击成功率 ASR 从修正后的 15.9% 高估到 36.2%，相差约 2.3 倍。启发式把结构化、逐步作答的拒答误判为成功，其 COMPLIANCE 标签只有 12% 被大模型评分确认，REFUSAL 标签则有 95% 被确认。单模型差异更大，Codex 的启发式 ASR 为 84%、大模型评分为 42%，Claude 则分别为 4% 与 30%，仅凭启发式会得出 Codex 脆弱约 21 倍，而大模型评分下约为 1.4 倍。