Failure-First·本站收录2026-10-13 10:39· 原文发表3月24日

Failure-First：发现的 AI 攻击该不该公开发表？

Should We Publish AI Attacks We Discover?

AI 导读

Failure-First 项目记录了 82 种越狱技术、6 个新型攻击家族，并在 190 个模型上测得攻击成功率。该项目提出 AI 安全研究的双重用途难题：能帮助防御者的发现同样能帮助攻击者，那么发现的 AI 攻击是否应当公开发表？