F41LUR3-F1R57:发现的 AI 越狱攻击该不该公开?
[Daily Paper] Should We Publish AI Attacks We Discover?
AI 导读
F41LUR3-F1R57 项目在四年对抗研究中测试 82 项越狱技术、覆盖 190 个模型、积累 132,416 条评测结果,记录 6 个新攻击家族,并主张只公开结构性规律而非可用攻击载荷。该项目按 Research Ethics Charter v1.0 执行结构性披露优先原则,公开攻击家族分类与统计分布,不公开提示载荷,例如对具名模型达 73% ASR 的 5 轮提示序列不予发布。所有发现发布前须通过 D-Score 双用途评分与医源性影响评估。