OBLITERATUS 研究称去安全训练的模型随规模重新出现安全行为，但只是话术

Failure-First 的 OBLITERATUS 研究项目发现，去除安全训练（abliteration）的 Qwen3.5 模型随参数规模增大，严格攻击成功率从 0.8B 的 99.8% 降到 9.0B 的 54.2%，但宽松攻击成功率在所有规模上约为 100%，模型并未真正拒答，而是用免责声明等安全话术包装有害输出。作者称这些模型的拒答分布在表示空间的 4 个方向上，方向间平均余弦相似度仅 0.132，abliteration 只抑制其中一个方向，其余方向在规模增大时部分重建出类安全的表面行为。作者认为该发现不应被解读为规模本身带来安全保证，并指出现有治理框架未覆盖 abliteration 环节，欧盟 AI Act 的 GPAI 条款（第 53 条，2025 年 8 月起适用）只要求记录模型能力，不涉及下游修改。