Meta AI 与 CMU 研究者用部署前训练数据过滤将 GCG 越狱攻击成功率最多降低 22%
Meta AI and CMU Researchers Cut AI Jailbreak Rates by 22% With Pre-Deployment Training Data Filter
AI 导读
CMU、华盛顿大学与 Meta AI 等机构研究者本周在 arXiv 发表论文，提出无需安全标注的梯度归因方法 SimpleLoRIF 和过滤数据集 SafeTulu，在 Qwen、Llama、OLMo 三个模型家族上将 GCG 越狱攻击成功率最多降低 22%，GSM8K 与 MATH 500 数学推理性能持平或更好。方法将训练样本与不安全输出在梯度空间比较余弦相似度，移除最相关的 20% 样本后从基座重新训练，并只对最后四层 Transformer 块反向传播以控制算力。HarmBench 迁移 GCG 攻击下，SafeTulu 模型攻击成功率为 3.1% 和 3.8%，低于全量 Tulu 3 的 9.4% 和 10.2%，而 LLM-as-a-judge 过滤同样比例样本几乎无改善，表明安全退化信号不在文本层面。
相关论文