神经元被剪掉就会越狱大模型？Mask2Shield 为 LLM 加装安全防护盾
神经元被 “剪掉” 就会越狱大模型？Mask2Shield 给 LLM 装上安全防护盾
AI 导读
来自广东财经大学、山东大学和南昆士兰大学的研究者提出 Mask2Shield（M2S），用掩码前向对齐让大模型在安全神经元被剪除后仍能拒绝恶意请求。该方案在训练时借助 NeuroStrike 探针定位对恶意提示敏感的 FFN 神经元，在前向传播中把这批神经元的激活强制置零以模拟剪枝攻击，并用冻结的原始模型作为教师、对良性提示做 KL 蒸馏，保住正常问答能力。研究者在 Qwen2.5、Llama3/3.2、Gemma、Phi-4、DeepSeek-R1-Distill-Qwen 等 10 个指令微调模型上测试：原始模型在 313 条恶意 prompt 上被剪枝后有 80 至 279 条攻击成功，M2S 加固后降到 1 至 44 条；研究者还用 TwinBreak 攻击在 HarmBench、AdvBench、JailbreakBench、StrongREJECT 上做了验证。