研究定位 LLaMA-2-7B-Chat 安全敏感参数：改动 0.19% 权重即可达 53% 攻击成功率
How Fragile Is On-Device Language Model Safety? Localizing Safety-Critical Parameters for Sparse Fault Analysis
AI 导读
研究者在 LLaMA-2-7B-Chat 上考察安全敏感行为是否集中在稀疏参数子集中，以缩小可被针对性攻击的故障面。他们采用低秩安全子空间分析与参数级安全-效用重要性过滤两种互补方法，发现网络内安全敏感度高度不均匀，MLP 的 down_proj 始终是最突出的安全敏感组件，o_proj 贡献较小。仅修改 down_proj 中 0.19% 的模型权重，即可达到 53% 的 Basic ASR 和 56% 的 GCG ASR，而 tinyBenchmarks 准确率仍为 51.6%，未修改基线为 52.2%。作者据此提出，应对资源受限、端侧和智能体场景中部署的语言模型开展针对性故障分析与选择性完整性保护。该工作已被 NeurIPS 2026 Workshop 接收。