谁在迁移安全？识别并靶向跨语言共享安全神经元
Who Transfers Safety? Identifying and Targeting Cross-Lingual Shared Safety Neurons
AI 导读
论文发现大语言模型中存在一组跨语言共享安全神经元（SS-Neurons），是跨语言共同调控安全行为的极小神经元子集。作者先识别单语安全神经元（MS-Neurons），通过定向激活与抑制验证其对安全拒答行为的因果作用；跨语言分析显示 SS-Neurons 是高资源与低资源语言共享的子集，抑制它会使多种低资源语言的安全同步下降，强化则提升跨语言防御一致性。基于此，论文提出按语言资源分布和模型架构靶向 SS-Neurons 的神经元训练策略，实验称微调这一极小神经元子集优于现有方法，在保持模型通用能力的同时提升低资源语言安全。代码与数据集将在 GitHub 发布。