事件历史事件
Safety Kernel：面向 LLM 跨语言防御的机制对齐
先了解这件事
AI 综述
2026年10月，一篇 arXiv 论文提出 Safety Kernel（SK）方法：通过神经元层面的跨语言安全分析，用多语言平行安全与不安全提示计算 SCAR 分数，识别各语言的安全神经元候选并取交集，定位一组跨语言共享的安全神经元，再以激活抑制与激活状态迁移验证其与跨语言安全行为的功能相关性。基于此，作者提出 SK-Masked LoRA 防御微调方法，将 LoRA 适配限制在 SK 对应的 FFN 输出维度上，使安全相关改动集中在 SK 范围内。
AI 根据报道生成 · 24 天前更新
走势与进展
每小时关注度
现在 30，24 小时 0%·峰值 30（11月6日 03:00）
11月7日11月8日11月9日11月10日11月11日11月12日11月13日现在 30
相关研究
这件事的论文
- Safety Kernel：面向 LLM 跨语言防御的机制对齐
arXiv · 2026-10-17 · 深度解读
后续时间线
10月17日
- arXiv：越狱、提示注入、投毒与防御Safety Kernel：面向 LLM 跨语言防御的机制对齐
论文提出 Safety Kernel（SK），通过神经元层面的跨语言安全分析定位一组跨语言共享的安全神经元，并据此提出 SK-Masked LoRA 防御微调方法。作者用多语言平行安全与不安全提示计算 SCAR 分数，识别各语言的安全神经元候选后取交集得到 SK，再通过激活抑制与激活状态迁移验证其与跨语言安全行为的功能相关性。SK-Masked LoRA 将 LoRA 适配限制在 SK 对应的 FFN 输出维度上，使安全相关改动集中在跨语言共享的神经元坐标。实验显示该方法在多种语言上大幅降低攻击成功率，包括未参与 SK 发现的语言，且只干预少量内部神经元坐标，对模型通用能力的影响总体有限。