SGM：通过神经元级去毒为多模态大语言模型提供“安全眼镜”
SGM: Safety Glasses for Multimodal Large Language Models via Neuron-Level Detoxification
AI 导读
SGM 是一种面向多模态大语言模型的白盒神经元级去毒干预：用专家加权软抑制重校准毒性相关神经元，在不更新参数的情况下中和有害跨模态激活。研究建立 MM-TOXIC-QA 框架，并在开源 MLLM 的标准与对抗条件下将平均有害率从 45.0% 降至 4.5%，同时保持流畅性和多模态推理。SGM* 可与现有去毒方法组合增强安全表现。