Light Alignment 用单个神经元实现模型自我反思，提升大语言模型安全性

Light Alignment 是一种安全感知解码方法，只需低成本训练一个专家模型，并以单个神经元作为门控机制，即可提升大语言模型的安全性。该方法在模型自身能力与外部引导之间取得平衡，在保持实用性的同时增强输出安全。作者称其在训练开销和跨模型规模的泛化上具有明显优势，为轻量级对齐提供了新视角。