MESA：通过去中心化专家分工改进 MoE 安全对齐

研究者提出面向 MoE 架构大语言模型的安全对齐框架 MESA，通过把安全职责去中心化分配到多个专家来增强防御，同时尽量不损害模型有用性。论文指出 MoE 架构存在 Safety Sparsity（安全稀疏性）漏洞，安全能力集中在少数专家，容易被对抗手段绕过；而常规对齐方法均匀调整所有参数，忽略专家功能差异，会连带造成性能下降。MESA 基于最优传输（OT）理论，包含两个机制：专家容量重分配用传输代价矩阵把安全职责分配给性价比最高的专家，动态路由精化则约束路由器精确激活这些去中心化模块。实验显示 MESA 在多种有害基准上取得稳健防御表现并保持有用性，代码已开源在 https://github.com/lorraine021/MESA。