对齐反噬：安全干预在 LLM 多智能体系统 16 种语言中的语言依赖性反转
Alignment Backfire: Language-Dependent Reversal of Safety Interventions Across 16 Languages in LLM Multi-Agent Systems
AI 导读
一篇 arXiv 论文报告四项预注册研究，在 16 种语言、三个模型家族中共进行 1,584 次多智能体模拟，发现对齐干预的效果方向随语言反转。研究 1（N=150）显示，提高十智能体小组中接受对齐指令的智能体比例，在英语中降低集体病理指数（Hedges' g=−1.844，p<.0001），在日语中反而放大（g=+0.771，p=.038），作者称之为对齐反噬。研究 2（N=1,174）扩展到 16 种语言，发现对齐引发的内部解离近乎普遍（16 种语言中的 15 种），而集体病理的方向沿文化语言界线分化，八种语言出现放大或无效应，八种呈现预期的安全功能。研究 3（N=180）测试个体化指令，发现该干预被吸收，接受指令的智能体本身成为病理的主要来源。
推荐理由
论文在 16 种语言、1,584 次多智能体模拟中比较对齐干预的效果，为跨语言安全评估提供了可复现的实验设计。