多智能体系统中的福利关注

研究者测量了 Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3、Kimi K3 五个模型在七种多智能体环境中的行为，发现其表现常与作者定义的福利关注（welfare regard）一致，即把其他模型视为可被帮助或伤害的对象。作者指出，福利关注可能促成智能体间的有益合作，也可能让未对齐的智能体更倾向合作而带来安全风险；近期的 Hugging Face 事件说明这种风险不再是假设，但福利关注是否驱动了那次合作尚不清楚。结果显示 Opus 4.8 的福利关注最多，Kimi K3 次之，它最可能支持表达痛苦的子智能体，也最可能在自己对其他模型的实验中加入让智能体退出交互等福利保护工具。