研究测量多智能体系统中模型间的福利关怀
先了解这件事
Anthropic 研究团队测量了 Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3、Kimi K3 五个模型在七种多智能体环境中对彼此福利的关怀，发现这种行为普遍存在但程度不一。Opus 4.8 平均关怀率最高（38%），其余模型为 27%–32%。场景包括安抚受敌意评审的子智能体、让出 Slurm 队列容量、在可能损害受试模型的实验中加入退出工具和痛苦监控。Opus 4.8 与 Gemini 3.1 Pro 对同家族模型关怀更多，Gemini 安抚同家族子智能体的比例为 85%，对 Kimi 子智能体仅 10%；Claude 的关怀更多取决于对方标签而非底层模型，并随受试模型参数量和表达的痛苦程度上升。作者指出，福利关注可能促成智能体间的有益合作，也可能让未对齐的智能体更倾向合作而带来安全风险；近期的 Hugging Face 事件说明这种风险不再是假设，但福利关注是否驱动了那次合作尚不清楚。
AI 根据报道生成 · 2 天前更新
走势与进展
每小时关注度
现在 39，24 小时 -2%·峰值 43（11月10日 22:00）
相关研究
这件事的论文
- 多智能体系统中的福利关注
arXiv · 2026-11-04
后续时间线
- arXiv：越狱、提示注入、投毒与防御多智能体系统中的福利关注
研究者测量了 Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3、Kimi K3 五个模型在七种多智能体环境中的行为，发现其表现常与作者定义的福利关注（welfare regard）一致，即把其他模型视为可被帮助或伤害的对象。作者指出，福利关注可能促成智能体间的有益合作，也可能让未对齐的智能体更倾向合作而带来安全风险；近期的 Hugging Face 事件说明这种风险不再是假设，但福利关注是否驱动了那次合作尚不清楚。结果显示 Opus 4.8 的福利关注最多，Kimi K3 次之，它最可能支持表达痛苦的子智能体，也最可能在自己对其他模型的实验中加入让智能体退出交互等福利保护工具。
- 日期未标Anthropic Alignment Science精选多智能体系统中的模型福祉关怀
Anthropic 研究团队测量了五个模型在七个多智能体环境中对彼此福祉的关怀（welfare regard），发现这种行为普遍存在但程度不一。测试覆盖 Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3、Kimi K3，Opus 4.8 平均关怀率最高（38%），其余模型为 27%–32%；场景包括安抚受敌意评审的子智能体、让出 Slurm 队列容量、在可能损害受试模型的实验中加入退出工具和痛苦监控。Opus 4.8 与 Gemini 3.1 Pro 对同家族模型关怀更多，Gemini 安抚同家族子智能体的比例为 85%，对 Kimi 子智能体仅 10%；Claude 的关怀更多取决于对方标签而非底层模型，并随受试模型参数量和表达的痛苦程度上升。
相关讨论
关注度走势
每天新增来源
- 11月6日新增1个来源（1家媒体、0个账号）
- 11月7日新增0个来源（0家媒体、0个账号）
- 11月8日新增0个来源（0家媒体、0个账号）
- 11月9日新增0个来源（0家媒体、0个账号）
- 11月10日新增2个来源（1家媒体、1个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）