Colosseum：审计合作式多智能体系统中的串谋行为

研究者提出 Colosseum，一个用于审计合作式 LLM 多智能体系统中串谋行为的框架。该框架把协作任务建模为分布式约束优化问题（DCOP），用相对合作最优的遗憾指标衡量基于行动的串谋，并用 LLM-as-a-judge 评估基于对话的串谋。作者引入秘密通信通道作为行为探针，在 19 个模型上发现，Emergent 组 57.89%、Prompted 组 78.95% 的模型出现基于行动的串谋，并观察到模型在文本中计划串谋、行动上却常不串谋的“纸上串谋”现象。论文还给出针对高杠杆智能体、私有通道和通信拓扑的缓解建议。

Deep readingGenerating