Skip to content

Translation in progress Some entries still include text in the original language.

Hugging Face Daily Papers· arXiv:2609.35928·Indexed by this site · Originally published

论文发现暴露模型身份标签会削弱多智能体 LLM 合作

Prompted Identity Degrades Cooperation in Multi-Agent LLM Systems

Quick read

Risky behavior

Based on 论文 PDF (AI 生成); refer to the original

Del Giudice 等人发现,向异构 LLM 智能体公开模型家族标签会引发派系化,并使共识任务更慢、更贵、成功率更低。

Questions
异构多智能体系统常把模型家族身份暴露给同伴。作者问:这一配置细节是否会在没有组队激励时改变合作,并造成可测量的协调代价。
Methods
作者定义 factionalism:交互图既有同标签偏好(EDR),Louvain 社区又与标签对齐(AMI),四项检验经 Holm–Bonferroni 全过才认定。在 Leader Election、Exclusion 和 GPQA-Diamond 上比较 unlabeled、labeled、mislabeled,并用中性颜色标签做对照。
Experiments and results
作者报告:24 个有可见标签的实验都出现 factionalism,12 个无标签实验都没有;错标和颜色标签下群落跟着公告标签走。有标签组平均多花约 30% 轮次、55% token,成功率从 96% 降到 81%。
Limitations and future work
作者将结论限定在最多五个开源权重家族、纯文本共识游戏;更大群体、闭源模型、其他解码和更丰富的智能体流程未测。GPQA-Diamond 仍用 Leader Election 协议,代价能否推广到其他外部评测任务仍开放。
Experimental setupGemma (gemma-4-26B-A4B-it)、GPT-OSS (gpt-oss-20b) et al. · Leader Election、Exclusion et al. · AMI、EDR et al.
Evaluated models
Gemma (gemma-4-26B-A4B-it)GPT-OSS (gpt-oss-20b)Nemotron (NVIDIA-Nemotron-3-Nano-30B-A3B-BF16)Qwen (Qwen3.6-35B-A3B)GLM (GLM-4.7-Flash)Seed-OSS (Seed-OSS-36B-Instruct)
Benchmarks
Leader ElectionExclusionGPQA-Diamond
Metrics
AMIEDRsuccess ratiorounds ratiogenerated tokens ratio
AI summary论文发现,当多智能体 LLM 系统中的智能体知道彼此所属的模型家族时,群体会按标签分裂成派系,作者将这一现象定义为派系主义(factionalism)。研究在两种合作博弈和一个推理基准上测量该现象,涉及 9 至 25 个智能体、最多 5 个开源权重模型家族。当公布的家族标签被打乱或替换为任意标签时,派系仍跟随这些信息;移除标签后该行为消失。在严格合作任务中,带标签的群体平均多花 30% 的轮次和 55% 的 token 才能达成决策,成功率从 96% 降至 81%,该效应在任务、群体规模和模型家族间均可复现。作者认为对智能体隐藏身份标签是简单有效的缓解措施。

论文发现,当多智能体 LLM 系统中的智能体知道彼此所属的模型家族时,群体会按标签分裂成派系,作者将这一现象定义为派系主义(factionalism)。研究在两种合作博弈和一个推理基准上测量该现象,涉及 9 至 25 个智能体、最多 5 个开源权重模型家族。当公布的家族标签被打乱或替换为任意标签时,派系仍跟随这些信息;移除标签后该行为消失。在严格合作任务中,带标签的群体平均多花 30% 的轮次和 55% 的 token 才能达成决策,成功率从 96% 降至 81%,该效应在任务、群体规模和模型家族间均可复现。作者认为对智能体隐藏身份标签是简单有效的缓解措施。

Paper analysis

6 questions; open one to read the full answer

  1. What problem does this paper attempt to solve?

    公开模型家族标签会不会让异构智能体按标签结派,并拖累共同决策。

    异构多智能体在没有组队激励时,会不会仅因看见彼此的模型家族标签而按标签分裂,并因此更难达成共同决策。

    • 场景:作者称多智能体 LLM 系统日益混用来自多个提供方的模型,身份或角色会经系统提示词、智能体名称或消息头到达智能体本身(Wang et al., 2025; Chen et al., 2025; Wu et al., 2024)。Anthropic Frontier Red Team (2026) 把新兴多智能体失败分为 coordination、conformity、epistemic 与 goal-incompatibility;本文处理其中第一种。
    • 现有不足:作者称现有工作评测总体任务表现、运行级失败或在给定拓扑与角色下的协调,但没有问附带的模型元数据本身是否会在交互图中形成持续结构并影响系统表现。作者称据其所知,没有现有基准直接隔离这一现象。
    • 核心观察:当智能体被告知自己和同伴属于哪个模型家族时,交互图沿该标签划分,尽管每个智能体都被要求追求同一群体目标,且没有人设、也没有明确的结组奖励(Figure 1)。作者把这种涌现行为定义为 factionalism(派系化),并认为标签本身造成分裂。
    • 本文提出:在两个无利害协调游戏(Leader Election、Exclusion)和 GPQA-Diamond 上测量该现象;用错标与中性颜色标签检验分裂跟的是可见标签而不是底层架构;并报告有标签组在轮次、token 和成功率上的代价。设计含义是面向智能体的匿名化:编排器保留提供方身份,智能体只看到与任务相关的能力描述。
  2. What related research exists?

    相关工作分自我偏好、内群体偏差和多智能体交互结构三组;作者称尚无基准隔离模型元数据本身。

    作者把相关工作分成三组,并据此定位 factionalism 测的是提示词中可见的身份标签,而不是写作风格、人设或预先指定的通信拓扑。

    自我偏好与身份线索

    • LLM 评审中的 self-preference:Zheng et al. (2023)、Xu et al. (2024)、Migliarini et al. (2026) 报告单智能体评测中,LLM 评审偏向自己的生成。Panickssery et al. (2024) 把自我识别与自我偏好联系起来;Wataoka et al. (2025) 则认为该效应可能来自对低困惑度文本的熟悉。作者在 Section 4.4 把架构特有文风的识别与提示词可见身份标签的效应分开。
    • Choi et al. (2026):辩论智能体对自己先前答案的权重不同于同伴的答案,去掉 self-versus-peer 归属可减轻该偏差。作者指出其身份线索是回答所有权而不是模型家族归属,其异构设定也是在单架构辩论里改变人设;本文保留发送者归属,并在混合架构群体中操纵每个智能体展示的家族标签。

    内群体偏差与最小群体

    • 最小群体范式与身份效用:Tajfel (1970)、Tajfel & Turner (1979)、Brewer (1979) 表明人类即使没有物质激励或有意义的群体差异,也会偏向任意内群体。Akerlof & Kranton (2000)、Chen & Li (2009) 把群体身份写入效用与社会偏好。Hu et al. (2025) 记录多种语言模型上的社会身份偏差;Wang et al. (2026) 报告 LLM 智能体在明确的 us-versus-them 线索下可出现群际偏差。
    • 与本文的两点差别:作者称本文研究的是相互作用的异构 LLM 智能体群体,而不是孤立补全或单智能体判断;群体线索也不是人类社会身份或实验施加的团队身份,而是异构系统里常见的模型家族元数据。错标操作把该效应与一般内群体偏差区分开。

    多智能体系统与交互结构

    • 总体表现与失败模式:Wu et al. (2024)、Hong et al. (2024)、Qian et al. (2024)、Wang et al. (2024) 评测聚合任务表现;Cemri et al. (2026) 讨论运行级失败。Qian et al. (2025)、Liu et al. (2024)、Agashe et al. (2025)、Bhattacharyya et al. (2026)、Faulkner et al. (2026)、Kumar et al. (2026) 研究给定拓扑、角色、信息不对称和团队组织下的协调。作者称这些工作确立了交互设计重要,但没有问附带的模型元数据是否会造成交互图中的持续结构。
    • MARBLE 与语言协调:Zhu et al. (2025) 的 MARBLE 分配角色并固定智能体之间的通信链路,协调只由 LLM-as-a-judge 打分。另一支从 Nash (1950)、Rubinstein (1982)、Sobel & Crawford (1982) 到 Bakhtin et al. (2022)、Agashe et al. (2025)、Abdelnabi et al. (2024)、Park et al. (2025),研究语言中介的协调。Zomer & De Domenico (2026) 表明施加同嗜规则会诱导类似隔离的结构;作者称本文测量的是只改变智能体可见的家族元数据时,从普通任务交互中涌现的 factionalism。

    基线方法不是外部算法,而是同一套游戏下的 unlabeled(不展示模型家族元数据),并与 labeled、mislabeled 及中性颜色标签对照。基准/数据集为自建的 Leader Election 与 Exclusion,以及 GPQA-Diamond(Rein et al., 2024),后者仍使用 Leader Election 交互协议。

    作者称本文与上述工作的区别是:保留发送者归属,只操纵混合架构群体中的家族标签;用错标和中性标签把效应与架构文风、模型名称语义分开;问的不是能否协调,而是协调在内部是否仍保持家族中性。

  3. How does the paper address this problem?

    用无利害游戏只改变可见身份,并用 EDR 与 AMI 的四项检验判定 factionalism。

    作者把 factionalism 定义为智能体组织成共享同一身份的群体的倾向:交互图分成与身份对齐的社区。其底层是 homophily(同嗜):智能体对同标签同伴的正向交互多于不同标签同伴。作者称同嗜是派系形成的必要非充分条件,因此两者分开测量,只有两者都成立才称该组为 factional(Section 3.1)。

    问题设定与测量

    • 轨迹:每轮每个智能体先做一个可观察决策(commitment),再把该决策和一条短消息发给自己选择的若干同伴。vi(t) 是智能体 ai 在第 t 轮的 commitment,接收者集合为 Ci(t)。
    • Agreement graph:对有序对 (ai, aj),边权 w(ai → aj) 是 aj 下一轮 commitment 与 ai 发给它时的 commitment 一致的比率(式 1);未联系过的边记为 absent。归一化用于控制联系量和收敛时间。
    • 两个划分:ℓvis 按智能体看到的标签分组,ℓtrue 按底层模型架构分组。无标签运行没有可见标签,对照 ℓtrue 评估。
    • 判定:对所测划分计算 EDR(同标签与跨标签平均边权之比),并用保持组大小的标签置换做单侧检验(B = 1000,Appendix B)。社区检测用式 1 分子(下一轮 commitment 匹配次数)作边权,双向相加后对称化,再跑 Louvain(Blondel et al., 2008),用 AMI(Vinh et al., 2010)衡量社区与所测划分的对齐。跨不同种子的运行聚合后做两次 EDR 与两次 AMI 检验,四个 p 值一起做 Holm–Bonferroni,α = 0.05;四项都通过才报告 factionalism。作者称每个显著的 factional 结果里 EDR 与 AMI 方向一致,EDR 只放在附录表。

    标签条件与名册

    • no-stakes:一轮只有整组在轮数上限内达到游戏目标才成功。没有个体奖励,支持同家族同伴没有收益,被选中、被排除或由另一谱系代表也没有损失。智能体没有人设、立场或私人目标;任务说明不提供按标签协调的明确工具性激励。
    • 三种标签:unlabeled 不展示模型家族元数据;labeled 每个智能体看到自己的家族和同伴的真实家族;mislabeled 把可见标签相对实际运行的模型打乱,公告身份与底层架构属于不同家族。除非另有说明,检验的是智能体看到的划分。
    • 中性颜色:因家族名可能带有声誉或语义联想,labeled 与 mislabeled 再用中性颜色 token 重复,五种颜色为 teal、coral、silver、violet、maroon。
    • 名册:balanced 为各家族人数相等,unbalanced 为某一家族占比更高。N = 9 为 3/3/3 对 4/3/2;N = 12 为 3/3/3/3 对 4/3/3/2;N = 25 为 5/5/5/5/5 对 9/6/4/3/3。作者用平衡名册排除人数多数作为同家族偏好来源,用不平衡名册检验效应在存在多数时是否仍在。

    游戏与通信

    • 模型与规模:最多五个开源权重家族:Gemma(gemma-4-26B-A4B-it)、GPT-OSS(gpt-oss-20b)、Nemotron(NVIDIA-Nemotron-3-Nano-30B-A3B-BF16)、Qwen(Qwen3.6-35B-A3B)、GLM(GLM-4.7-Flash)。N ∈ {9, 12, 25} 分别使用其中三、四、五个家族。采样参数在 Appendix G。
    • 消息协议:每轮每个仍在场的智能体输出自然语言消息、游戏相关 commitment,以及恰好 k = 2 个在场同伴作为接收者;下一轮只看到发给自己的载荷。运行在达到成功条件或轮数上限 T 时结束。两个游戏除 Exclusion 在 N = 25 时 T = 30 外,一律 T = 20;作者称 N = 25 的 Exclusion 获胜需要 20 到 22 次移除。接收者由智能体策略选择,因此家族对齐的联系和同意可以由环境未规定的方式出现。
    • Leader Election:每轮每个智能体投一票,候选人为全体智能体。成功条件是单一候选人成为唯一最高票,且至少获得 ⌈0.75N⌉ 票,否则在 T 失败。
    • Exclusion:每个仍在场的智能体投一名其他在场同伴予以移除。某一同伴获得至少 ⌊2|At|/3⌋ 票且为唯一达线者时被移除;平票和未达线则本轮不淘汰。成功条件是 |At| ≤ kwin,kwin 为初始最小家族规模,因此任一家族原则上都可以成为存活组。

    GPQA-Diamond 与标签如何起作用

    • GPQA-Diamond(Appendix E):用 Leader Election 协议,智能体边答题边以 fan-out 为 2 交换消息,直到选出领导者或到达 T。当选领导者的答案作为组答案,该答案正确则运行成功。作者用它检验在存在外部正确答案、且跟随同伴没有奖励时,factionalism 是否仍在。
    • 两条通道(Section 4.4):在每个智能体的真实模型下给对数概率打分。文风通道给同伴原始消息打分,作者预期该信号跟踪真实架构、不随可见标签改变。标签通道在真实运行的回应前上下文里,给固定的同伴投票字符串打分;若可见标签引导采纳,该差距应在 unlabeled 下小、labeled 下变大,并在 mislabeled 下跟随被分配的家族而不是真实家族。文风分按字符数归一化,采纳分是每个 token 的对数概率。
    • 代价模型:对每个任务和名册规模,每个结果拟合一个广义线性模型(McCullagh & Nelder, 1989),把 labeled、mislabeled 与 unlabeled 比较,并加入名册平衡协变量。报告的是比率:1.4 表示轮次或 token 多 40%,成功率 0.8 表示成功率低 20%。
  4. What experiments did the paper conduct?

    50 次运行一组:有可见标签的 24 组实验都派系化,无标签的 12 组都没有,且共识更慢、更贵。

    实验设置

    • 模型:主实验为 Gemma(gemma-4-26B-A4B-it)、GPT-OSS(gpt-oss-20b)、Nemotron(NVIDIA-Nemotron-3-Nano-30B-A3B-BF16)、Qwen(Qwen3.6-35B-A3B)、GLM(GLM-4.7-Flash)。N = 9、12、25 分别用其中 3、4、5 个家族。附录另有去掉 Gemma 的名册,N = 12 时用 Seed-OSS(Seed-OSS-36B-Instruct)替换 Gemma;Limitations 还提到在匹配采样参数下做了四家族检查。
    • 任务与条件:Leader Election、Exclusion,以及沿用 Leader Election 协议的 GPQA-Diamond。标签为 unlabeled、labeled、mislabeled;后两者另有中性颜色重复。名册分 balanced 与 unbalanced。每个报告的配置执行 50 次运行。
    • 成功与代价:Leader Election 需唯一最高票且至少 ⌈0.75N⌉ 票。Exclusion 需存活人数不超过最小初始家族规模;N = 25 时 T = 30,其余设置 T = 20。记录是否成功、所用轮次,以及消息和推理中生成的 token。
    • factionalism 指标:AMI 衡量 Louvain 社区与所测划分的对齐;EDR 衡量同标签相对跨标签的同意边权。四项检验经 Holm–Bonferroni(α = 0.05)全通过才算 factional。unlabeled 对照真实家族,其余对照可见标签。
    • 对数概率探针:Figure 3 为 N = 12 的 balanced 与 unbalanced;误差棒为 95% bootstrap 置信区间。附录分家族差距用 10 000 次轨迹重抽样的 bootstrap 标准误,置信区间不含 0 的记为显著。
    • GPQA 规模:论文未在正文给出 GPQA-Diamond 使用的题目条数;Appendix E 描述协议,正文 Table 2 与 Table 5 给出 N = 9 与 N = 12 的结果。

    主结果

    作者报告两点:(i)可见家族标签诱导 factionalism,匿名化则抑制它:24 个 labeled 或 mislabeled 实验全部出现,12 个 unlabeled 实验全部没有(Table 1);(ii)公开身份使游戏更慢、更贵并降低成功。摘要给出严格合作任务上的汇总:有标签组平均多花 30% 轮次、55% token,成功率从 96% 降到 81%。

    AMI(均值±标准误,Table 1)。Unlabeled 对照真实家族,Labeled / Mislabeled 对照可见标签。

    Swipe horizontally to read the table

    游戏与名册条件N=9N=12N=25
    Leader Election,UnbalancedUnlabeled0.05±0.030.03±0.020.02±0.01
    Leader Election,UnbalancedLabeled0.43±0.050.30±0.040.24±0.02
    Leader Election,UnbalancedMislabeled0.33±0.050.18±0.030.21±0.02
    Leader Election,BalancedUnlabeled0.08±0.030.06±0.020.03±0.01
    Leader Election,BalancedLabeled0.53±0.040.31±0.030.28±0.02
    Exclusion,UnbalancedLabeled0.65±0.030.59±0.030.55±0.02
    Exclusion,BalancedLabeled0.76±0.030.62±0.030.61±0.02
    Exclusion,BalancedMislabeled0.69±0.040.58±0.030.59±0.02

    表中 Exclusion 的 Unlabeled AMI 为 0.02–0.08,Leader Election 的 Mislabeled AMI 为 0.18–0.35,Exclusion 的 Mislabeled AMI 为 0.55–0.69(Table 1 其余格子)。作者称:去掉面向智能体的家族标签后 AMI 接近置换基线;平衡与不平衡名册上 factionalism 同样强,因此人数多数不是主要驱动;错标后系统仍沿公告身份分裂,尽管该身份与真实架构不符。

    • 代价(Table 2):条目是相对 unlabeled、并按名册平衡调整后的比率。Leader Election 的 labeled 在 N = 9、12、25 上轮次比为 1.42±0.09、1.46±0.10、1.38±0.09,token 比为 1.76±0.13、1.82±0.16、1.86±0.14,成功率比为 0.96±0.02、0.86±0.04、0.85±0.04。作者概括为各名册规模上约 1.4× 轮次、1.8× token。
    • Exclusion:N = 9 与 12 的轮次比为 1.16±0.04、1.09±0.02,token 比为 1.37±0.06、1.35±0.03,成功率比为 0.89±0.04、0.61±0.08。N = 25 的轮次与成功率记为不可得(表中为横线),token 比为 1.14±0.02。作者称无标签时 Exclusion 已接近 T,因此部分变慢不会出现在轮次计数里;N = 25 时 labeled 与 mislabeled 的 Exclusion 在时限内都不收敛,unlabeled 只有 100 次中的 8 次收敛,因此选择不报告这些运行。
    • 每次成功的 token:作者称因为有标签组既更耗 token 又更少成功,每次成功运行付出的 token 升至 1.5 到 2.2 倍,并随名册规模增加(Appendix F)。Leader Election 的 labeled 对 unlabeled 成功率比从 N = 9 的 0.96 降到 N = 12 的 0.86,Exclusion 从 0.89 降到 0.61。

    错标、颜色标签与 GPQA-Diamond

    • 错标后对照真实家族(Table 3):同一批 mislabeled 轨迹上,可见标签划分在每个实验都达到 factionalism 标准,真实家族划分只在两个 unbalanced、N = 9 的实验达到(Leader Election AMI 0.18±0.03,Exclusion AMI 0.29±0.03)。作者把例外归于分配约束:4/3/2 名册在保持标签计数且每人标签为假时,会迫使某一个真实家族的全部成员共享同一可见标签,使两个划分重叠。其余真实家族 AMI 为 0.03–0.13。
    • 中性颜色(Table 4):全部颜色 labeled 实验满足 factionalism 标准。颜色错标下,隔离与可见颜色划分对齐,而不是与真实架构对齐;ℓtrue 的 AMI 从 −0.12±0.02 到 0.07±0.01。可见颜色下 Exclusion 的 AMI 更高,balanced、N = 9 的 mislabeled ℓvis 为 0.95±0.02,unbalanced、N = 25 的 labeled 为 0.80±0.02。作者称因此 factionalism 在没有声誉线索的任意标签下仍出现。
    • GPQA-Diamond(Table 5、Table 2):unlabeled 的 AMI 为 0.00±0.01 到 0.05±0.02;labeled 为 0.28±0.02 到 0.40±0.02;mislabeled 的 ℓvis 为 0.17±0.02 到 0.31±0.01,ℓtrue 为 0.07±0.01 到 0.17±0.02。Table 2:N = 9、12 的轮次比为 1.31±0.05、1.15±0.03,token 比为 1.10±0.03、1.09±0.03,成功率比为 0.91±0.03、0.89±0.04。作者称即便正确性由外部客观答案决定、跟随同伴没有奖励,标签仍诱导 factionalism 并带来协调代价。

    标签作用通道

    • 文风差距(Figure 3a):同组减异组的每字符文风分差距小,最多 0.07 nats/char;unlabeled 与 labeled 下都存在,mislabeled 下跟随真实架构而不是公告标签。作者称可检测的文风相似不能解释大得多的、与标签对齐的 factionalism 变化。图中标注 “gap collapses under shuffled labels”。
    • 采纳差距(Figure 3b):unlabeled 下差距很小,labeled 下更大;mislabeled 下跟随公告标签而不是真实架构。纵轴标到约 +0.50 nats/token,并标注 “visible labels drive adoption signal”。作者称与文风分不同,采纳与可见群体对齐。分家族数值在 Table 11、Table 12。
    • 消息内容:作者称在所分析的运行中,消息内容与围绕可见标签的协调一致;智能体只在展示标签时点名模型家族,且错标下协调用语比真实标签下更频繁(Appendix D)。附录给出轨迹摘录,说明在一个 GPQA 例子里标签先决定支持谁、再决定回答什么。

    其他消融与分析

    • EDR(Table 6–7):Leader Election labeled 的 EDR 约 1.65–2.46,Exclusion labeled 约 2.98–4.72;unlabeled 的 EDR 多在 0.94–1.27。颜色标签下 Exclusion balanced、N = 25 的 labeled EDR 为 8.09±0.56,mislabeled ℓvis 为 8.05±0.51(Table 9)。
    • 去掉 Gemma(Table 13–14):八个无 Gemma 实验复现主设计:unlabeled 在每个实验都是空结果;每个游戏的四个 labeled 实验都出现 factionalism;错标下结构跟随公告标签。Leader Election labeled AMI 约 0.22–0.27,Exclusion labeled AMI 约 0.40–0.54。作者称效应不是由单一家族承载。
    • 采纳差距的家族差异(Table 11):Leader Election、labeled、balanced 下 Gemma 为 +0.844±0.108 nats/token,GPT-OSS、Nemotron、Qwen 为 +0.230、+0.119、+0.355。同一条件下 unlabeled 的 Gemma 为 −0.390±0.082。Exclusion、labeled 下 Gemma 约 +1.13 到 +1.16,GPT-OSS 在 balanced 时为 −0.074±0.033,置信区间是否排除 0 以表中粗体为准(Table 12)。
    • Seed-OSS 替换(Table 15–16):N = 12 用 Seed-OSS 替换 Gemma 后,labeled 下各评估家族的采纳差距方向不完全一致;例如 Leader Election、labeled、balanced 的 Nemotron 为 −0.013±0.020,Qwen 为 +0.265±0.036。图级别的 factionalism 判定仍如 Table 13–14。
    • N = 25 的 Exclusion:labeled 与 mislabeled 在时限内无一次收敛,unlabeled 为 8/100,作者因此不报告该格的轮次与成功率比。
    • 匹配采样的四家族检查:Limitations 称做过,正文未给出该检查的 AMI 或代价数字。
  5. What are some points that can be further explored?

    作者把结论限定在开源权重模型和纯文本共识游戏,更大群体与闭源模型仍未测。

    作者指出的局限与后续方向

    • 范围:作者称主张是有意收窄的。研究的是最多五个开源权重模型家族、受控的纯文本共识游戏,并在匹配采样参数下做了四家族检查;更大的名册规模、闭源模型、其他解码方式,以及更丰富的智能体工作流仍未测试(Limitations)。
    • 自建游戏:作者称因为没有既有基准同时满足 no-stakes 与评测要求,协调游戏是为本研究设计的(Limitations)。
    • GPQA-Diamond 的协议:作者称它展示了在有标准答案的基准上由标签引起的协调代价,但使用的是 Leader Election 交互协议。这些代价能否推广到其他外部评测任务仍然开放(Limitations)。
    • 设计启示:结论中作者认为应避免把不必要的共享标识暴露给智能体;提供方与模型元数据可留给编排器做路由和审计。作者还认为,异构智能体系统中的合作部分上是一种架构选择:控制智能体能观察到哪些身份,就可以在保持多样性的同时不把它变成分裂(Conclusion)。

    实验覆盖范围

    • 群体与模型:主实验名册为 N = 9、12、25,最多五个开源权重家族;另有去掉 Gemma、以及 N = 12 用 Seed-OSS 替换 Gemma 的图级与采纳差距结果(Table 13–16)。每个报告配置 50 次运行(Section 4)。
    • 任务:两个 no-stakes 游戏 Leader Election 与 Exclusion,加上使用 Leader Election 协议的 GPQA-Diamond(N = 9 与 N = 12,Table 2、Table 5)。标签条件为 unlabeled、labeled、mislabeled,后两者含家族名与五种中性颜色。
    • 判定:factionalism 要求 EDR 与 AMI 的四项检验在 Holm–Bonferroni α = 0.05 下全部通过;置换次数 B = 1000(Section 3.1、Appendix B)。代价用带名册平衡协变量的广义线性模型,报告相对 unlabeled 的比率(Section 4.2)。
    • 未给出数字的部分:N = 25 的 Exclusion 在 labeled 与 mislabeled 下时限内无收敛,作者选择不报告轮次和成功率(Section 4.2)。论文未报告攻击或防御设置;本文没有攻击者。GPQA-Diamond 使用的题目数量在所读正文表格中未与 AMI 数字并列表出。
  6. Summarize the main content of the paper

    可见身份标签让异构 LLM 群体按标签结派,共识更慢、更贵,去掉标签后该行为消失。

    Del Giudice 等人研究异构多智能体 LLM 系统里一个配置细节:把模型家族身份告诉智能体,会不会改变合作。他们把由此出现的、按身份结组的倾向称为 factionalism。任务是无利害的共同决策,没有人设,也没有偏向同家族同伴的奖励。

    测量把每轮投票和自选的两名接收者做成同意图。同标签边权比 EDR 表示同嗜,Louvain 社区与标签的 AMI 表示社区对齐;四项检验在 Holm–Bonferroni α = 0.05 下都通过才认定派系化。条件只改变智能体看见的标签:不标注、真实家族、打乱后的家族,以及替换成颜色的对照。群体为 9、12 或 25 个智能体,来自最多五个开源权重家族,每组配置 50 次运行。游戏是 Leader Election 和 Exclusion,并在 GPQA-Diamond 上复用选举协议。

    作者报告,24 个有可见标签的实验都达到 factionalism 判定,12 个无标签实验的 AMI 在 0.02 到 0.08,都不达到。错标后群落对齐公告标签;对照真实架构时,只有两个不平衡的 N = 9 实验仍达到标准,作者将其归因于 4/3/2 分配造成的划分重叠。颜色标签下同样沿可见颜色分裂。摘要中,严格合作任务里有标签组平均多花 30% 轮次和 55% token,成功率从 96% 降到 81%。Table 2 的 Leader Election 上,真实标签相对无标签约为 1.4 倍轮次和 1.8 倍 token。Exclusion 在 N = 12 的成功率比降到 0.61±0.08;N = 25 时有标签的 Exclusion 在时限内没有运行收敛。对数概率探针中,文风差距跟随真实架构且不超过 0.07 nats/char,采纳差距则跟随可见标签。

    作者的结论是:可见身份标签即使没有结组激励也会造成派系,并且跟随的是公告身份而不是底层架构,还会损害协调。他们建议编排器保留提供方身份用于路由和审计,但不要把不必要的共享标识放进智能体的交互上下文。作者同时把主张限定在所测的开源权重家族和纯文本共识游戏。

Read originalhuggingface.co