跳到正文
原文

通过信息网络引导多智能体 LLM 系统中的涌现行为

Steering Emergent Behavior in Multi-Agent LLM Systems via Information Networks

arXiv:越狱、提示注入、投毒与防御· arXiv:2611.11714· Sepehr Ilami, Babak HeydariDepartment of Mechanical and Industrial Engineering, Northeastern University; Network Science Institute, Northeastern University本站收录· 2 天前· 原文发表对齐

论文速读

分析与理论

据论文 PDF 整理(AI 生成),以原文为准

作者用 10 个 qwen2.5:7b 智能体玩 6 种重复博弈,称信息量的福利效应取决于激励对齐:错位时模块化 barbell 布线最差。

问题
多智能体 LLM 系统中,运营者能控制谁观察谁、但不能改收益和消息时,如何设计观察结构以提升集体福利。作者称交互网络往往不可改,而信息网络可作为治理杠杆。
方法
10 个相同的 qwen2.5:7b 智能体玩 6 种重复博弈 20 轮,管理者在固定预算下添加有向观察链接;分别扫描信息预算 K(RQ1)、在 E=40 下比较四种拓扑(RQ2),并做探索性时序分析。
实验与结果
作者报告:对齐博弈中福利随 K 上升、错位博弈中下降,pgg 在 K=0 时福利最高;E=40 时拓扑只在错位博弈中有影响,模块化 barbell 在全部三个错位博弈中最差;时序效应经多重比较校正后不存活。
局限与可以继续做的
作者列出四条局限:单一模型、仅一个反协调博弈、时序结果仅为探索性、N=10 下结构指标共变无法单指标归因;实验只用 qwen2.5:7b,每格 12 seeds。
实验设置qwen2.5:7b · sum_guessing、stag_hunt 等 · discounted welfare、Spearman rank correlation 等
被测模型
qwen2.5:7b
基准
sum_guessingstag_huntbanditpggthreshold_pggel_farol
指标
discounted welfareSpearman rank correlationCliff's δKruskal–Wallis omnibus p
AI 导读研究者把智能体间“谁观察谁”的信息网络作为独立于交互网络的设计对象,在十个体相同的 LLM 智能体重复群体决策实验中研究观察结构如何影响集体福利。实验覆盖 1080 组、六类博弈,结果显示信息公开形成行为耦合,其价值取决于个体有利行为与集体目标是否一致,在搭便车或拥挤外部性下会放大有害行为,公共品博弈中群体在完全不分享信息时表现最好。固定预算下谁观察谁主要在耦合有害时才重要,让子群体固化有害行为的模块化“杠铃”结构稳定地最差。作者称这一符号分离是单一受控 LLM 群体内的跨博弈规律而非模型不变定律,并据此反对对智能体集体默认采用完全透明。

研究者把智能体间“谁观察谁”的信息网络作为独立于交互网络的设计对象,在十个体相同的 LLM 智能体重复群体决策实验中研究观察结构如何影响集体福利。实验覆盖 1080 组、六类博弈,结果显示信息公开形成行为耦合,其价值取决于个体有利行为与集体目标是否一致,在搭便车或拥挤外部性下会放大有害行为,公共品博弈中群体在完全不分享信息时表现最好。固定预算下谁观察谁主要在耦合有害时才重要,让子群体固化有害行为的模块化“杠铃”结构稳定地最差。作者称这一符号分离是单一受控 LLM 群体内的跨博弈规律而非模型不变定律,并据此反对对智能体集体默认采用完全透明。

相关热点

1 个事件 · 0 条新闻提到

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    运营者只能控制智能体观察结构时,如何设计信息网络以提升多智能体 LLM 系统的集体福利。

    核心问题:当运营者能控制哪个智能体观察哪个智能体、但不能改收益或消息时,观察结构应如何设计才能让群体获得更高集体福利。

    • 场景与动机:作者称 LLM 智能体越来越多地成群行动(谈判、资源分配、协调与竞争),其集体行为无人直接设计;交互网络(谁与谁交易)通常是外生的、不可重连,而信息网络(谁观察谁)与交互网络解耦,是运营者仍可用的杠杆。
    • 现有治理手段的不足:按论文说法,已有杠杆多作用于智能体本身或其耦合——人设与角色、微调策略、通信协议、激励与收益;交互网络虽研究最多,但往往不可改。作者称信息网络这一杠杆受到的关注相对较少。
    • 核心观察(行为耦合):作者提出观察会制造行为耦合——智能体看到同伴过去的行为后会更强地据此调整自己的选择,观察因此成为传染通道;其福利效应取决于个体有吸引力的行为与集体目标是否对齐,因此更多信息未必更好。
    • 论文做了什么:10 个相同的 LLM 智能体玩 6 种重复群体决策博弈(协调、反协调、社会困境、发现),管理者在预算约束下添加有向观察链接;依次问两个问题——RQ1 分享多少信息、RQ2 固定预算下谁观察谁,外加一个探索性的披露时序分析。
    • 设定要点:默认每个智能体只看到自己历史和群体上一轮结果的匿名摘要;链接只揭示已完成轮次的动作、不揭示收益;管理者在第 1 轮后提交网络并固定。论文称 1,080 个 episode 的结果支持一条设计规则:反对默认完全透明。
  2. 有哪些相关研究?

    相关工作分四组:多智能体 LLM 系统、LLM 群体涌现行为、信息价值与社会学习、智能体 AI 的信息网络设计。

    多智能体 LLM 系统

    • Du et al. (2024) 的多智能体辩论、Hong et al. (2024) 与 Qian et al. (2024) 的角色化软件团队、Wu et al. (2024) 的 AutoGen 对话框架、Park et al. (2023) 与 Gao et al. (2023) 的社会模拟;综述见 Wang et al. (2024)、Xi et al. (2025)、Guo et al. (2024)。
    • 论文指出这些系统把消息当作协调媒介,而本文关闭通信信道,只把观察网络作为设计对象,以隔离信息结构与消息内容的作用。

    LLM 群体的涌现集体行为

    • Ashery, Aiello, and Baronchelli (2025) 记录涌现惯例与集体偏差;Riedl (2026) 研究涌现协调;Ren et al. (2024) 研究规范形成;Piatti et al. (2024) 研究稀缺下的可持续合作;Maini, Goldstone, and Tiganj (2026) 记录 LLM 与人类群体行为的差异。
    • 论文称这些工作确立了 LLM 群体存在真正的涌现,本文问的是互补的设计问题:如何塑造涌现所依托的信息基底。

    信息价值与网络上的社会学习

    • Hirshleifer (1978) 与 Morris and Shin (2002) 的经典结果:策略性场景下更多公共信息可能降低福利。
    • 机制侧借鉴网络上的模仿与社会影响模型(DeGroot 1974;Golub and Jackson 2010;Friedkin and Johnsen 1990;Flache et al. 2017),以及社会影响会同步错误、损害集体准确性的发现(Lorenz et al. 2011;Centola and Macy 2007);还有探索/利用的网络权衡(Lazer and Friedman 2007;Mason and Watts 2012)与群体决策研究(Stasser and Titus 1985;Woolley et al. 2010;Roberts and Goldstone 2011)。

    智能体 AI 的信息网络设计

    • 与本文 framing 最接近的是把信息流当作多智能体 AI 治理机制的工作:Chen et al. (2026) 自适应调节智能体可观察的内容,Ebrahimi et al. (2026) 研究网络不透明如何驱动策略升级。

    基线与基准:本文不是提出新方法再与基线对比的设定;对照是同一受控人群内的条件对比——RQ1 以 K=0(无信息)为基线、K=90(完全有向图)为另一端,RQ2 在 E=40 下比较 hub、regular、expander、barbell 四种拓扑;评测环境为作者自建的六个博弈(sum_guessing、stag_hunt、bandit、pgg、threshold_pgg、el_farol,Table S1)。

    作者将本文定位为:把信息价值与社会学习理论移植到 LLM 群体,给出信息量与观察拓扑如何映射到福利的受控、跨博弈刻画,时序问题作为探索性扩展。

  3. 论文如何解决这个问题?

    固定智能体策略,只操纵观察网络:扫信息预算 K 回答 RQ1,固定 E=40 比四种拓扑回答 RQ2,另做探索性时序分析。

    整体思路:把信息网络(谁观察谁)作为唯一被操纵变量,在固定交互结构、固定智能体策略的受控人群上做因果识别,依次回答信息量(RQ1)与拓扑(RQ2)两个问题。

    问题设定与形式化

    • N=10 个相同智能体玩 T=20 轮;每轮智能体 i 选动作 ati、得收益 uti。默认只见自己历史和群体上一轮结果的匿名摘要,从不见具体同伴的行为。
    • 管理者选有向网络 G=(N,E),链接 i→j 表示 i 观察 j 的过往动作,预算至多 K 条;链接只揭示已完成轮次的动作、不揭示收益;第 1 轮后提交并固定。
    • 目标为最大化群体折扣累计福利 W(G)=𝔼∑t=1Tγt−1∑i uit(G),γ=0.95,即越早达到高福利越好;纯协调博弈用与目标的接近程度作福利。
    • 全部智能体用同一个开放权重模型的相同实例、同一基础提示词,只有信息块不同;作者称这是为了把集体行为中的结构归因于信息网络而非偏好差异,模型是"受控随机策略基底"而非所有 LLM 的代表样本。

    行为耦合机制

    • 采用图上模仿的标准模型(DeGroot 1974;Golub and Jackson 2010):每个智能体朝其观察同伴的平均动作调整,同时被反馈信号拉向博弈特定目标。
    • 线性近似为 at+1=ηθ⋆ 1+((1−η−κ)I+κ M)at,κ 为模仿强度、η 为反馈强度、M 为行归一化观察矩阵;混合速率由 M 的谱隙决定,符号由个体有吸引力行为与集体目标的对齐决定。
    • 由此得到一个待检验(而非假设)的统一假说:信息的福利效应 ≈ 行为混合速度 × 被传播行为是否对齐的符号;作者强调符号是人群在耦合下的涌现性质,不是从博弈标签推出的。

    六个博弈

    • 按对齐性质分组而非按"合作/竞争"标签:相对对齐的是 bandit(发现,探索是公共品)、sum-guessing 与 stag-hunt(协调);错位的是 pgg(公共品困境,搭便车)与 el-farol(反协调/拥堵);threshold-pgg 是困境包协调的混合体;stag-hunt 是刻意饱和的对照(一致阈值下几乎任何披露都能协调,信息量梯度按构造是平的)。
    • 每轮选择时看不到他人当期动作,管理者的链接是学习他人行为的唯一通道;完整动作空间、收益、反馈与逐字提示词在 SI(Table S1 及 §Game Specifications)。

    实验设计

    • RQ1(信息量):随机加链接扫预算 K ∈ {0, 10, 25, 40, 55, 70, 90};K=0 为无信息基线,K=90=N(N−1) 为完全有向图;随机连边以把数量效应与结构效应分离。
    • RQ2(拓扑):固定 E=40 条有向边,比较四个结构极端——hub 与 regular(度异质性最大/最小)、barbell(两社群加一座桥,模块化最大)与 expander(良好混合,模块化最小);谱隙分别为 0.34/0.44/0.40/0.07,模块度 0.12/0.19/0.10/0.45。作者称因结构指标在四个拓扑上共变,只作为局部固化的联合探针,不做单指标归因。
    • 探索性时序分析:固定总边-轮预算,在两个预算锚点(K=25、70)比较恒定、前置、后置三种披露日程;因效应统计上脆弱,只作补充发现。

    数据规模与统计

    • 共 1,080 个 episode:RQ1 七档预算、RQ2 四种拓扑、时序分析(2 日程对比 × 2 锚点),各与 6 个博弈、12 个 seeds 交叉;模型 qwen2.5:7b,temperature 0.7,本地部署,约 216k 次模型调用;图均显示 12 个 seeds 的均值 ±1 SEM。
    • 检验与问题匹配:RQ1 用 Spearman 趋势与 Cliff's δ(Table S2);RQ2 用 Kruskal–Wallis omnibus 加逐拓扑排名(Table S4);时序用种子配对 bootstrap CI、Benjamini–Hochberg FDR 校正与 TOST 等价检验(Table S6)。作者明确写道样本量是真实的局限并按格报告。
  4. 论文做了哪些实验?

    1,080 个 episode:信息量符号由对齐决定(pgg 无信息最好),拓扑只在错位博弈中起作用且 barbell 最差。

    实验设置

    • 被测模型:仅 qwen2.5:7b(temperature 0.7,256-token 上限,Ollama 本地部署,NVIDIA A100);全部 10 个智能体是同一模型的相同实例。
    • 评测环境:六个自建博弈(Table S1)——sum_guessing、stag_hunt(协调)、bandit(发现)、pgg、threshold_pgg(困境)、el_farol(反协调);N=10、T=20、γ=0.95。
    • 条件:RQ1 扫 K ∈ {0,10,25,40,55,70,90};RQ2 在 E=40 下比 hub/regular/expander/barbell;时序分析在 K=25、70 下比恒定/前置/后置日程。
    • 指标:群体折扣累计福利(均值 ±1 SEM);统计检验为 Spearman r、Jonckheere–Terpstra、KW omnibus、Cliff's δ(Table S2),跨博弈符号分离用 game-level Mann–Whitney 单侧检验。
    • 样本量:每格 12 seeds,共 1,080 episodes、约 216k 次模型调用;论文未报告跨模型重复。

    主结果

    RQ1 各博弈在极端预算下的折扣福利与趋势检验(据 Table S2):

    表格较宽,可左右滑动

    博弈类别W(K=0)W(K=90)Spearman r (p)Cliff's δ判定
    bandit发现18232031+0.89 (<.001)+1.00sig. (+)
    sum-guessing协调−8640−5665+0.35 (.001)+0.44sig. (+)
    stag-hunt协调20822408+0.06 (.58)−0.17ns(对照)
    pgg困境92995514−0.60 (<.001)−0.85sig. (−)
    threshold-pgg困境36282793−0.24 (.029)−0.78sig. (−)
    el-farol反协调192125−0.54 (<.001)−0.62sig. (−)
    • 作者报告符号分离在全部六个博弈上成立:对齐博弈 r 非负、错位博弈 r 为负(game-level Mann–Whitney 单侧 p=0.05,3 对 3 博弈下可达的最小值),六个中五个单独达到统计显著;作者将其读作单一受控 LLM 人群内的跨博弈经验规律,而非跨模型不变的定律。
    • Figure 1 显示每条曲线都非单调("更多不是更好"),作者称报告的是整体跨博弈秩模式而非逐点单调;threshold-pgg 呈浅谷:从 K=0 的 3628 降至 K≈40 的 3057,K=55–70 恢复到 3572,K=90 降至最低 2793,作者解读为搭便车传染与阈值协调两股力量交替占优,且中段种子间 SEM 约增为四倍。
    • stag-hunt 是唯一不显著的格子,作者称其为按构造梯度平坦的饱和对照。

    RQ2:固定预算下的拓扑

    E=40 下四种拓扑的 KW omnibus 与折扣福利(据 Table S4,n=12 seeds):

    表格较宽,可左右滑动

    博弈KW phubregularexpanderbarbell
    pgg.00088870±2488761±4918032±5266189±552
    el-farol.0037163±10124±10151±15110±9
    threshold-pgg.0153567±283135±1333425±393110±130
    bandit.0192007±41987±91990±51976±8
    stag-hunt.0762432±492431±242428±452536±20
    sum-guessing.79−7590±1133−7369±1288−7181±1228−6644±1294
    • 作者报告拓扑只在三个错位博弈中显著,两个协调博弈不显著;bandit 名义显著(p=0.019)但跨拓扑福利差距不足 2%,作者称可忽略。
    • 在架构起作用的错位博弈中,模块化 barbell 稳定是最差布线,作者称其相对最优拓扑损失 13–33% 福利;hub 在全部三个错位博弈中最好,但作者称这一次级趋势不如 barbell 惩罚干净。
    • 作者指出 barbell 惩罚的符号与人类演化博弈论的网络互惠直觉相反,并给出解释:网络互惠依赖基于适应度的选择,而 LLM 智能体是较软的反馈驱动耦合,模块化"孵化区"在错位博弈中放大的是有害行为;因四个结构指标共变,作者只报告 KW omnibus 与 barbell 对比,不做单指标回归(Table S5、§Structural Metrics)。

    机制的直接检验

    • 论文在决策日志层面检验行为耦合假设(Eq. S1,Table S7、Fig. S6):以一步动作变化对观察同伴上一轮平均动作、非同伴上一轮平均动作和自身上一轮动作做 OLS 回归,标准误按 run 聚类(每博弈约 26k 智能体-轮、156 次运行,限 0<K<90)。
    • 作者报告被观察同伴系数 bobs 在全部六个博弈中高度显著,且 bobs−bnon 均为正并显著(p 从 8×10⁻⁴ 到 2×10⁻⁵⁹);五个模仿型博弈 bobs>0(stag-hunt 0.66、sum-guessing 0.49 最强),el-farol 中 bobs=−0.10 为负,作者称其为反协调博弈所奖励的回避,方向与机制一致。

    探索性时序分析

    • 固定总边-轮曝光,在 K=25、70 下比较恒定(A)、前置(B)、后置(C)日程(Table S6):12 个格子的 B−C 对比无一经 BH-FDR 校正存活,作者将其作为探索性发现而非正式结论。
    • 作者点名三个原始效应:el-farol 在两个预算下都被后置损害(C−A=−41, p=0.005;−51, p=0.009);threshold-pgg 在 K=70 下任何偏离恒定披露都有害(B−A=−844, p=0.002;C−A=−637, p=0.012);bandit 在 K=70 下略微偏好前置(B−A=+16, p=0.016,幅度 <1%)。作者称两个困境方向不一致,时序不像信息量那样由策略类型决定。

    其他消融与分析

    • RQ1 机制(Table S3):随机 K 扫描下控制 K 后,几乎没有单一结构指标与福利保留独立关联(仅 pgg∼谱隙 partial r=−0.22, p=0.047 与 el-farol∼集中度 r=+0.26, p=0.016 两个名义信号,均未通过校正)。
    • 时间演化(Fig. S1):K 驱动的福利差距及其符号随轮次逐渐张开,而非在某一轮突然出现。
    • 时序补充视图(Fig. S2–S5):折扣与不折扣累计、逐轮轨迹与终点柱状图;作者称各视图结论一致——日程差异只在错位博弈可见且均为二阶效应。
  5. 有什么可以进一步探索的点?

    作者列出单模型、单反协调博弈、时序仅探索性、结构指标共变四条局限,并提出多模型、高重复后续工作。

    作者指出的局限与后续方向

    • 单一模型(Limitations (i)):实验只在一个受控 LLM 人群内确立信息网络效应,不是跨模型不变的定律;作者提出传染账户预测可迁移到表现出类似观察条件模仿的人群,但跨模型迁移需要直接检验,并建议哪怕用第二个模型在少数代表性博弈和预算上复制 RQ1 也能收紧规律的适用范围。
    • 只有一个反协调博弈(Limitations (ii)):拥堵一侧的符号模式是单点而非一族。
    • 时序结果仅为探索性(Limitations (iii)):每格 12 seeds 下没有任何日程对比经 FDR 校正存活,只能带着等价性 caveat 报告,既不能当作已证实的效应也不能当作已证实的无效应。
    • 结构指标共变(Limitations (iv)):N=10 下多个结构指标共同变动,只能报告 KW omnibus 与 barbell 对比,不做单指标归因。
    • 后续方向(Limitations 末):作者称以上每一条都是更高重复、多模型后续工作的自然目标;Synthesis 节还提出时序结果可激励自适应、依赖状态的披露时机干预。

    实验覆盖范围

    • 被测模型仅 qwen2.5:7b 一个(temperature 0.7、256-token 上限),全部 10 个智能体为同一模型的相同实例(§Parameters, Configuration, and Computing)。
    • 评测环境为六个自建博弈:协调两个、发现一个、困境两个、反协调一个(Table S1)。
    • 条件覆盖:RQ1 七档预算、RQ2 四种拓扑、时序分析两个预算锚点 × 三种日程;每格 12 seeds,共 1,080 episodes(§Experimental Design)。
    • 观察内容只含同伴过往动作,不含收益与当期动作;智能体间无消息通道(§Setup and Objective)。
    • 论文未报告在其他模型族上的任何重复实验;作者明确写道跨模型族迁移是另一个独立的实证问题(§Setup and Objective、Limitations)。
  6. 总结一下论文的主要内容

    把观察网络当作治理杠杆:信息量的福利效应由激励对齐决定,错位时模块化拓扑最差,作者据此反对默认完全透明。

    一篇多智能体 LLM 治理的分析型论文:把信息网络(谁观察谁)从固定交互网络中解耦出来,作为运营者可设计的治理杠杆。

    • 问题:智能体群体的集体行为无人直接设计,而交互网络与激励往往不可改;作者问运营者只能控制观察结构时,该分享多少信息、又该让谁观察谁。
    • 方法:10 个相同的 qwen2.5:7b 智能体玩 6 种重复博弈 20 轮,管理者在预算下添加只揭示过往动作的有向观察链接;扫七档预算(RQ1)、在 E=40 下比四种拓扑(RQ2),共 1,080 episodes、每格 12 seeds;机制是观察制造行为耦合,福利效应 ≈ 混合速度 × 对齐符号。
    • 信息量结果:符号分离在全部六博弈成立——对齐博弈福利随预算上升、错位博弈下降(Table S2);pgg 在 K=0 时福利最高(9299),完全披露时降至 5514;stag-hunt 作为饱和对照不显著。
    • 拓扑结果:固定预算下拓扑只在错位博弈中起作用(pgg KW p=0.0008),模块化 barbell 在全部三个错位博弈中最差,作者称其损失 13–33% 福利,并称这与人类演化博弈论的网络互惠直觉相反(Table S4)。
    • 机制与附带结果:日志级回归显示智能体对实际观察到的同伴反应更强、方向与博弈类型一致(Table S7);披露时序的效应经 FDR 校正后无一存活,仅作探索性报告(Table S6)。
    • 作者结论:信息是真实的治理杠杆,但方向与幅度取决于博弈与预算;设计前应先问更大的可见性会放大什么行为,因此反对智能体集体默认完全透明;作者同时强调这是单一受控人群内的经验规律,跨模型迁移需另行检验。
阅读原文arxiv.org