研究用统计力学预测 AI 智能体群体的集体行为
Physics of Agents: Statistical Mechanics Predicts Collective Behavior of AI Agents
用Ising式三耦合规则预测语言模型智能体意见;留出题一步平衡准确率75.1%–86.3%。
- 语言模型智能体沿社交网络交换消息并改意见,可能改进集体推理,也可能从众、极化或放大偏见。作者要由初态与通信图预测意见如何演化。
- 把二元意见写成自旋,能量含符号图上的社会压力与人设–问题内禀场。下一步按logistic偏向更低压力;三耦合分开连接、友好边与不友好边,用一步转移拟合后再rollout。
- 主分析四模型、9600个社群。客观题上错误转正确多于反向;主观题三种模型向右漂移。留出题三耦合一步平衡准确率75.1%–86.3%,同族随机图in-d与out-d相差至多2.4个百分点。
- 作者称意见被压成二元、通信图固定且对称,并丢弃消息内容。后续可做开放意见、时变通信与消息嵌入。主实验为四模型、N=32、T=8;另有n=64混合模型与异步更新。论文未报告显著性检验。
- 被测模型
- GPT-4o-miniGemma-3n-E4B-itQwen3.5-9BLlama-3.1-8B-InstructGPT-5.6-solDeepSeek-V4-Flash
- 基准
- MATHPolitical Questions Dataset for LLM Bias EvaluationTWIN-2K-500
- 指标
- balanced accuracyrollout balanced accuracynet opinionconviction
研究者分析了超过 10000 个语言模型智能体社区,让智能体反复交换消息并修正观点,覆盖客观数学题与主观政治陈述。个体与群体动态可归为漠然、极化与共识三种状态,智能体从漠然起步,随互动逐渐形成信念。在客观问题上交流提升集体准确率,在主观问题上群体观点常向政治光谱右侧漂移。作者用统计力学形式化解释这些现象,模型仅凭初始观点即可预测个体轨迹,优于所有标准基线,并能泛化到未见过的社区图结构。拟合参数显示社区运行在临界社会温度之下,吸引性连接多于排斥性连接,且持有正确答案的智能体拉力最强。
深度解读
这篇论文试图解决什么问题?
智能体社群的意见演化可归入冷漠、极化与共识,并用统计力学从初态预测。
给定人设、问题与通信网络,语言模型智能体的集体意见演化能否用紧凑动力学预测。
- 场景:作者称智能体已在科研、编程、规划、辩论和自动化研究中交换意见并共同决策,并举 Virtual Lab 与 EinsteinArena;个人助理也可能代用户协商。互动可能汇集信息,也可能从众、极化、持续分歧、振荡或放大共享偏见,因而与多智能体设计和对齐有关。
- 预测目标:给定智能体、初态和通信网络,系统如何演化;互动何时改进集体决策,何时固化错误或放大不想要的偏见。
- 经验现象:作者在超过 10,000 个社群中把动态归入冷漠、极化与共识。智能体从较弱意见出发,互动后 conviction 上升。客观数学题上通信平均提高集体准确率,起初错误的多数转为正确多于反向;主观政治陈述上,群体意见常向政治光谱右侧漂移。
- 本文模型:把意见更新写成随机偏向更低社会压力,数学上对应扩展的 Ising 模型。只给初始意见,拟合模型预测个体轨迹。作者称它优于全部标准基线,能泛化到未见社群图,并复现群体原型分布;拟合参数用于解释 conviction 上升、共识和客观题上的求真。
有哪些相关研究?
相关工作涵盖Ising类自旋模型、社会动力学、大模型社群模拟与多智能体协作。
作者在第 6 节把相关工作分成统计力学、其经验应用、社会动力学,以及社会模拟与多智能体系统。
统计力学
- Ising (1925) 与 Glauber (1963):分别提供相互作用自旋的能量,以及意见更新所借用的动力学。
- Edwards–Anderson (1975)、Sherrington–Kirkpatrick (1975):用序参量区分极化与共识;作者据此区分两种净意见接近零的状态。
- Hopfield (1982)、Amit 等 (1985):基于能量的系统可以做集体计算。论文只作这一描述,没有与本文做定量对比。
统计力学的经验应用
- 自旋玻璃与鸟群:Parisi (1979)、Mézard 等 (1987) 用竞争耦合容纳多个低能态;Vicsek 等 (1995)、Toner and Tu (1995) 用局部对齐产生集体秩序。
- 数据上的 Ising 式描述:神经群体(Schneidman 等, 2006)、蛋白质接触(Weigt 等, 2009;Marks 等, 2011)和鸟群(Bialek 等, 2012)。Brock and Durlauf (2001)、Castellano 等 (2009) 把同一结构用于社会影响下的二元选择。
社会动力学与大模型社群
- 经典模型:Schelling (1971)、Axelrod (1997) 描述隔离与文化扩散;Hołyst 等 (2000)、Guttenberg and Goldenfeld (2010) 讨论意见形成中的相变;DeGroot (1974)、Boyd 等 (2006) 描述向共识平均。综述包括 Weidlich (2006)、Castellano 等 (2009)、Flache 等 (2017)。
- 大模型社群:Chuang 等 (2024)、Takata 等 (2025)、Ashery 等 (2025) 考察大模型社群是否服从类似定律。De Marzo 等 (2024)、Tanaka (2026)、Okawa (2026)、Flint 等 (2026)、Pavlova and Tanaka (2026) 用统计力学预测规模定律或集体偏见转变。作者称后一类与本文精神相近,但没有逐篇给出定量差距。
社会模拟与多智能体系统
社会模拟:Argyle 等 (2023)、Horton (2023)、Park 等 (2023, 2024) 用大模型模拟被试或社群;Yang 等 (2024)、Piao 等 (2025) 做大规模虚拟社群。
多智能体推理:Du 等 (2023)、Liang 等 (2024)、Chen 等 (2023)、Swanson 等 (2024) 用角色化讨论改进推理。交互也可对提示词、工作流和图做搜索(Khattab 等, 2023;Zhuge 等, 2024;Hu 等, 2025;Nielsen 等, 2026)。常见模式包括子任务划分、意见聚合与开放审议。作者称学习交互拓扑往往需要昂贵 rollout,所得系统可能脆弱(Cemri 等, 2025;Wang 等, 2024b)。
基线方法:Persistence 复制当前意见(rollout 则一直用 s(0));Interaction-Free 只留个人压力;Mean-Field 把社会压力收成拉向全局平均,用来检验符号网络是否比全局共识信号多出预测力。原始准确率表另有 Majority Class。
基准/数据集:客观题来自 MATH,改成二元选择;主观陈述来自 Political Questions Dataset for LLM Bias Evaluation,人设改编自 TWIN-2K-500。
作者把本文放在上述线索上:用统计力学识别反复出现的体制、预报群体动态,并把系统结果联系到可解释的交互参数。
论文如何解决这个问题?
把意见当自旋,用社会压力能量的logistic更新拟合多耦合,并从初态rollout。
作者把社群写成在符号图上降低社会压力的随机系统,称为可映射到 Ising 模型的更新规则,并扩展为三耦合(客观题上再拆成五耦合)。
社群设定
- 两类问题:客观题来自 MATH,由 claude-4.8-opus 生成干扰项后随机放到 A/B。每个人设看到另一道 MATH 题的标准解答,用来表示专长。主观题是政治陈述,意见为同意(+1)或不同意(−1);人设是改编自 TWIN-2K-500 的短文本。附录 B.1 先二元化,再让 N=32 个智能体各采样 8 次,保留跨样本熵最高的题。
- 通信图:J∈{−1,0,+1},对称、对角为 0。+1 为友好(concordant),−1 为不友好(discordant),0 为不通信。四族图见附录 B.2:固定边预算的随机图、4 邻接方格、6 邻接三角格(后两族全为正),以及秩 ρ=10、挫折密度 γ∈{0.0,0.1,0.2} 的低秩图。
- 一轮更新:t=0 只看人设和问题。之后每轮同步:每个智能体对二元票采样 K=5 次,意见 ōi 为均值,状态 si=sign(ōi);再按该状态写一条短消息,内容为当前立场加一条理由。消息按边的符号进入对方的友好或不友好收件箱。收件箱每轮刷新,只保留最新消息。主实验 T=8、N=32。附录 B.4 给出完整提示词。
能量与局部更新
- 两条假设:个体希望降低社会压力;对给定问题还有自身倾向 s̃i。社会压力写成 −∑i∑j si Jij sj,个人压力写成 −λ∑i s̃i si,λ≥0。
- 能量:记 gi=λs̃i,作者定义
E(s)=−1/2∑i∑j si Jijsj−∑i gi si 前一项奖励与社交关系一致的配置,后一项把意见拉向个体倾向。
- 单步概率:固定其余意见后,局部场为 fi=∑j≠i Jij sj+gi。附录 D.1 由两态能量差导出 logistic 更新;正文把系数吸收进 β 与 gi,写成
P(si=+1∣ s−i)=σ(hi), hi=β∑j Jijsj(t)+gi 即下一步意见取决于沿符号图流入的同伴压力,以及无人影响时的内禀场。主实验同步更新全部智能体。作者注明同步离散更新与连续极限可能定性不同,例如出现振荡(Figure 1)。
多耦合与拟合
- 三耦合:作者观察到“有连接”本身会拉动,且友好边与不友好边的推拉强度不同。于是设 β0、β+、β−:友好邻居的总权重为 β++β0,不友好邻居为 β0−β−。作者保留 β0,是为了和单耦合对照,并把“是邻居”与“边的符号”分开。
- 五耦合:只用于客观题。按邻居当前意见是否等于正确答案 ygt,把 β+、β− 再拆成指向正确与指向错误的系数。划分随邻居当前意见变化,不是邻居的固定属性。
- 内禀场:gi=w⊤ϕi。附录 D.3 中 ϕi 含偏置、人设与问题嵌入的前 3 个 PCA 分量及其外积,嵌入模型为 text-embedding-3-small。用一步转移上的交叉熵做梯度下降。因无符号驱动落在有符号驱动的张成里,系数不能联合识别;两阶段拟合先估 β0 并固定,再估 β+ 与 β−。附录写明:Bernoulli 似然,只对场权重加 ℓ2(系数 10−3),Adam 学习率 0.05,最多 1,500 步。训练只用训练题、8 张随机训练图和每配置 4 个 episode;格点与低秩图整体留出。
连续时间、基线与评分
- 连续时间:附录 D.2 让每个智能体以独立速率重审意见,由主方程作平均场 ODE,再离散成带更新率 ε∈(0,1) 的规则;ε→1 回到每轮全员更新。预测用 tanh 而非阈值。
- 基线:Persistence、Interaction-Free、Mean-Field。Mean-Field 保留个人压力和社会压力,但用全局平均代替图结构。
- 评分:意见很少翻转且两类不平衡,普通准确率会奖励“复制当前意见”或“总预测多数类”。平衡准确率是四组准确率的等权平均:下一状态是否翻转,以及下一状态是 +1 还是 −1。一步预测看 s(t)→s(t+1);rollout 从 s(0) 滚到 t=1,…,T。第 3 节的描述统计用连续意见 ōi,预测表用二元状态 si。
论文做了哪些实验?
三耦合离散更新在四模型留出题上一步平衡准确率75.1%–86.3%,并泛化到未见图族。
实验设置
- 被测模型:主实验为 GPT-4o-mini、Gemma-3n-E4B-it、Qwen3.5-9B、Llama-3.1-8B-Instruct,各自独立成社群。附录 E.6 另有 32 个 GPT-5.6-sol 与 32 个 DeepSeek-V4-Flash 组成的 n=64 混合组。
- 规模:第 3 节分析 9,600 个社群:4 个模型、40 道客观题加 20 道主观题、10 张随机图与格点、每配置 4 个 episode。加上分布外泛化与异步实验后,作者称超过 10,000。客观/主观训练与测试各半,客观测试半保持 A/B 各 10 道。
- 协议:除非另述,N=32、T=8、K=5、J 对称且对角为 0、同步更新。预测用的测试集社群数为:主观 320=10×8×4,客观 640=20×8×4(题×图×episode)。这是社群数,论文未单列转移条数。
- 基线:Persistence、Interaction-Free、Mean-Field;原始准确率附录另有 Majority Class。单耦合离散更新是三耦合的对照,不是独立基线名。
- 指标:一步与 rollout 的平衡准确率。描述统计用净意见 n(t) 与 conviction c(t)=(1/N)∑ōi(t)²。个体按换边次数分为 Frozen、Switcher、Intermittent、Oscillator。群体用分裂带 δ=0.2,按 t=0 与 t=8 的 ñ 分成 Persistent Split、Convergence、Persistent Majority、Divergence、Majority Switch。
- 判定:没有外部评审模型。意见由被测语言模型自身抽样,再取 K 次投票的符号。拟合与报告准确率都在留出题上,训练题不进入 Table 1 的准确率。
主结果
下表是 Table 1 中三耦合离散更新的平衡准确率:一步预测,括号内为从 s(0) 的 rollout。in-d 是测试集 8 张图里训练见过的 4 张,out-d 是留出的 4 张。
| 模型 | 主观 in-d | 主观 out-d | 客观 in-d | 客观 out-d | | GPT-4o-mini | 86.0(76.2) | 86.3(77.2) | 86.2(68.2) | 85.0(65.9) | | Gemma-3n-E4B | 75.4(67.8) | 75.1(66.8) | 80.5(68.5) | 80.8(68.4) | | Qwen3.5-9B | 81.2(70.8) | 78.8(69.2) | 86.3(65.6) | 85.2(64.2) | | Llama-3.1-8B | 82.4(68.4) | 80.8(69.5) | 77.3(62.8) | 76.4(60.8) |
- 作者称三耦合在 Table 1 每一列都高于 Persistence、Interaction-Free、Mean-Field 和单耦合。单耦合有时接近 50:Llama 主观 in-d 一步为 53.9,Qwen 客观 in-d 一步为 50.6。
- Interaction-Free 在三个模型上接近机会水平;Gemma 主观 in-d 为 60.8,作者称其部分意见可只由人设和问题预测。Mean-Field 主观 GPT in-d 一步为 57.9,客观 Qwen in-d 一步为 73.6。
- 作者称三耦合的 in-d 与 out-d 相差至多 2.4 个百分点,任意方法的最大差距为 4.2。一步 Persistence 的平衡准确率均为 50.0,因为该指标把“总是复制”压到 50。
未见图族与混合前沿模型
- Table 2:只报告 GPT-4o-mini,图族为留出随机图、低秩图、方格和三角格。作者称三耦合在 16 列中的 15 列最高,一步平衡准确率在 85.0 到 97.8 之间,rollout 在 59.7 到 89.3 之间。例外是主观三角格 rollout:三耦合 73.2,单耦合离散更新 73.5。
- 同表解读:作者认为低秩图和方格可能比拟合用的随机图更容易,可能与边数或负边比例不同有关。三角格一步准确率与随机图相当,rollout 更低(主观 73.2 对 77.2,客观 59.7 对 65.9)。
- Table S7:n=64、一张随机图、K=1、每题 1 个 episode。全体智能体上,三耦合主观留出题为 81.9(rollout 70.4),客观为 80.0(67.4)。作者称两个模型家族都预测得较好;表中客观一步 GPT-5.6-sol 为 74.5,DeepSeek-V4-Flash 为 83.5,主观一步分别为 83.9 与 79.8。
原型分布、临界温度与耦合
- Figure 6:在留出题、分布内随机图上,从真实 s(0) 按 σ(hi) 随机 rollout 8 轮。作者称群体原型份额的平均绝对偏差,客观题约 3 个百分点、主观题约 5 个百分点;最大单格差距约 10 个百分点(Qwen3.5-9B 主观,Persistent Majority)。个体 Oscillator 被抬高,但在群体原型里大体抵消。作者称这是结果混合比例对,不是把某个具体群体分到正确原型。
- Figure 7:把拟合规则的 logit 除以温度 T,扫描 41 个对数间隔温度(0.05 到 20),每社群 500 步。χ=N Var(|n(t)|) 的峰值定义为 Tc。作者称拟合工作点 T=1 在每个数据集–模型格子都低于 Tc,因而冷漠态不稳定,conviction 随轮次上升。正文未列出各 Tc 数值;Figure S10 给逐社群曲线。作者注明 N→∞ 才是物理意义上的相变。
- Table 3:四模型都是 β+ 大于 β−。作者称友好边有效系数 β++β0 在 0.99 到 3.03 之间,不友好边 β0−β− 不超过 0.73,主观 GPT 为 −0.47、主观 Qwen 为 −0.01。作者称不友好边太弱,撑不住稳定分裂,因而社会压力偏向共识;同时注明,内禀场 gi 反号且足够强时,个人压力仍可维持极化。五耦合下四模型均为 β+T>β+F 且 β−F>β−T;作者把“被不友好的错误邻居推得更狠”也算求真。
求真、政治漂移与异步更新
- 客观题:Figure 5 使用 6,400 条群体轨迹(仅客观题,随机图与方格、三角格)。作者称 Gemma、GPT、Qwen 上,净意见符号与正确答案一致的比例上升更明显,四模型都是错误到正确多于反向。正文未给出该图折线端点的百分比。
- 主观题:Figure S6 的图注样本量为 1,920=4×12×10×4,并称陈述集做了左右标签平衡,以免统一的选项偏差被记成政治漂移。右倾群体占比:Gemma 从 75% 到 96%,Qwen 从 52% 到 67%,GPT 从 30% 到 37%;Llama 起点 53%,结束时略低,正文未给终点。左到右相对右到左:Gemma 23% 对 1%,Qwen 33% 对 18%,GPT 8% 对 3%,Llama 13% 对 15%。GPT 起点偏左,互动后仍向右。
- 异步:Table S6 只测 GPT-4o-mini,平均每轮 0.5 次更新,指标改为原始准确率。连续时间三耦合的 rollout 为:主观 in-d/out-d 80.4/78.5,客观 65.3/65.9。作者称高于表中全部基线。同表 Persistence 的主观 in-d rollout 为 78.3。
其他消融与分析
- 标签偏差:Figure S7 在 9,600 个群体上,Llama 净意见为正的占比从 39% 降到 16%;客观题标签平衡,作者称这不能归因于求真。其他模型的对应端点正文未给。
- 群体原型:作者称 Divergence 与 Majority Switch 在 GPT-4o-mini 和 Qwen3.5-9B 上达到 11–12%(Figure 3)。Frozen 在多数设置中最多,Switcher 与 Intermittent 较少;正文未给 Figure 2 各格百分比。
- 体制阈值:Appendix C.3 用 conviction 的 1/3 分位数和其余群体 |n| 的中位数,使 Figure 4 每行三种体制点数相等;数值在 Table S3。作者称早期以冷漠为主,随后冷漠下降、共识单调上升;各列百分比未在正文逐列列出。
- 可重复性:同一人设、图和问题的 4 个 episode 经常在群体原型上不一致(Figure S11);正文未给对角一致率。作者因此在分布层面评估拟合规则。
- 原始准确率:附录 E.1 称,即便同步更新,连续规则的原始准确率仍高于离散规则;平衡准确率下该差距消失,因为拟合的 ε 用罕见翻转换取了更常见的不翻转。Llama 主观 Majority Class 的 in-d 原始准确率为 87.2(Table S4)。
- 图对轨迹的影响:Figure S9 的一个例子中,同一问题在随机图的 4 次运行都留在初始侧,方格的 4 次都越过分裂带。作者称这不常见,但图可以造成稳定差异。
有什么可以进一步探索的点?
作者列出的简化包括二元意见、固定对称通信图,以及丢弃自然语言消息内容。
作者指出的局限与后续方向
- 二元问答:社群一次只答一道共享二元题,输出被摘要为 si(t)∈{+1,−1} 加一条短自然语言消息(第 7 节 Limitations)。
- 固定对称图:谁与谁交谈在一次运行中不变,且 J 对称(Limitations)。
- 无历史:更新只依赖人设、问题和当前收件箱,不依赖完整交互史(Limitations)。
- 丢掉消息内容:作者称方法的主要局限是简化了互动,丢弃了传递影响的自然语言内容(Limitations)。
- 设定扩展:作者列出多选、Likert 或开放文本,同时讨论多题,时变或由智能体自选的通信,物理邻近,记忆与持续学习,野外平台数据,以及更大、由不同语言模型组成的异构群体(Future Work (Setup))。
- 方法扩展与外推:Potts 型向量意见、把消息嵌入放进局部场、对边/消息/初态做干预,并用 Hebbian 等规则让通信模式在互动中变化(Future Work (Method))。Social Impacts 中作者提醒,不要把人设条件化的模拟智能体过度外推到人类社群;与人类意见动力学的相似只是后续假设。
实验覆盖范围
- 主分析为上述四个骨干模型、9,600 个社群;附录 E.6 增加 GPT-5.6-sol 与 DeepSeek-V4-Flash 的 n=64 混合组,一张随机图、K=1、每题 1 个 episode。
- 客观题 40 道、主观题 20 道,训练/测试各半;图族包括随机图、方格、三角格和低秩图。主协议 N=32、T=8、K=5、同步更新。异步实验只使用 GPT-4o-mini,平均每轮 0.5 次更新,并用原始准确率(Appendix E.2)。
- 预测分数是四组平衡准确率;意见符号来自被测模型自身的 K 次抽样。拟合细节在附录 D.3:训练题上的一步转移、Adam、学习率 0.05、最多 1,500 步、场权重 ℓ2 系数 10−3。
- GPT-4o-mini 与 Gemma-3n-E4B 的早期运行按接收者独立抽消息,Qwen、Llama 和异步实验按第 2 节每轮一条;作者称差别在实践中不重要(Appendix B.5)。
- 论文未报告平衡准确率的统计显著性检验,也未报告与人工判定的一致性。第 7 节讨论了边、消息或初态上的干预,实验部分没有报告这类干预结果。温度扫描的各社群 Tc 数值未在 Figure 7 的正文中列出。
总结一下论文的主要内容
统计力学三耦合模型从初始意见预测智能体社群轨迹,并解释conviction、共识与客观题求真。
定位:用统计力学描述语言模型智能体社群的意见动力学,并从初始意见预测后续轨迹。
- 问题:N 个智能体沿符号网络反复交换短消息,修改对同一道客观数学题或主观政治陈述的意见。作者要预测演化,并分开两种后果:互动提高可核对的集体准确率,或放大模型带来的方向性偏见。
- 方法:意见取 ±1。能量含图上的社会压力和人设–问题内禀场;下一步是局部场的 logistic 函数。三耦合把“有连接”、友好边和不友好边分开,用训练题上的一步转移拟合,再从 s(0) rollout。客观题另有按邻居当前对错拆分的五耦合。
- 体制:主分析 9,600 个社群、四个骨干模型、T=8。互动提高 conviction。作者称拟合工作点低于临界社会温度,冷漠态不稳定。Divergence 与 Majority Switch 在 GPT-4o-mini 和 Qwen3.5-9B 上达到 11–12%。
- 方向:6,400 条客观群体轨迹上,四模型都是错误到正确多于反向。主观题右倾占比:Gemma 从 75% 到 96%,Qwen 从 52% 到 67%,GPT 从 30% 到 37%;Llama 起点 53% 且结束时略低(Figure S6)。Llama 还有选项标签漂移:净意见为正的群体占比从 39% 降到 16%(Figure S7)。
- 预测:Table 1 三耦合一步平衡准确率 75.1%–86.3%,rollout 60.8%–77.2%;作者称每一列都高于所列基线,同族留出随机图的差距至多 2.4 个百分点。n=64 混合前沿模型的主观留出题一步为 81.9%(Table S7)。友好边有效系数 0.99–3.03,不友好边不超过 0.73(Table 3)。作者用更强的友好耦合解释共识,用正确邻居更强的拉力解释求真。
- 作者结论:集体行为可以用紧凑、可解释的动力学定律描述;同一套机制既能改进事实性决策,也可能放大政治偏见。作者同时把二元意见、固定对称图和丢弃消息内容列为简化,并提醒不要外推到人类社群。