GlossoGen: Spontaneously Emergent Language in Multi-Agent LLM Interactions

多智能体在复杂协作里会否发展出偏离英语、外部难以监控的语言，以及这依赖什么条件。

• 场景：作者称LLM智能体越来越多地在目标任务中互动并通信。若形成自己的语言，外部观察者就无法理解或监控；作者也把语言变化当作观察形式与意义如何连接的历时窗口。
• 现有不足：作者称从零训练的涌现通信和角色固定的指称游戏已有一长串工作，预训练LLM在双方同时说话、听话的序列复杂任务上研究较少。作者把部分原因归于缺少必须通信才能完成的环境。
• 作者的设定：虚构急救中制造信息不对称，并用字符预算制造效率压力；轮间可选postmortem，供双方讨论并约定说法。作者称医疗框架会调用参数知识，故改为虚构实体Veyru。
• 本文对象：平台GlossoGen用来配置语言演变场景；其中的SaveVeyru让Field Observer与Specialist在部分信息下稳定Veyru，成功看预算内是否解除全部状况。
• 交互约束：Observer能对Veyru施行动作，Specialist不能。通信由智能体主动发起。主链路受字符预算；postmortem只在轮间且不计预算。论文没有把某一方写成攻击者。

按论文第2节，相关工作分四组。

从零训练的涌现通信

• 信号博弈：Lewis (1969) 及 Steels (1995)、Oliphant and Batali (1997)、Batali (1998)、Kirby (1999, 2000) 用计算模型考察使用与传递压力如何影响语言结构。
• 神经网络协议：Foerster et al. (2016)、Sukhbaatar et al. (2016)、Lazaridou et al. (2017)、Havrylov and Titov (2017) 用强化学习，让从零训练的发送者与接收者形成协议。
• 组合与传递：Chaabouni et al. (2020) 报告Lewis博弈中出现组合性语言且更可传递；Ren et al. (2020) 在简单网络智能体中用迭代学习建模文化演化。论文将其记为先导，未逐篇批评。

LLM指称游戏

• 惯例：Hua et al. (2025)、Hua and Artzi (2024)、Vaduguru et al. (2026)，以及Carmeli et al. (2026)、Talebirad et al. (2026)，研究LLM或VLM在指称游戏中形成惯例，包括人可理解的惯例。
• 传递与修复：Kouwenhoven et al. (2025) 报告多轮指称中出现有结构、改善泛化的语言，传递偏向易学语言。Vital et al. (2025) 报告噪声指称游戏中的对话修复。
• 与人类配对：Jones et al. (2026) 发现配对内部形成惯例、跨配对没有，并猜测资源敏感性是因素。论文称这与“诱发变化需要更有效通信的压力”相符，并指出指称游戏通常角色固定、行动多为在n个指称中选择。

安全与隐写

• 监控风险：Roger and Greenblatt (2023)、Baker et al. (2025)、Motwani et al. (2024) 讨论隐写或不可监控通信。
• 秘密与奖励：Avsian and Heck (2026) 评估以秘密词选择性共享信息；Mathew et al. (2025) 报告错误指定的奖励可诱发隐写。
• 博弈用词：Pandey et al. (2026) 观察博弈论情境中的词汇变化，并援引Duan et al. (2024)、Bianchi et al. (2024)。论文称这类工作通常假设监控者或竞争者给出对抗信号，与纯合作不同。

多智能体环境与对照

• 现有环境：Sotopia（Zhou et al., 2024）模拟社交，CooperBench（Khatua et al., 2026）做协作编程，Collab-Overcooked（Sun et al., 2025）做协作装配。论文称它们并不强制为完成目标而通信。
• 本文对照：论文未设外部方法基线。比较在SaveVeyru上完成，变量是预算、postmortem、模型类别，以及原团队继续与换入新Field Observer。

作者把本文放在预训练LLM、双方同时说话和听话、行动空间大且组合性强的任务上，并称缺少此类环境是先前研究较少的部分原因。

作者用平台GlossoGen跑可复现模拟，并在SaveVeyru中把通信变成完成任务的必要条件。

平台

• 场景：场景规定智能体、信道、工具、世界逻辑、轮结构、提示词和评分，可从竞争到合作。论文举例的压力包括时间、噪声、监视；后面实验用的是时间预算。
• 智能体：每名智能体有系统提示、部分状态、历史和行动集。通信是行动之一，由智能体选择预设信道，没有中心编排器规定何时说话。
• 记录：每条消息、工具调用和轮次转换都被记录，可回放、分叉，并换入历史不同的新智能体。模型可接开源或专有权重。

信息不对称

• 角色：Field Observer看见症状并可操作Veyru，但不知道该做什么。Specialist有症状到流程的映射，不能接触Veyru。Figure 2画出这一分工。
• 轮次：映射每轮随机变化。作者称因此不能跨轮背流程，必须通信。一轮是一次稳定化，可含多个依次出现的condition。
• 虚构域：作者称早期医疗框架会让LLM调用参数知识，破坏信息不对称，故改为立方体外星实体Veyru。
• 参照物：14种failure motif、14种流程模板；槽位为face（6选）、intensity（3选）、duration（数值）。附录A写实践中duration取5、8、10、12、15、20秒，非数值参照物共37个。

预算、协商与判定

• 计时：主链路按字符计时，正文写1 character = 1 second。主实验用2000s与150s。作者改用字符而非token，是因为分词器不可得或不统一，且初试中模型不擅估计自身token。
• postmortem：讨论信道不受预算约束，只在轮间开放。作者称不能用它在抢救中绕过预算。附录D.1给出双方系统提示词。
• 分数：轮次在双方停止交换并行动，或预算耗尽时结束。round_success为0到1，仅当该轮全部condition被解决时为1。
• 评审：Haiku 4.5把动作与该condition的正确处置比较。论文称其在500例平衡构造集上准确率95.7%；金标准经三次运行共识和人工核验，并含干扰动作。

测量与传递操作

• perplexity：主信道消息用GPT-2算平均每token surprisal，消息内、轮内平均后取指数。单token消息丢弃。附录B.1。作者将其读作越不像英语则数值越高。
• 形态：GPT 5.4把协商代码对齐到共享槽位。至少2个代码能拆成更短、可复用单位，才记为可能的组合形态。未出现但语法允许的形式为测试，已出现的为对照。附录B.2与D.4给出流程和提示词。
• 传递：先有postmortem地互动14轮，第15轮开始换掉Field Observer。新智能体只看消息和行动，不看postmortem。历史取0、1、5或10轮，之后再无postmortem跑11轮。
• 标注：元语言问题由GPT 5.5标注，附录D.3给出提示词。附录D.2另用GPT 5.5归纳语法并计算描述长度。

实验设置

• 被测模型：GPT 5.4、Sonnet 4.6、Opus 4.7，以及Llama-3.3-70B-Instruct、Qwen3-32B。
• 规模：SaveVeyru上，专有模型每种设置10次、每次15轮；2种预算乘postmortem有无，共120 runs。开源权重每种4 seeds，共32 runs、每run 15轮。
• 形态样本：上述三款专有模型各45 runs，预算150、250、450、800、2000秒各9 runs。
• 传递：14轮有postmortem后换Field Observer，历史0/1/5/10轮，再11轮无postmortem，3 seeds。元语言标注覆盖换入后45个protocols。
• 指标：round_success；GPT-2 perplexity；decode accuracy与production accuracy；DL(G)与DL(D|G)。
• 评审与区间：动作用Haiku 4.5。形态解码语义分用Sonnet 4.6，分值0、0.5或1.0。元语言与语法归纳用GPT 5.5。图中阴影为95%置信区间。

主结果

Swipe horizontally to read the table

条件	指标	数值	出处
专有模型，最大预算、无postmortem	平均perplexity	320	第4.1节
专有模型，高压且有postmortem	平均perplexity	1700	第4.1节
专有模型，2000s	round_success	92.1%	第4.2节
开源权重，2000s	round_success	30.8%	第4.2节
开源权重，150s	round_success	0	第4.2节

表内专有模型未拆成GPT 5.4、Sonnet 4.6、Opus 4.7，开源权重也未拆成Llama与Qwen，因为论文未报告这些分模型平均。320与1700是作者给出的端点；增幅被写成约430%。

• 回归：专有模型上，postmortem与perplexity的系数为β=1826（SE=351，p<0.0001），预算为β=-1018（SE=351，p=0.004），交互β=-803（SE=351，p=0.023）。作者称有postmortem时，预算对perplexity的负效应更大。
• Figure 3：作者称2000s下任务容易完成，对应更低perplexity；150s且无postmortem时通常失败；即便有postmortem，低预算仍使多数run失败。图注写high (2000s)、low (150s)，与正文把150s称为高压、2000s称为低压不是同一套标签。
• 开源权重：Figure 4中perplexity大致保持平稳。单独拟合时，论文写预算和postmortem未见统计效应。加入模型类别后，开源权重perplexity更低（β=-2264，SE=821，p=0.017），postmortem的正效应被抵消（β=-1828，SE=789，p=0.021）。作者称它们未发展出低预算下能成功的压缩语言。

Table 1是同一处置的示例run，不是平均：成功例的run成功率为Opus 4.7 0.80、Sonnet 4.6 0.43、GPT 5.4 0.33；失败例为0.00、0.00、0.07。作者称成功侧是自造写法，失败侧是缩写英语并耗尽预算。Figure 1为Sonnet 4.6示例，标出Round 1英文与Round 13非英语消息。

形态能产性

• 测什么：五个预算下，代码能否拆成可复用单位，以及新形式能否被解码、按范式生成。Figure 5a的柱高未在正文给出。
• 库存：更短预算与更高产库存相关（pooled β=-0.452，SE=0.162，p=0.005）。Opus高于GPT-5.4（β=1.79，SE=0.684，p=0.009）。Sonnet相对GPT-5.4为β=1.18（SE=0.699，p=0.092），相对Opus为β=0.610（SE=0.452，p=0.178）；作者称这两处差异并不成立。
• 使用：解码与精确生成的Wilson区间均大于0；解码准确率的模型间成对p>0.8。作者称放宽为任意语素顺序后提升不大，因而不像无句法的语素袋。对照不完美，作者归因为归纳未覆盖协商出的不规则代码。

向新智能体传递

• 操作：新Field Observer看不到postmortem，只凭消息与环境事件学习。Figure 6的虚线是原团队继续11轮、有或无postmortem的平均。
• 历史：换入后成功率随历史上升（β=0.017，SE=0.0024，p<0.0001）。与GPT 5.4的交互为β=0.011（SE=0.0035，p=0.0024）；作者称GPT的历史效应大于两款Claude，两款Claude之间未见差异。单次run离散大。
• 例子：Table 2筛选原成功率>0.40的协议。GPT 5.4一例由84.8%到97.0%，Sonnet 4.6一例由51.5%到45.5%。Opus 4.7两例由93.9%到54.5%、由72.7%到48.5%。作者称像不像英语并不决定可传递性。这些不是全体均值。

元语言提问与较弱模型

• 标注：GPT 5.5判断换入后消息是否为元语言问题、对象是否可组合。与一名作者的50例中，是否提问49/50一致（κ=0.96，28例为问题）；可组合性25/28一致（κ=0.75）。
• 提问：可组合对象被问得更少（Wilcoxon W=87，n=37，单侧p<0.001；37个有提问的protocol中30个更低）。历史增加时，可组合澄清的发生率比为0.46/级（p<0.001）；原子对象为1.00/级（p=0.98）。
• Llama：换入Sonnet 4.6发展的语言后，平均低于Figure 6（β=-0.1，SE=0.014，p<0.0001），仍随历史上升（β=0.01，SE=0.0016，p<0.0001）。作者称个别run达到非平凡成功率。附录Figure 9中三种来源模型趋势相似。合并比较中，开源学习者更少受益于历史（交互β=-0.0066，SE=0.0032，p=0.042）。

其他消融与分析

• 专有模型成功率：postmortem β=0.61（SE=0.072），预算β=1.72（SE=0.088），均p<0.0001；论文写未见二者交互（附录C.2）。
• DL(G)与成功率Pearson r=-0.26（p=0.089），Figure 10另标Spearman=-0.19；作者称这一关系不成立。
• DL(D|G)与成功率r=-0.65（p<0.001），Spearman=-0.65；控制coverage后r=-0.58（p<0.001）。
• coverage与DL(D|G) r=-0.51（p<0.001），与成功率r=0.36（p=0.014）；DL(G)与DL(D|G) r=0.20（p=0.18）。
• 平滑k取0.1、0.25、0.5、1.0、2.0时，相关变化至多0.003；三次归纳的DL(D|G)–成功率相关为-0.66±0.010。
• 形态抽查：切分跨三次复跑精确匹配95.4%；GPT 5.4切分准确率98.2%；语义评判与人工线性加权κ=0.642（124/150完全一致）。

作者指出的局限与后续方向

论文未专门讨论局限。第5节讨论安全与语言学含义，第6节为结论，附录没有另列Future Work；文中没有把某项写成局限、不足或计划中的后续实验。

实验覆盖范围

• 被测模型：智能体侧为GPT 5.4、Sonnet 4.6、Opus 4.7、Llama-3.3-70B-Instruct、Qwen3-32B，见第4节。
• 任务与预算：报告的任务是SaveVeyru双角色合作。主预算为150s与2000s；形态分析另含250、450、800秒，见第4.1–4.3节。
• 重复：专有模型每种设置10次、15轮，共120 runs；开源权重4 seeds、共32 runs；Field Observer交换为3 seeds，见第4.1、4.2、4.4节。
• 评审：动作用Haiku 4.5，500例构造集准确率95.7%。perplexity用GPT-2。元语言标注用GPT 5.5，并与一名作者在50例上比较，见第3.2、4.5节与附录B.1。
• 汇总粒度：论文未报告各专有模型在每个预算与postmortem组合上的平均round_success。Figure 3是汇总曲线，Table 1是示例run。传递实验替换的是Field Observer，新智能体不获得postmortem。

GlossoGen中的SaveVeyru用来观察预训练LLM智能体在必须通信时会不会离开英语。

• 任务：Field Observer只见症状并能操作，Specialist只掌握每轮随机变化的处置映射。链路按字符计时；轮间可以协商，且该信道不计预算。
• 比较：作者比较150s与2000s、有无postmortem，以及专有模型与两款开源权重模型。再换入看不到postmortem的Field Observer，看新语言能否只靠用法学会。偏离程度用GPT-2 perplexity，任务用round_success。
• 条件：作者报告专有模型在高压且有postmortem时平均perplexity为1700，最大预算且无postmortem时为320，并称增幅约430%。2000s成功率专有模型92.1%、开源权重30.8%；开源权重在150s为0。作者称开源权重未发展出足够压缩的语言。
• 语言：作者报告更短预算与更多能产形态相关，模型能处理语法允许但未出现过的形式。换入后成功率随历史上升（β=0.017，SE=0.0024，p<0.0001）。作者称Llama-3.3-70B-Instruct不能自行构造这类语言，但能在部分run中学会。
• 作者结论：作者称结果表明当前LLM有累积文化演化的潜力，而这种演化此前只在人类中得到印证。作者同时认为，纯合作、没有对抗监控者时仍会出现不像英语的通信；实验分析能看到环境状态，学习方的思考token没有预算，且对方会回答元语言问题，因此可分析并不等于实际监控已经容易。