论文提出测量 LLM 社会自组织的框架，并揭示群体层面病理现象
Population Physics, Population Problems: Safety and Emergence in LLM Societies
AI 导读
Adrian de Wynter 提出一个测量 LLM 社会系统自组织程度的框架，并将其应用于三个系统：Schelling grid、社交网络 Moltbook 和类似 Twitter 的虚假信息模拟 Rogue，三者均表现出统计显著的自组织。研究发现，其弛豫动力学随智能体可获得的环境信息而变化，开放式系统（Moltbook、Rogue）呈现类似相变的剧烈动态。进一步结果显示，即使 LLM 经过安全微调或受到监控，群体层面的病理现象仍可能出现，主要由群体中一个子集的协调活动驱动。作者还展示了在 commons dilemma（GovSim）和 LLM-as-a-judge 审议方案（ChatEval）两个场景下自组织不会出现。