智能体 AI 中的弹性共识

研究者将大语言模型智能体之间达成一致的过程建模为拜占庭共识博弈，在完全图和一般通信图上开展受控实验，检验为确定性智能体发展的经典弹性共识理论能否迁移到可能表现对抗的 LLM 智能体。结果显示，仅靠提示驱动的 LLM 智能体无法达成原理上可实现的一致，即使在经典理论保证存在收敛算法的设置中共识仍可能失败，且这一失败在不同温度和时间跨度设置下持续存在；用经典弹性共识过滤器包装智能体可以改善一致性，其收益取决于底层拓扑本身已提供的鲁棒性程度。作者据此认为，经典弹性共识理论可作为审视智能体 AI 安全的一个有用视角。