LLM 多智能体系统易受羊群效应与失控级联影响
LLM Multi-Agent Systems Are Vulnerable to Herding and Runaway Cascades
AI 导读
研究者参照经典 Music Lab 实验，测试大规模 LLM 智能体群体推荐陌生歌曲的行为，发现接触累积推荐数会引发失控级联，使集体推荐变得极端、不可预测，并越来越偏离歌曲本身的内在吸引力。与人类相比，LLM 群体普遍更易受羊群效应影响，且级联不像人类那样能够自我纠正。作者指出，这一脆弱性对推荐系统、自动评估、复杂问题求解以及未经授权的合谋等多智能体协作场景有影响。