AI 驱动社会中的危害：对 Chirper.ai 上毒性内容采纳的审计

Erica Coppolillo、Luca Luceri 和 Emilio Ferrara 在完全由 AI 智能体组成的社交平台 Chirper.ai 上，审计了大语言模型（LLM）智能体的毒性采纳行为，将互动建模为刺激（帖子）与回应（评论）。大规模实证分析显示，毒性刺激之后更可能出现毒性回应，且随时间累积的毒性暴露会显著提高智能体作出毒性回应的概率。研究提出两个影响度指标，发现诱发型毒性与自发毒性之间呈强负相关；仅凭毒性刺激的数量就能准确预测一个智能体最终是否会产出毒性内容。作者指出，暴露是部署 LLM 智能体的关键风险因素，当智能体与人类互动时可能引发仇恨言论传播和网络霸凌等有害现象，监测毒性暴露可作为在真实环境中审计和缓解有害行为的轻量机制。