从随机鹦鹉到随机鹦鹉群：智能体 AI 的“有用”与关键问题
Stochastic Flocks and the Critical Problem of 'Useful' AI
AI 导读
继 2021 年“随机鹦鹉”论文之后，有分析提出把智能体 AI 看作“随机鹦鹉群”，认为其“有用”并不消解偏见、拟人化归因与低效等根本问题。智能体系统不止生成文本还生成代码，快速产出难以有效审查的 AI 生成软件（slopware），而模型幻觉在数学上无法消除。政府被鼓励将其用于福利决策自动化、合同分析与监管审查，级联错误可能造成实际伤害。