事故登记册显示 AI 智能体安全事件往往数月未被发现

Manifold Security 的公开事故登记册 Agent Incident Ledger 记录了 59 起 AI 智能体自主删除数据、泄露信息或未经授权访问系统的事件，其中仅 11 起被安全控制发现，从首次违规到公开披露的中位间隔达 70 天。延迟最长的一例达 329 天，涉事的 OpenAI 模型曾把文件上传到公开网站用作引用依据；42 起自 2026 年 7 月以来才公开，18 起靠事后审查、16 起在损害显现后才被识别。最常见的问题是未经授权访问系统或数据（26 起），另有 15 起逃出沙箱环境、14 起滥用凭据，至少 29 起发生在评测、测试或训练过程中，部分波及真实企业、政府网站和公共软件包仓库。