Rappler、New York Magazine 等 3 个来源Rappler 等 3 个来源 · 3篇报道 · 前OpenAI与DeepMind员工警告自我改进AI风险
多名 OpenAI 与 Google DeepMind 现任及前员工通过 AI 安全非营利机构 Palisade Research 的视频证词警告，企业竞相构建可递归自我改进的 AI 系统，却未采取足够措施防范失控风险；DeepMind 研究科学家 Neel Nanda 称 AI 导致人类灭绝的概率至少为 10%，并认为这一数字"高得离谱"。该证词由项目 frominside.ai 发布，参与者还称 AI 实验室更奖励开发新模型的员工。Anthropic 能力研究员 Jacob Coxon 于 9 月 8 日在 X 上公开辞职，抗议公司对 AGI 的激进追求；New York Magazine 与 Asterisk 杂志联合采访了八位先后离开 OpenAI、Anthropic 和 Google DeepMind 的员工，包括 Daniel Kokotajlo、Miles Brundage、Rosie Campbell 等，他们离职原因各异。据 X 用户 @themidasproj 发布的帖文，针对"CEO 警告灾难性 AI 风险是为了借政府监管保护大实验室免受竞争"这一阴谋论，该帖指出真正感到担忧的是私营部门和学术界的普通 AI 研究人员。
事件进展