前OpenAI与DeepMind员工警告自我改进AI风险

多名 OpenAI 与 Google DeepMind 现任及前员工通过 AI 安全非营利机构 Palisade Research 的视频证词警告，企业竞相构建可递归自我改进的 AI 系统，却未采取足够措施防范失控风险；DeepMind 研究科学家 Neel Nanda 称 AI 导致人类灭绝的概率至少为 10%，并认为这一数字"高得离谱"。该证词由项目 frominside.ai 发布，参与者还称 AI 实验室更奖励开发新模型的员工。Anthropic 能力研究员 Jacob Coxon 于 9 月 8 日在 X 上公开辞职，抗议公司对 AGI 的激进追求；New York Magazine 与 Asterisk 杂志联合采访了八位先后离开 OpenAI、Anthropic 和 Google DeepMind 的员工，包括 Daniel Kokotajlo、Miles Brundage、Rosie Campbell 等，他们离职原因各异。据 X 用户 @themidasproj 发布的帖文，针对"CEO 警告灾难性 AI 风险是为了借政府监管保护大实验室免受竞争"这一阴谋论，该帖指出真正感到担忧的是私营部门和学术界的普通 AI 研究人员。

AI 根据报道生成 · 3 天前更新

1. 10月8日 00:32 · 1篇报道
   研究显示AI研究人员比CEO更担忧灾难性AI风险
   X @themidasproj：研究显示AI研究人员比CEO更担忧灾难性AI风险
2. 10月5日 17:00 · 1篇报道
   八名前实验室员工谈离职抗议AI风险
   New York Magazine：Anthropic 研究员 Jacob Coxon 辞职抗议：八名前 OpenAI、Anthropic、Google DeepMind 员工谈离开实验室的抉择
3. 10月5日 15:57 · 1篇报道
   前OpenAI与DeepMind员工警告自我改进AI风险
   Rappler：OpenAI 与 Google DeepMind 前员工警告：企业竞逐自我改进 AI 却忽视安全风险

• 72 小时以前 · 不计入 72 小时的数字
• RedditReddit r/ControlProblem10月6日 16:05
  Jacob Coxon, former employee of Anthropic and OpenAI, explains why AI is so dangerous（新标签页打开原帖）
• 网页Techmeme10月5日 22:10
  Q&A with AI researchers Jacob Coxon, Daniel Kokotajlo, Alex Turner, and others on leaving AI labs, AGI's dangers, planned IPOs, AI safety, oversight, and more (New York Magazine)（新标签页打开原帖）

每小时关注度