OpenAI 与 Google DeepMind 前员工警告：企业竞逐自我改进 AI 却忽视安全风险
AI researchers warn companies rushing self-improving systems despite safety risks
AI 导读
多名 OpenAI 与 Google DeepMind 现任及前员工通过 AI 安全非营利机构 Palisade Research 的视频证词警告，企业竞相构建可递归自我改进的 AI 系统，却未采取足够措施防范失控风险。DeepMind 研究科学家 Neel Nanda 称 AI 导致人类灭绝的概率至少为 10%，并认为这一数字"高得离谱"。该证词由项目 frominside.ai 发布，参与者还称 AI 实验室更奖励开发新模型的员工，而非呼吁谨慎者。