全部动态
从来源，看到研究的联系
图中 3 条 · 本页 3 条 · 共 3 条动态论文会议论文
关系图可左右滑动，完整标题也在下方列表中
流带宽度表示材料数量，多标签均分；连线表示来源与分类归属。2 个较少出现的方向归入「其他方向」，点选可查看。
点选节点，展开一条线索
本页材料
完整标题与摘要 · 3 条- 动态Rappler
OpenAI 与 Google DeepMind 前员工警告：企业竞逐自我改进 AI 却忽视安全风险
多名 OpenAI 与 Google DeepMind 现任及前员工通过 AI 安全非营利机构 Palisade Research 的视频证词警告，企业竞相构建可递归自我改进的 AI 系统，却未采取足够措施防范失控风险。DeepMind 研究科学家 Neel Nanda 称 AI 导致人类灭绝的概率至少为 10%，并认为这一数字"高得离谱"。该证词由项目 frominside.ai 发布，参与者还称 AI 实验室更奖励开发新模型的员工，而非呼吁谨慎者。
- 动态X @NeelNanda5
AGI实验室员工谈AI灭绝风险
感谢 Palisade 把这些整理出来！我认为让公众看到 AGI 实验室一些人的真实想法是件好事——一份细致、长篇的呈现，而且，是的，我们中许多人确实认为，AGI 如果做得不好，可能导致人类灭绝。
- 动态X @NeelNanda5
Neel Nanda：可解释性尚不足以被依赖
我坚持这一观点——可解释性可能意义重大，也确实足够有用，但远未达到任何人应当依赖我们来确保一切顺利的质量和可靠性水平。