跳到正文
原文
80,000 Hours Podcast· The 80,000 Hours team·本站收录· 原文发表· 观点 →· 扫描记录里的位置 →

Anthropic 的 Holden Karnofsky:39 个提高 AGI 胜算的具体项目

39 specific projects to improve our chances with AGI | Holden Karnofsky, Anthropic

AI 导读

80,000 Hours 重发 2025 年 10 月访谈,Anthropic 的 Holden Karnofsky 列出 39 个降低 AI 风险的具体项目。项目包括训练欺骗性模型以研究欺骗及其检测、开发拦截越狱的分类器、防止训练中被植入后门等。他认为对许多人而言,加入 Anthropic 等前沿公司是引导 AGI 向好的最佳方式,外部机构也各有优势。

阅读原文80000hours.org