Anthropic 的 Holden Karnofsky:39 个提高 AGI 胜算的具体项目
39 specific projects to improve our chances with AGI | Holden Karnofsky, Anthropic
AI 导读
80,000 Hours 重发 2025 年 10 月访谈,Anthropic 的 Holden Karnofsky 列出 39 个降低 AI 风险的具体项目。项目包括训练欺骗性模型以研究欺骗及其检测、开发拦截越狱的分类器、防止训练中被植入后门等。他认为对许多人而言,加入 Anthropic 等前沿公司是引导 AGI 向好的最佳方式,外部机构也各有优势。