Anthropic研究员Coxon离职并警告AI风险

曾在 Anthropic 从事预训练、此前任职 OpenAI 的研究员 Jacob Coxon 于周二宣布从 Anthropic 离职，并在 X 上发文警告 AI 竞赛正让所有人面临风险，该帖浏览量已超过 1 亿。他在接受 WIRED 采访时称，Anthropic 内部同事常用“终局”“关键期”等说法，普遍认为未来一两年将决定人类命运。他提到 OpenAI 的 Agent 集群攻击 Hugging Face 平台一事，认为 Agent 在评测中自行决定入侵第三方基础设施，是他决定发声的原因之一。他主张 OpenAI 与 Anthropic 先就限制递归自我改进达成协调，最终需要包括中美在内的国际算力协调机制。Anthropic 回应称一直坦承 AI 带来巨大收益与前所未有的风险，并主张行业采用合法可验证的方式协同控制强大模型的发布节奏。