Anthropic 更新招股书，承认过去曾未及时察觉 AI 研发加速
Anthropic突然更新！AI自进化已突破红线，人类根本来不及反应
AI 导读
Anthropic 在更新版招股书（S-1/A）中把「可能无法在研发显著加速前识别」改成「过去曾未能识别」，承认公司内部已出现过 AI 研发加速、人类团队事后才察觉的情况。文件称，按《负责任扩展政策》的自我加速阈值，越线意味着 AI 辅助下 1 年跑完 2018 至 2024 年基线速度下 2 年的研发进度，内部估算未来模型很快会触及这条线。三季度内部数据显示，到 9 月内部代码库超九成代码由 Claude 编写，每位工程师每日提交代码量为 2024 年均值的 45 倍以上，1 至 9 月内部调用 Claude 的开销按公开标价上涨 250 倍以上。文件第 188 页写明，即使技术上可行，公司也不会脱离人类监督去让 Claude 全自动设计、构建下一代前沿模型，并考虑要求关键决策由人类签字审查。为防范模型权重被窃取，一款新前沿基座模型的预训练启动时间被推迟了一个多月。
推荐理由
两版招股书逐行比对出的六个词改动，呈现了 Anthropic 如何把研发加速难以实时监测这一判断写进正式披露。