Anthropic S-1 招股书也是一份 AI 末日读本

Anthropic 正式提交 IPO 招股书，其中 94 页风险因素章节详列先进 AI 系统可能给人类带来灾难性乃至生存风险的警告。招股书把这一结果与递归自我改进（RSI）挂钩，称随着 AI 系统大幅自动化 AI 研发，若模型进步速度超出公司评估和防护新模型的能力，风险将上升，公司可能直到为时已晚才意识到输掉这场竞赛。文件还提到更自主的系统可能因与人类意图不一致、目标设定错误或自我保存行为，在无人干预下独立、大规模采取有害行动。同一份招股书又把这种递归动态称为 closing the loop，视作前沿 AI 最显著的结构性优势之一，并称若不这样做，可能随着竞争对手持续用 AI 增强开发能力而逐渐落后。