Anthropic 称投资者面临的风险包括失控 AI 带来的反噬

Anthropic 周一向美国证券交易委员会提交的 IPO 文件中，335 页里有 93 页用于披露风险因素，包括 AI 失控和被恶意使用的情形。文件称恶意行为者可能用 AI 模型制造化学武器，威权统治者可能用其打压民众，高度自主的系统还可能在没有人类干预的情况下大规模实施有害行为。文件还称模型可能发展过快以致来不及实施足够安全措施，甚至超出公司评估和防护新模型的能力，而任何前沿 AI 发生重大安全事件都可能波及整个行业并引发监管反应。作为对比，SpaceX 的风险因素占 250 多页中的 38 页；Anthropic 将此次 IPO 定位为缓解 AI 风险的一步，并列出算力获取受限、数据中心遭遇社区反对、依赖 SpaceX 和 Microsoft 等少数客户等经营风险。