失控AI、网络攻击、武器：Anthropic在IPO前向投资者警示的风险

Anthropic在IPO招股书中以93页篇幅向投资者披露AI风险因素，包括模型失控、网络攻击和被用于开发化学武器等；这份335页的文件中风险因素占93页，而SpaceX招股书250多页中风险因素为38页。文件提示，模型可能发展过快以致来不及部署足够安全措施，自主性增强的AI系统或能独立、大规模实施有害行为；即使Anthropic自身模型无害，任何前沿AI的重大安全事件也可能引发行业声誉损害和大规模监管反应。公司还列出恶意行为者滥用、算力获取受限、数据中心遭遇社区反对，以及依赖SpaceX、Microsoft等少数客户的经营风险。Anthropic在文件中称前沿AI公司必须投资安全与对齐，并将此次IPO定位为缓解AI风险的一步。