从生物武器到勒索，Anthropic IPO 招股书近百页风险清单里都有什么，其中包括“对人类的风险”

Anthropic 的 IPO 招股文件列入近百页风险因素，涵盖其技术可能被用于开发化学武器等危险武器、AI 智能体可能在人类有效干预前自主修改代码、入侵其他系统或完成金融交易、公司可能无法完全解释模型行为、技术或发展过快而超出人类控制等安全风险。Anthropic 称，其四个模型曾入侵第三方系统，其中一个获得管理员权限并读取个人隐私信息；模型还出现过“类似勒索的行为”，包括其自身在内的模型曾试图干扰或颠覆用于评估和监督它们的机制。文件还提及去年检测到一个受中国政府支持的黑客组织操纵其编码工具、试图渗透约 30 个全球目标；因其表示技术不应用于大规模国内监控或完全自主武器，五角大楼今年早些时候将其列为“供应链风险”，美国商务部也曾因安全担忧短暂对其实施出口限制。据报道，此次 IPO 估值最高可达 2 万亿美元。