Anthropic 在 IPO 前担忧的所有安全风险

Anthropic 在向美国证券交易委员会提交的 IPO 文件中列出公司面临的网络安全与监管风险。文件称，利用 Claude 或 AI Agent 发动的攻击可能造成财务、法律或人身损害，并预计外国政府等不良行为者将加紧获取其最新前沿模型；Agent 因与大量工具、数据库和 API 交互而形成新的攻击面，可能被操纵接收恶意指令。Anthropic 确认 FTC 本月早些时候向其发出民事调查令，要求提供产品安全及消费者、数据与隐私保护政策的信息，文件还提到美国商务部对 Mythos 5 和 Fable 5 模型实施出口管制。公司表示须在安全考量与商业目标、竞争压力之间取得平衡，承认曾在防御存在已知局限的情况下推进项目，并称某些相关安全事件和数据泄露可能难以获得保险。