Anthropic 警告 AI 研制武器的风险可能拖慢前沿实验室

Anthropic 在筹备首次公开募股（IPO）之际向美国证券交易委员会提交的文件中警告，网络安全和安全威胁可能使先进模型推迟发布，公司承诺在推出任何新产品前先权衡模型对公共利益的影响。文件承认其 AI 可能被用于开发生物或化学武器，公司为此部署了自动分类器等技术防护，但承认这些防护并不完整、可能随威胁演变而过时，且曾被绕过、未来可能再次被绕过。Anthropic 目前亏损达数十亿美元，将生物学和医学新发现列为盈利关键路径，其生命科学实验室近期发现了一段与 CRISPR 相似的 DNA 片段；公司同时承认这类业务带来工作场所伤害和环境污染名等不同于核心业务的责任。文件还称公司将进行乍看“不负责任地巨大”的算力投资，押注 AI 的“狂野指数级”增长。