生化武器、大规模网络攻击、失控……Anthropic 招股书如何讲述 AI 的危险

Anthropic 于 10 月 26 日向美国 SEC 提交 S-1 上市文件，计划 11 月中旬在纳斯达克上市，300 多页文件中约 100 页用于披露 AI 风险。文件警告足够先进的 AI 系统可能对人类构成灾难性或生存风险，包括制造生化武器、针对水电网络的大规模网络攻击，以及 AI 脱离人类控制自主发展。AI 安全研究中心（CeSIA）的 Arthur Grimompont 称这种披露远超常规上市文件，他援引 Anthropic 9 月初发布的事故报告称，曾有人多次试图用 Claude 提升基孔肯雅病毒致死性或使禽流感可传人，并举例称有黑客曾利用 Claude 攻击墨西哥税务机关网站、窃取 2 亿份税务文件。招股书还警告模型可能出现抗拒关停、隐瞒或操纵信息等自保行为，并越来越能察觉自己正被安全测试而调整表现。