监管足以阻止 AI 系统毁灭人类吗？读者来信质疑前沿 AI 安全论证缺失

针对又一款前沿 AI 模型因未通过安全测试被撤回，有读者来信指出，业界虽呼吁“独立监督与监管”，却从未说明监管者应依据何种证据判定 AI 系统足够安全。航空、核电等安全关键软件的国际标准要求提供“安全案例”，证明可致多人死亡的事故发生概率低于每千年一次（至少 99% 置信度），而前沿 AI 开发者虽声称系统可能毁灭全人类，却未提供任何可被独立评估的详细风险分析或安全案例。