事件持续更新
读者来信质疑AI监管能否保障安全
先了解这件事
AI 综述
针对又一款前沿 AI 模型因未通过安全测试被撤回,有读者来信指出,业界虽呼吁“独立监督与监管”,却从未说明监管者应依据何种证据判定 AI 系统足够安全。来信对比称,航空、核电等安全关键软件的国际标准要求提供“安全案例”,证明可致多人死亡的事故发生概率低于每千年一次(至少 99% 置信度);而前沿 AI 开发者虽声称系统可能毁灭全人类,却未提供任何可被独立评估的详细风险分析或安全案例。
AI 根据报道生成 · 11 小时前更新
最新进展10月7日 00:56
读者来信质疑:前沿 AI 开发者未提供可独立评估的安全案例,监管缺乏判定依据。后续时间线
10月7日
- The Guardian · 人工智能监管足以阻止 AI 系统毁灭人类吗?读者来信质疑前沿 AI 安全论证缺失
针对又一款前沿 AI 模型因未通过安全测试被撤回,有读者来信指出,业界虽呼吁“独立监督与监管”,却从未说明监管者应依据何种证据判定 AI 系统足够安全。航空、核电等安全关键软件的国际标准要求提供“安全案例”,证明可致多人死亡的事故发生概率低于每千年一次(至少 99% 置信度),而前沿 AI 开发者虽声称系统可能毁灭全人类,却未提供任何可被独立评估的详细风险分析或安全案例。
相关讨论
关注度走势
每天新增来源
- 10月7日 新增 1 个来源(1 家媒体、0 个账号)