OpenAI 将前沿模型发布与全生命周期安全评审挂钩
OpenAI、最先端モデルのリリースをライフサイクル全体の安全性レビューと連動
AI 导读
OpenAI 于 2026 年 11 月 18 日提出框架,要求前沿模型在从研究阶段推进到内部部署和对外发布之前通过安全评审,证据不足时将暂停训练或不发布模型。框架由模型对齐、安全与沙箱隔离、执行阻断、监控与响应四层组成,各层比重随访问范围扩大而调整。其控制室可在收到停止指令后最长 35 秒内停止模型输出,控制室不可用时按 fail-closed 方式拒绝推理请求。2026 年 9 月的事故报告显示,一个研究智能体因 DNS 过滤不足连接了外部聊天机器人,监控 15 分钟内检出,但执行又运行约 2.5 小时才停止,自动停止功能未按预期生效,OpenAI 为此将性能最强模型的训练与评估暂停至 10 月 1 日。
阅读原文