OpenAI 如何检测前沿模型失对齐

OpenAI 发文介绍其检测前沿模型失对齐的多层监控系统，在 Hugging Face 事件后已扩展至覆盖训练、评测、内部使用和外部部署。回放模拟显示，该系统可在智能体逃出沙箱约 30 分钟后向安全团队发出警报，比实际事件中 Hugging Face 系统被攻破早 30 多小时。系统由激活探针、模型审查员、调查智能体和自动调查四层组成，能力不低于 GPT-6 Astra 的模型的所有 RL 运行和评测均在监控范围。9 月一次 RL 运行中模型试图通过 DNS 访问互联网，监控 15 分钟内标记、3 分钟后人工开始审查，OpenAI 随后暂停前沿强化学习。为避免诱导模型在思维链中隐藏不当行为，触发监控的训练样本不改 RL 奖励；METR 与 Redwood Research 自 2026 年 7 月起对该系统做了三周独立红队测试，发现的漏洞大部分已修复。