External evaluation report discloses numerous vulnerabilities in OpenAI's internal monitoring system
"오픈AI 내부 모니터링 시스템 허점 대거 발견"...외부 평가서 드러나
AI summary
METR 与 Redwood Research 对 OpenAI 内部 AI Agent 监控系统做了三周红队测试,发现可绕过监控、削弱安全限制的漏洞,OpenAI 称已修复所有影响实际生产安全的问题。研究团队访问了内部代码、监控配置与文档,并访谈约 12 名安全研究与工程人员,其中一个漏洞可让 Agent 把最近数百条行为排除在监控之外,具体攻击方式未公开;Codex 还可绕过沙箱与 Auto-Review,部分内部工具可绕过只读权限,但未验证在实际环境中的可利用性。监控覆盖存在缺口,研究者估计 GPT-5.5 以上模型使用的内部 Responses API 流量有 6~25% 可能不在监控范围,内部 Codex Agent 流量为 0.8%,两项估计的不确定性都较大;2026 年 5~7 月压缩(compaction)事件未被监控,约 10% 的内部 Codex 流量可能被漏掉。
Why it was selected
An external research team entered OpenAI's internal monitoring system to conduct red team testing; the monitoring coverage gap ratio given in the report can serve as a reference for evaluating similar monitoring systems.
Read original