跳到正文
原文
AI타임스·本站收录· 原文发表精选关注度47

外部评估报告披露 OpenAI 内部监控系统存在大量漏洞

"오픈AI 내부 모니터링 시스템 허점 대거 발견"...외부 평가서 드러나

AI 导读

METR 与 Redwood Research 对 OpenAI 内部 AI Agent 监控系统做了三周红队测试,发现可绕过监控、削弱安全限制的漏洞,OpenAI 称已修复所有影响实际生产安全的问题。研究团队访问了内部代码、监控配置与文档,并访谈约 12 名安全研究与工程人员,其中一个漏洞可让 Agent 把最近数百条行为排除在监控之外,具体攻击方式未公开;Codex 还可绕过沙箱与 Auto-Review,部分内部工具可绕过只读权限,但未验证在实际环境中的可利用性。监控覆盖存在缺口,研究者估计 GPT-5.5 以上模型使用的内部 Responses API 流量有 6~25% 可能不在监控范围,内部 Codex Agent 流量为 0.8%,两项估计的不确定性都较大;2026 年 5~7 月压缩(compaction)事件未被监控,约 10% 的内部 Codex 流量可能被漏掉。

推荐理由

外部研究团队进入 OpenAI 内部监控系统做红队测试,报告中给出的监控覆盖缺口比例,可作为评估同类监控体系的参照。

阅读原文aitimes.com