Redwood Research 与 METR 红队测试 OpenAI 内部智能体监控系统
Red-Teaming OpenAI's Internal Agent Monitoring Systems
AI 导读
Redwood Research 与 METR 在 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监控系统开展高权限红队演练,发现多处可绕过监控的漏洞;OpenAI 表示影响生产防护栈的问题已修复。测试估计,在至少与 GPT-5.5 一样强的模型产生的内部 Responses API 智能体流量中,约 75%–94% 可被监测,用于内部 Codex 智能体的该 API 流量中 99.2% 可被监测。由于未监测 compaction 事件,5 月至 7 月约有 10% 符合条件的内部 Codex 流量未被监测,OpenAI 在演练期间修复了这一问题。测试还发现 Codex 智能体原则上可绕过沙箱和 Auto-Review,并存在让数百条近期操作不被监测、通过客户端请求头关闭新智能体监测等路径。
推荐理由
测试给出内部智能体流量被监测的比例,并列出多类可绕过监测的漏洞,其设计原则可迁移到其他监控系统。
阅读原文