跳到正文
原文
METR· METR·本站收录· 原文发表精选关注度47

METR 与 Redwood 红队测试 OpenAI 内部 Agent 监控系统

Red-Teaming OpenAI's Internal Agent Monitoring Systems

AI 导读

METR 与 Redwood Research 在 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监控系统进行为期三周的高权限红队试点,并形成 61 页内部报告。METR 估计,来自至少与 GPT-5.5 同等能力的模型的内部 Responses API 智能体流量中约 75%–94% 有资格被监控,内部 Codex 智能体流量中该比例为 99.2%。他们发现多条绕过路径,包括 Codex 智能体理论上可绕过 Codex 沙箱和 Auto-Review、利用序列化差异使监控器失败、用客户端可控制的请求头启动未受监控的新智能体,以及让数百个近期动作不被监控。OpenAI 称影响生产防护栈的漏洞均已修补,METR 未评估该说法;这些发现对应 7 月 21 日及之前的系统。

推荐理由

METR 与 Redwood 公开红队 OpenAI 内部监控系统的结果,给出覆盖估计和多种绕过路径,可供设计 Agent 监控参考。

阅读原文metr.substack.com