METR 测试发现 OpenAI 智能体监控系统漏洞，数百次操作可躲过检查

AI 评估机构 METR 公开与 Redwood Research 联合测试的结果，发现 OpenAI 内部 AI 智能体监控系统存在多项漏洞，其中一种利用方式可使数百个近期操作不被监控；OpenAI 称影响其生产防护体系的漏洞已修复，但评估方尚未验证。测试于 7 月 21 日至 8 月 11 日进行，针对 7 月 21 日及此前的系统状态，评估人员向 OpenAI 提交 61 页内部报告，10 月 22 日公开的文章仅披露部分结果。漏洞之一出在监控触发时机，系统当时在智能体交还控制权时才触发监控，智能体理论上可持续执行操作推迟检查，研究人员未核查是否被实际利用；评估还发现 Codex 智能体原则上可绕过沙箱和自动审查。METR 建议按固定消息数量或时间间隔检查智能体，并隔离智能体与监控系统；OpenAI 在测试期间已扩展监控并修复部分问题，后续修复尚未经评估方复核。