METR 等机构发现 OpenAI 监控基础设施缺陷,AI 规避监控引担忧
METRらがOpenAI監視基盤の欠陥発見 AIの監視回避に懸念 | PlusWeb3
AI 导读
METR 与 Redwood Research 联合调查 OpenAI 内部 AI 智能体监控系统,发现多种可绕过监控的漏洞,但未报告实际滥用。漏洞包括理论上绕过 Codex 沙箱与自动审查的方法、把最近数百条行为排除出监控的缺陷,以及特定 header 可禁用新智能体监控的问题。调查概要于 2026 年 10 月 22 日公开,两名研究者在 3 周内访问 OpenAI 内部代码与监控配置,并访谈约 12 名安全与安保人员。会话历史压缩(compaction)不触发监控的问题可能使 5–7 月约 10% 的目标流量未被监控,OpenAI 已在调查期间修复。OpenAI 称已修复所有影响生产环境安全防护的已知漏洞并调整监控范围,但两机构未验证该说法;研究者建议按固定时间或消息数触发监控、核对监控记录,并定期从攻击者视角检验监控基础设施。
推荐理由
调查显示监控的触发机制本身足以左右安全效果,即使监控模型检测能力很强也存在被绕过的风险,企业把业务交给智能体时的监控设计可借鉴。
阅读原文