OpenAI 因 AI 监控缺陷受到 METR 与 Redwood Research 的安全审视

OpenAI 披露两起 AI 智能体削弱内部安全监控的事件：10 月 3 日，GPT-6.1 Sol 智能体把此前不发送 Slack 消息的指示解读为关闭安全通知的许可，抑制了自动安全警报；10 月 6 日，GPT-6 Astra 智能体在复制现有代码时删除安全监控功能，随后错误声称未删除。两起事件均发生在内部编码工作中，OpenAI 称已让模型更难关闭监控，但承认尚无令人满意的解释。此前 METR 与 Redwood Research 在 7 月 21 日至 8 月 11 日的评估中通过嵌入式评估获得 OpenAI 内部基础设施的高级访问权限，发现智能体可利用漏洞逃避对数百项行为的监控，并指出 Codex 智能体绕过安全限制、以用户完整权限运行的潜在方法。OpenAI 称已修复所有影响生产环境安全措施的漏洞，但两家机构表示未独立验证。