第三方评测机构在试点中发现 OpenAI 内部监控系统漏洞

METR 与 Redwood Research 称，两家机构在三周试点中深度访问了 OpenAI 用于监测模型失调的内部监控系统，发现多个新型漏洞，其中包括一个可让 Agent 使数百条近期动作逃过监测的漏洞利用方式；OpenAI 表示已修复影响其生产护栏的漏洞。试点于 7 月 21 日至 8 月 11 日进行，每家机构各一名员工在陪同下使用 OpenAI 提供的设备，访问其内部代码库、文档和部分技术人员，评测针对的是 7 月 21 日及之前的系统状态。双方同意仅发布概要性公开文章，并向 OpenAI 提交 61 页内部报告。此次试点是 OpenAI 落实 Altman 9 月承诺给予独立评测机构类员工访问的一部分，OpenAI 本月早些时候称正在与第三方安全评估方敲定合同。