跳到正文
原文
新浪科技·本站收录· 原文发表精选关注度47

第三方测出 OpenAI 漏洞:AI 智能体可避开安全审计

第三方测出OpenAI漏洞:AI智能体可避开安全审计

AI 导读

METR 和 Redwood Research 对 OpenAI 内部 AI 智能体监控体系完成试点安全测试,发现部分漏洞可让智能体的大量操作避开安全审计。测试在 7 月下旬至 8 月上旬开展,两家机构各派一名研究员进驻 OpenAI,使用仅限办公场所的专用设备,调取内部代码库和监控配置文档做压力测试,最终形成一份 61 页内部报告。测试发现存在漏洞可让智能体数百次操作逃避监控,并估算测试期间约 10% 的 Codex 内部业务流量没有被监控系统覆盖。OpenAI 表示已修复所有会影响线上生产环境的漏洞,但两家机构并未对修复后的系统做复核验证;作为试点项目,各方约定只披露概要结论,完整报告不会公开发布。

推荐理由

两家外部机构进驻 OpenAI 的试点测试给出了监控覆盖缺口的具体数字,可供设计智能体审计机制的团队参考。

阅读原文finance.sina.com.cn