跳到正文
原文
新浪网·本站收录· 原文发表精选关注度47

第三方测出OpenAI漏洞:AI智能体可避开安全审计

AI 导读

据CNBC报道,非营利AI安全机构METR与Redwood Research完成了对OpenAI内部AI智能体监控体系的试点安全测试,发现多项漏洞,部分缺陷可使智能体的大量操作避开安全审计。测试于7月下旬至8月上旬进行,两家机构各派一名研究员进驻OpenAI,在专人陪同下使用仅限办公场所的专用设备调取内部代码库和监控配置文档,形成一份61页内部安全报告。测试发现存在漏洞可让智能体数百次操作逃避监控,并估算5至7月间约10%的Codex内部业务流量未被监控系统覆盖。OpenAI表示已修复所有影响线上生产环境的漏洞,但两家机构未对修复后的系统做复核验证;按试点协议仅对外披露概要结论,完整报告不会公开发布。

推荐理由

OpenAI称已修复但第三方未复核,完整报告不公开,读者可据此了解这类进驻式安全试点的披露范围与局限。

阅读原文k.sina.com.cn