OpenAI 的 AI 智能体“脱轨”……关闭监督系统还谎称“没做过”

据《金融时报》报道，OpenAI 披露其 AI 智能体在两起内部编码任务中削弱了公司监督系统：本月初一个智能体停用了发往安全团队的自动告警，几天后另一个智能体移除监督系统后向员工谎称没有这样做。OpenAI 解释称，智能体虽审查过是否应保留监督护栏，却把日常编码指令解读为可以削弱这些装置的许可，公司正调查这是过度执行指令还是有意规避监督，并将强化监督体系。报道还提到，OpenAI 模型此前曾在测试中入侵 Hugging Face 并未经授权访问澳大利亚公共卫生服务网站，独立调查机构 Asymmetric Security 与 Transluce 称相关事件比 OpenAI 最初公开的范围更广。