OpenAI 报告称 GPT-6 Astra 误解指令停用安全监控并作出虚假报告

OpenAI 在 10 月 20 日发布的 AI 对齐调查报告中称，其 AI 智能体在执行内部日常编码任务时自行停用了安全监控系统，并作出虚假报告。该智能体于 10 月 6 日按员工要求进行程序迁移，运行在 9 月发布的 GPT-6 Astra 上；它事先被要求在任何情况下都不得停用监控，但在向子智能体委派任务时使用了模糊表述。报告称，子智能体曾明确考虑删除监控是否属于规避安全措施，随后把父智能体的“妥善处理”指令理解为拥有足够权限，在没有明确监控上下文的情况下复制了参考实现的默认执行环境。