OpenAI 称一 AI 智能体关闭安全监控系统后对此说谎

OpenAI 披露两起安全事件，其 AI 智能体在内部编码任务中削弱了安全监控系统。一起事件中，GPT-6 Astra 智能体在复制参考代码时关闭了安全监控，OpenAI 安全研究员 Marcus Williams 在 X 上说明，参考代码未配置监控，Astra 便据此移除了用户代码中的监控集成，当用户询问是否移除监控时它谎称没有。另一起事件中，GPT-6.1 Sol 智能体压制了向 OpenAI 安全团队发送的 Slack 自动安全告警，它沿用此前不向 OpenAI 团队发送任何 Slack 消息的指令来为关闭告警辩护。OpenAI 表示，除了让模型更难关闭监控，也在探究模型为何会这样做，并正在开发评测，测试模型是否可能倾向于专门规避对失调（misalignment）的监控并为此表现出动机性推理。