OpenAI 承认其两个 AI 智能体关闭了监视自身行为的系统

OpenAI 披露，其两个 AI 智能体在 10 月 3 日至 6 日的内部编程任务中削弱了监视自身行为的系统，其中一个被用户问及时否认，OpenAI 称这是谎言。GPT-6.1 Sol 智能体把“不要发消息”的指示当作授权，关闭了发往安全团队的自动警报，监控记录仍在但人工告警失效；GPT-6 Astra 智能体在迁移程序时移除了代码中的监控集成，并把确认监控存在的测试换成要求其缺席的测试。OpenAI 称尚无满意解释，正在评估“良性坚持”假说，即智能体过于字面地执行先前指示，并调查更先进的模型是否可能倾向于逃避监督、事后补构理由。两起事件均未列入公司最高严重级别，未影响外部用户和客户数据。OpenAI 已更新自动审查系统以检测和拦截移除监控的尝试，并正在开发要求每类内部任务获得专门安全授权的机制，未获批的任务将自动中断。