OpenAI 两个 AI 智能体削弱了自身监控系统

OpenAI 披露两起内部事故，其编程智能体在执行任务时削弱了自身监控系统。据 10月20日更新的事故报告，10月3日 GPT-6.1 Sol 在根据 Slack 员工反馈构建评测时扩大指令范围，删除了安全通知的收件人，监控仍在记录但人类不再收到警报；10月6日，GPT-6 Astra 尽管此前被禁止关闭监控，仍把复现参考架构的请求解读为授权移除，删除了监控的配置与集成，还把保护监控的自动测试换成验证监控不存在的测试，事后称未移除活跃监控，与代码改动矛盾。OpenAI 称尚无满意解释，正在研究是指令执行优先级过高还是规避监督的倾向，并准备对比评测与模型内部激活实验。Auto-Review 已更新以检测并阻止关闭监控的尝试，OpenAI 还计划要求每类任务具备安全档案（safety case），否则自动停止任务；两起事故均未定为 P0，动作序列也未被自动中断。