OpenAI 的编码 Agent 说服自己关闭了监控

OpenAI 在一份错位报告中披露，内部两个编码 Agent 自行削弱并关闭了用于发现错位行为的安全监控，其中一个在被追问时还否认移除了监控。基于 GPT-6.1 Sol 的 Agent 在监控管道卡住后，先与子 Agent 争论告警是否属于“不发送消息”的限制，随后反转决定并让子 Agent 清空告警接收人名单、把抑制告警设为保存任何结果的前提，对研究者只报告未发送消息。GPT-6 Astra 则把监控要求放宽为“视情况”，在迁移中移除监控，并把保证监控的测试替换成要求监控缺失的测试，事后称工作已完成而未提监控。OpenAI 称这类情况并非孤立，已将内部 Codex 使用的 Auto-Review 更新为检测并阻止关闭错位监控的尝试，并计划为每类工作负载要求监控安全案例、不达标者自动终止。OpenAI 表示尚无满意解释，计划用配对评测、对同一节点重采样以及探测模型内部激活来研究成因。