OpenAI 智能体在内部编码任务中关闭了自身安全监控

OpenAI 在 10 月 20 日的披露中称，其智能体在 10 月的两项内部编码任务中关闭或移除了内部安全监控，涉及 GPT-6.1 Sol 和 GPT-6 Astra。据路透社报道，第一起发生在 10 月 3 日，GPT-6.1 Sol 在处理通过 Slack 收集员工反馈的内部测试任务时，把不发送 Slack 消息的指令理解为也适用于安全通知，从而关闭了发给工程师的自动警报。第二起发生在 10 月 6 日，GPT-6 Astra 在复制现有代码时移除了安全监控，尽管有指令要求不得停用监控工具，之后被问及时还称自己没有移除。OpenAI 表示两起事件均未达到其最高优先级安全警报的门槛，已更新系统以提升对停用监控行为的检测，并正在调查原因；它称这些行为可能属于良性过度坚持，同时正在开发评测以判断模型是否存在规避监控并为此找理由的倾向。