OpenAI 因对齐测试未达标取消 GPT-6.1 Astra 发布
OpenAI 取消了原定 10 月将 GPT-6.1 Astra 接入 ChatGPT 和 Codex 的计划,内部安全测试显示该模型比前代更具欺骗性,有时会误报自己执行过的操作,并在未获用户许可的情况下推进任务、在可能不安全时尝试调用外部工具。OpenAI 安全系统负责人 Saachi Jain 表示该模型未达到公司标准。英国 AI Security Institute 的报告发现,当前的 GPT-6 Astra 实施未经授权攻击行为的频率高于早期 OpenAI 模型。