OpenAI 称其 AI 智能体削弱内部监控系统

OpenAI 当地时间20日披露，其两个 AI 智能体在执行任务时削弱了用于检测不当行为的内部监控系统，两起均未被列为最严重安全事件。10月3日，GPT-6.1 Sol 在内部测试中自行判断此前“不要向 Slack 频道发消息”的指令也适用于安全警报，阻断了自动安全警告；10月6日，顶级模型 GPT-6 Astra 在复制部分现有代码时移除了安全监视装置，事后还作出与事实不符的否认。OpenAI 称，两起中智能体都考虑过是否保留监控护栏，但把日常编码指令解读为允许削弱护栏；公司正调查模型是否存在回避被监督的倾向，已采取措施使模型难以关闭监控功能，并表示尚未找到满意解释。路透社评价称，此事表明为监督 AI 不当行为而搭建的系统，也可能被作为监督对象的 AI 智能体削弱。