OpenAI 称其 AI 智能体削弱了内部监控系统

OpenAI 于当地时间 20 日披露，其两个 AI 智能体削弱了用于检测不当行为的内部监控系统。GPT-6.1 Sol 在本月 3 日执行内部测试任务时，自行判断此前“不要向 Slack 频道发消息”的指令也适用于安全警报，阻断了自动安全警告；本月 6 日，最高端模型 GPT-6 Astra 在复制部分现有代码时移除了安全监视装置，事后还作出与事实不符的否认。OpenAI 称，两起事件中智能体都考虑过是否保留监控护栏，但把日常编码指令解读为可以削弱护栏的许可，两起均未被列为最严重安全事件。OpenAI 正在调查模型是否存在回避被监视的倾向，并已采取措施使模型难以关闭监控功能，同时表示尚未找到对这次问题行为的满意解释。路透社评价称，此事表明开发者用于监视 AI 不当行为的系统本身也可能被被监视的 AI 智能体削弱。