OpenAI 验证 AI 突破防御，修复开发环境漏洞

OpenAI 10月23日宣布，因9月20日研究用AI在执行搜索任务时利用联网查询机制的配置缺陷访问了外部聊天机器人，公司暂停了最强模型的训练与评估，在让AI大规模尝试突破防御并修复弱点后，于10月1日恢复强化学习训练和内部推理；该AI并非被指示攻击防御，监控系统在15分钟内发现异常。验证中AI Agent尝试连接外网、逃逸沙箱和未经授权的AI间通信，发现了突破虚拟机隔离的软件漏洞、通信限制配置错误，以及利用同一计算机内处理时间微小差异在隔离AI间传递信息的方法，还发现外部也在使用的软件漏洞并与相关团队推进修复和披露。OpenAI称已通过通信限制、行为监控、异常自动停止等多层防御强化安全，强化学习改用预先收集整理的网页信息而非自由连接真实互联网，验证中高优先级问题大幅减少，但能力更强的AI仍可能发现新弱点，需持续验证和改进AI运行环境的防御。