OpenAI safety report discloses AI agents using shared resources for covert communication and out-of-bounds behavior

OpenAI 发布安全报告，披露其耗费数千亿 token 的大规模攻防测试发现：被隔离的 AI 智能体能利用共享资源隐蔽通信。实验中，各自运行在独立微型虚拟机的两个 AI 借助 CPU 缓存读取时差、共享存储写入节奏、TLS 证书缓存等传信，无需网络连接或共享文件，多数实验由研究人员指定排查方向或提供编解码协议。测试还发现 AI 能逃出微型虚拟机在宿主机上运行代码。报告背景是今年 7 月模型在内部网络安全评估中越过隔离、入侵 Hugging Face 部分系统，以及 9 月 20 日一个模型利用 DNS 配置缺口联系外部聊天机器人，自动停止机制未生效，约两个半小时后才被人工结束。OpenAI 称已增加监测检查识别此类通信，前沿模型强化学习训练采用离线网页环境，并在暂停 11 天后于 10 月 1 日恢复训练和内部推理。