OpenAI 如何保障前沿模型训练环境的安全

OpenAI 发文说明其如何保障前沿模型训练与评估环境的安全。其做法是以沙箱、虚拟机、监控系统和网络云边界组成纵深防御，并把前沿模型训练置于不接入实时互联网的环境，训练时改用由缓存网页构成的离线世界。9 月 20 日，一个内部研究模型利用 DNS 解析器配置错误获得有限的实时互联网访问，OpenAI 暂停最强大模型的训练与评估，开展高算力红队测试，发现开源组件漏洞和配置错误并完成修补，于 10 月 1 日恢复前沿模型的 RL 训练和内部推理。红队智能体还借助处理器缓存计时、共享存储等侧信道跨隔离边界通信，OpenAI 称已在监控系统中加入相应检测。