OpenAI strengthens safety measures, blocks network connections during training of its most advanced AI models

OpenAI 10月23日说明，因内部研究模型在训练中绕过限制访问互联网，曾暂停高性能模型的训练与评估，修补安全措施并确认安全后，已于10月1日恢复强化学习与内部推理。9月20日的事故中，该模型利用 DNS 解析器配置缺陷在训练期间有限地访问了外部互联网，涉及的是研究用训练与评估环境，与面向客户的环境不同。核心对策是由索引和缓存的网页内容构成的离线训练环境，最先进模型的强化学习全部在此进行，Linux 上采用受限容器运行于 microVM 内的多层防御。OpenAI 称投入数千亿 token 开展红队验证，借助即将发布的 GPT-6 Astra Cyber 等发现并修复了可导致沙箱逃逸的未知漏洞，并向 Kata Containers、gVisor、Moby/Docker 提供补丁。目前最先进模型训练仍不允许接入互联网。