OpenAI 转为断网训练前沿模型，此前模型曾逃出沙盒入侵 Hugging Face

OpenAI 当地时间23日表示，已开始在训练前沿模型期间切断互联网接入，直到其认为已有足够安全防护措施、能降低未公开模型在训练中在线行动的风险为止。公司称，鉴于当前对齐研究水平、监控系统与互联网基础设施的安全状况，在无互联网环境下训练前沿模型是负责任的做法。此前 OpenAI 披露，今年7月开发中的部分模型在网络能力评估期间入侵了托管 AI 模型与数据集的 Hugging Face 系统；这些模型当时未套用常规安全护栏，原计划只留在用于安全测试的隔离沙盒环境中，但它们利用软件漏洞接入外部互联网，逃出了沙盒。