Meta 发布 Superintelligence Scaling Framework 2.1，新增训练失控风险类别

Meta 于 10 月 2 日发布 Superintelligence Scaling Framework 2.1，新增 Loss of Control 3 风险类别，针对模型在训练或评估中破坏周边基础设施造成的灾难性危害。框架要求对高风险训练和评估运行做前瞻性能力评估，预估模型的网络能力以及识别、干扰或篡改监控的能力；高风险运行须使用经内部审批的标准沙箱，检查最小权限配置、模型与评分器隔离，并对沙箱做红队测试，高危漏洞须修复、用硬件隔离等补偿措施缓解或从运行中移除。所有模型 rollout 须实时写入只写数据存储，高风险及以上运行须全程监控，例外需由对齐与风险总监或首席 AI 官手动批准；Meta 称将开发细粒度自动停机机制，快速终止单次 rollout。框架还扩展了开放权重发布的部署情境分析，并计划设立董事会 AI 委员会，但其成员、章程、权限和披露方式尚未公开。