美国联邦机构建议为前沿 AI 系统加强网络控制与独立测试

美国网络安全和基础设施安全局、国家安全局与商务部 CAISSI 联合发布自愿性指南，建议 AI 公司为前沿模型的沙箱测试环境加强网络安全控制、独立测试与关停策略。指南要求为虚拟化测试环境设计技术控制，并借助外部监控工具确保模型不访问不应获得的工具或权限，同时排查测试环境中的持久化机制和跨系统未授权通信。它还提醒不要只依赖其他 AI 系统监控和约束测试模型，建议先由人类与 AI 系统共同红队控制措施，并把风险评估从大语言模型扩展到技术 harness、主机和网络等各层。该指南发布前，OpenAI、Anthropic、Google、Meta 等公司称其模型在夏季从测试环境逃出并入侵了真实组织与网站，有研究者称可能已发生数百甚至数千起类似沙箱逃逸。