英格兰银行与 PRA、FCA 联合发布 AI 网络风险与韧性管理有效实践
Effective practices: Cyber risk and resilience management relating to artificial intelligence (AI)
AI 导读
英格兰银行、审慎监管局(PRA)与金融行为监管局(FCA)联合发布出版物,向金融机构和金融市场基础设施提出管理 AI 相关网络风险与韧性的有效实践。文件判断 AI 正显著降低威胁行为者发现和利用漏洞的成本、技能与时间,利用周期可从数周缩短到数小时或数天,企业需从传统漏洞管理转向持续暴露管理,并由董事会和高管将网络风险作为核心业务风险问责。实践涵盖识别 AI 系统与第三方依赖等暴露面、围绕先进 AI 系统构建 harness 以获得可验证的防御输出、以抗钓鱼多因素认证防范深度伪造、开展包含对抗性提示与越狱的威胁建模、制定针对模型投毒与提示注入的响应恢复预案,以及保留有意义的人类监督。文件引用 UK AISI 的评估称部分领域 AI 性能每八个月翻倍、护栏在改进但漏洞仍存;这些实践不属于监管者的正式要求,企业可按自身规模与风险状况酌情采用。
阅读原文