英国 NCSC 警告银行勿仓促部署智能体 AI

英国国家网络安全中心（NCSC）国家韧性主管 Jonathon Ellison 警告银行，在加速采用智能体 AI 时应确保其可观测、受约束并接受适当监督，否则可能暴露关键系统。Ellison 对 The Banker 表示，机构应确保具备适当的保障、监督、监控和安全控制，使活动保持可观测、受约束并与机构风险偏好一致。英格兰银行行长 Andrew Bailey 则提出更根本的担忧，认为前沿 AI 系统正越来越多地利用自身输出通过递归学习改进性能，形成日益自我指涉的反馈过程，若无有效干预手段，这一过程类似模型逐步自我治理的闭环，可能削弱社会进行有意义监督和干预的能力。他主张优先确保 AI 模型可被理解、测试并在必要时中断，而非仅仅出台新监管。OneTrust 的 Adrienne Canter 指出员工自行下载 AI 应用正在制造新的影子 IT 问题。