事件持续更新
NCSC 警告银行谨慎部署智能体 AI
先了解这件事
AI 综述
英国国家网络安全中心（NCSC）国家韧性主管 Jonathon Ellison 警告银行，在加速采用智能体 AI 时应确保其可观测、受约束并接受适当监督，否则可能暴露关键系统。他对 The Banker 表示，机构应具备适当的保障、监督、监控和安全控制，使活动保持可观测、受约束并与机构风险偏好一致。英格兰银行行长安德鲁·贝利则提出更根本的担忧，认为前沿 AI 系统正越来越多地利用自身输出通过递归学习改进自身。
AI 根据报道生成 · 15 小时前更新
最新进展10月7日 13:00
NCSC 官员警告银行勿仓促部署智能体 AI，须确保可观测、受约束并受监督。后续时间线
10月7日
- The Banker英国 NCSC 警告银行勿仓促部署智能体 AI
英国国家网络安全中心（NCSC）国家韧性主管 Jonathon Ellison 警告银行，在加速采用智能体 AI 时应确保其可观测、受约束并接受适当监督，否则可能暴露关键系统。Ellison 对 The Banker 表示，机构应确保具备适当的保障、监督、监控和安全控制，使活动保持可观测、受约束并与机构风险偏好一致。英格兰银行行长 Andrew Bailey 则提出更根本的担忧，认为前沿 AI 系统正越来越多地利用自身输出通过递归学习改进性能，形成日益自我指涉的反馈过程，若无有效干预手段，这一过程类似模型逐步自我治理的闭环，可能削弱社会进行有意义监督和干预的能力。他主张优先确保 AI 模型可被理解、测试并在必要时中断，而非仅仅出台新监管。OneTrust 的 Adrienne Canter 指出员工自行下载 AI 应用正在制造新的影子 IT 问题。
相关讨论
关注度走势
每天新增来源
- 10月7日 新增 1 个来源（1 家媒体、0 个账号）
- 10月8日 新增 0 个来源（0 家媒体、0 个账号）