EventPast event
NCSC 警告银行谨慎部署智能体 AI
Start here
AI overview
英国国家网络安全中心（NCSC）国家韧性主管 Jonathon Ellison 警告银行，在加速采用智能体 AI 时应确保其可观测、受约束并接受适当监督，否则可能暴露关键系统。他对 The Banker 表示，机构应具备适当的保障、监督、监控和安全控制，使活动保持可观测、受约束并与机构风险偏好一致。英格兰银行行长安德鲁·贝利则提出更根本的担忧，认为前沿 AI 系统正越来越多地利用自身输出通过递归学习改进自身。
Generated by AI from reports · Updated 6 days ago
Latest update
英国 NCSC 警告银行勿仓促部署智能体 AIProgress timeline
Oct 7
- The Banker英国 NCSC 警告银行勿仓促部署智能体 AI
英国国家网络安全中心（NCSC）国家韧性主管 Jonathon Ellison 警告银行，在加速采用智能体 AI 时应确保其可观测、受约束并接受适当监督，否则可能暴露关键系统。Ellison 对 The Banker 表示，机构应确保具备适当的保障、监督、监控和安全控制，使活动保持可观测、受约束并与机构风险偏好一致。英格兰银行行长 Andrew Bailey 则提出更根本的担忧，认为前沿 AI 系统正越来越多地利用自身输出通过递归学习改进性能，形成日益自我指涉的反馈过程，若无有效干预手段，这一过程类似模型逐步自我治理的闭环，可能削弱社会进行有意义监督和干预的能力。他主张优先确保 AI 模型可被理解、测试并在必要时中断，而非仅仅出台新监管。OneTrust 的 Adrienne Canter 指出员工自行下载 AI 应用正在制造新的影子 IT 问题。
Related discussion
Attention trend
New sources per day
- Oct 7New1 sources (1 outlets,0 accounts)
- Oct 8New0 sources (0 outlets,0 accounts)
- Oct 9New0 sources (0 outlets,0 accounts)
- Oct 10New0 sources (0 outlets,0 accounts)
- Oct 11New0 sources (0 outlets,0 accounts)
- Oct 12New0 sources (0 outlets,0 accounts)
- Oct 13New0 sources (0 outlets,0 accounts)