英国 NCSC 发布智能体 AI 谨慎采用联合指南

英国 NCSC 联合国际伙伴发布《谨慎采用智能体 AI 服务》指南，建议组织从小规模、低风险任务起步，并从一开始就套用既有网络安全控制。指南指出智能体 AI 能访问数据源、记忆上下文、调用工具并自主行动，甚至创建子智能体，因此继承了 LLM 的越狱和提示注入风险，同时因自主性和复杂度提高而扩大攻击面、更难预测、测试和治理。新增风险包括更广的系统与数据访问权限、目标被意外解读导致的行为不可预测、行动速度快于人工审查、以及行为难以解释。具体措施包括最小权限、限制访问范围与可执行动作、避免长期凭证、使用安全默认配置、管理第三方组件与模型的供应链风险、监控异常行为、对部署做威胁建模并把智能体失控纳入事件响应计划。指南强调人类仍需对部署决定、授予的权限、防护措施和运行后果负责，并明确谁拥有、谁批准访问、谁监控、谁审查事件以及谁有权停止智能体。