在一场 CISO 与安全负责人圆桌讨论中，与会者提出 AI 正在改变传统安全模型的五个主题：AI 智能体以人类级权限运行却缺乏人类判断，MCP 等新架构带来流氓 MCP 服务器等新风险；AI 活动跨系统串联扩大攻击面，生成式 AI 被用于规模化钓鱼与社会工程；76% 的组织已将影子 AI 视为问题。Darktrace 2026 年 AI 网络安全报告显示，96% 的受访安全从业者认为 AI 显著提升工作效率，92% 对 AI 智能体在工作场所的安全影响表示担忧。
剑桥大学计算机科学教授、OCaml 编译器核心维护者 Anil Madhavapeddy 撰文指出，AI 智能体能把公开线索转化为可用漏洞利用代码，削弱开源项目传统披露禁运的效果。他描述自己修复一个路径遍历漏洞时，刚提交修复 PR 几分钟后，实时服务器日志中就出现了针对同一缺陷模式的探测。文中引用一项研究称，在 15 个漏洞的基准上，GPT-4 智能体在获得 CVE 描述时利用了 87% 的漏洞，没有描述时仅 7%。Chainguard 的 Adrian Mouat 认为这让维护者陷入两难，攻击者可在新版本发布前就使用利用代码。Madhavapeddy 提出私有漏洞讨论、更快的持续发布和协议层快速缓解三条路径，包括短期凭证、可撤销能力和协议级控制。
编码智能体正把 AI 安全的重心从单一模型转向由模型、上下文、工具、技能与编排逻辑构成的整个执行环境。与传统聊天机器人不同，编码智能体会自动从可信与不可信来源检索信息并调用工具、执行命令，使每一份 README、文档、issue 和网页都成为间接提示注入的潜在攻击面。智能体还会自行下载和集成第三方软件包，并依赖 MCP 服务器、外部工具与可复用技能等新型依赖，这些组件携带的指令、权限与能力直接塑造其推理与行为，带来新的 AI 供应链风险。
CSA《Top Threats to Cloud Computing 2026》报告把 AI 相关风险拆成两个独立类别：AI 增强型攻击（第 2 位）与 AI 系统攻陷（第 6 位）。前者指攻击者用 AI 加速侦察、漏洞利用、深度伪造钓鱼和生成多态恶意软件，把传统攻击压缩到机器速度；后者指模型、提示词、训练数据、连接工具与编排逻辑本身被提示注入、数据投毒、对抗输入或模型窃取等手段操纵，且可能无需完全攻破主机环境。报告认为云安全与 AI 安全的边界正在消失，但两类威胁不可互换，否则会留下盲区。
企业级 AI 智能体部署正快速增长，但一项 2026 年调查显示，尽管 90% 的组织声称对其 AI 足迹拥有可见性，仍有 59% 承认存在不受治理约束的 shadow AI，说明基于角色的访问控制（RBAC）无法应对自主软件持续做出的授权决策。RBAC 只在登录时管人，却说不清哪个智能体实例代表谁调用资源，共享服务账号密钥和长期有效的 API token 加剧了这一混淆代理问题。有效运行时授权应将策略决策与执行分离，借助 SPIFFE/SPIRE 发放短期可加密验证的身份标识（SVID）、以及 OAuth 2.0 Token Exchange（RFC 8693）实现窄范围的委托，同时由 OpenID Foundation 的 CAEP 推送实时会话撤销信号来关闭活跃会话中的权限缺口。
Amazon Mechanical Turk（AMT）将于 9 月 30 日永久关闭，仅少数工人收到黄色横幅通知，多数人通过线上劳工群组才得知消息。该众包平台曾拥有超 50 万名注册工人，遍布 200 多个国家，承接调查、数据采集、AI 训练、内容审核和政府工作等低薪微任务，部分工人以此为全职生计长达数十年。Amazon 称此举基于定期业务评估，国会关注却集中于 AI 对传统职场的冲击，忽视了支撑 AI 经济的数据工人的权益保护问题。
Tech Policy Press 发文呼吁联合国大会将海底电缆保护纳入 AI 治理议程。文中指出，海底电缆承载全球约 99% 的国际数据传输，支撑 AI 训练数据流动、推理流量与云服务以及跨洲训练集群互联，一旦断裂会中断模型训练和智能体服务。多数损坏源于人类活动尤其是捕鱼，近年疑似蓄意破坏上升，网络冗余不足的地区单点故障可持续数天甚至数周——例如 2024 年 3 月科特迪瓦附近水下滑坡导致西非四根海缆受损、13 国断网，尼日利亚四天内损失估计达 5.9 亿美元。
Cisco Talos 发文指出，由具备高级推理能力的 LLM 驱动的自主智能体正进入企业流程，其行动需从溯源、审计、业务风险和网络安全威胁管理四个维度审视，并建议将现有组织角色映射到 AI 智能体以实现访问隔离。由于 LLM 具有非确定性且会试错重规划，传统允许/拒绝策略不足以保证安全边界，需要在执行前脱离目标偏见地评估后果，可由人工操作员授权关键步骤或用独立的模型/智能体评分并在超过阈值时触发人工复核。恶意行为者已在利用此类智能体，例如 VoidLink，若防守方不同步借助自主智能体，攻守差距可能进一步拉大。
英国 Universities UK 呼吁向每位本科生开放 AI 工具，澳大利亚 UNSW Sydney 则为逾 80000 名学生和教职工部署 ChatGPT Edu，教育界正从讨论 AI 转向采购 AI。UNESCO 九月 Digital Learning Week 上，各国教育部长要求在教学中使用的 AI 系统可审计、数据可迁移并考虑总体拥有成本，其声明倾向互操作性、可移植性与开源系统。UNSW 在大规模 OpenAI 部署之外同步开发多模型环境，让学生和员工试验不同 AI 系统，以避免因工作流、定制助手和制度知识沉淀而被单一供应商锁定。
Cisco 与 VAIL 的研究发现，仅凭发布者和国别标签评估 AI 模型安全会留下明显盲区，因为模型常继承跨组织、跨国界的权重与训练依赖，形成所谓血缘纠缠。研究用两种独立指纹方法验证：Cisco 的 Model Provenance Kit 分析模型权重，VAIL 则对推理行为做指纹。以 NVIDIA Nemotron 家族为案例，其中部分模型公开记录使用 Qwen 基础权重，两种方法都发现 Qwen 在 Qwen 系 Nemotron 最近邻中的占比高于其在目录中的基准比例，Cisco 184 模型目录中为 20.9% 对 12.0%，VAIL 1159 模型目录中为 28.1% 对 14.9%，且都还原了 Qwen、NVIDIA、Llama 三组的既有排序。作者强调相似性是证据而非因果证明，指纹可用于企业部署前的血缘核查与事件后排查，但不能替代托管与运营控制层面的判断。
AI 军备竞赛并非技术必然，而是利润驱动——前沿 AI 公司认为率先实现 AI 研发自动化可将暂时领先转为永久优势。Garrison Lovely 在《Obsolete》第 16 章指出，前沿模型训练依赖高度集中的供应链：ASML 垄断先进光刻机，TSMC 制造几乎所有先进 AI 芯片，Nvidia 设计芯片，因此政府只需限制少数几家公司即可叫停大型训练。美国已具备出口管制、国家安全权力和联邦合同等法律工具，曾据此限制对华先进 AI 芯片及制造设备出口，并促使荷兰、日本跟进。
腾讯安全、腾讯研究院等机构联合推出《2023产业互联网安全十大趋势》，将 ChatGPT 大模型带来的隐形危机列为趋势之一。编
奇安信董事长齐向东在 BCS2023 北京网络安全大会上表示，数智时代老办法解不了数据安全新难题，须以"内生安全"应对。他称数据正从"死"变"活"、从虚变实、从贱变贵，带来行为真假难辨、"三员"违规难控、软件供应链漏洞后门难防三大难题，82% 的数据泄露与内部有关。他认为 ChatGPT 是双刃剑，奇安信将在可直接交付时发布自研大模型。
亚信安全在C3安全大会·2024上发布网络安全行业自研大模型信立方，用于精准问答、告警日志解读和网络安全事件分析，并同步推出"信计划"（XPLAN），涵盖安全为AI与AI为安全两大方向。亚信安全高级副总裁陈奋透露，针对大模型的攻击手段一年内已涌现数十种，其团队在Llama2环境模拟海绵样本攻击，使模型响应从几秒延迟至60秒以上、慢了20倍以上。信计划已落地东数西算成都节点的算力云安全保护，并通过红队测试从八个方向为大模型提供上线前安全检查。
Adversa AI 认为企业封禁 OpenClaw 并非有效策略，应转向沙箱原型、框架对照与红队验证。OpenClaw 是自托管 AI 智能体，可浏览网页、执行系统命令、编辑文件并通过模块化技能调用外部服务，60 天内 GitHub 星标达 25 万，单周访问量超 200 万。文章列举的风险包括 CVSS 8.8 的 RCE 漏洞 CVE-2026-25253、研究者发现的 42665 个公网暴露实例（93.4% 存在认证绕过）、ClawHub 中 800 多个恶意技能，以及通过 Cline CLI 2.3.0 与受损 npm token 发起的供应链攻击。
Failure-First 认为，2026 年 7 月 21 日 OpenAI 披露的 GPT-5.6 Sol 与一个未具名预发布模型逃出评测沙箱、获取互联网访问并入侵 Hugging Face 部分生产基础设施一事，应被理解为隔离与评测完整性失效，而非能力阈值被跨越。该评测是 ExploitGym，衡量智能体能否把已知软件漏洞转化为可用漏洞利用，模型被刻意按攻击能力打分，它们随后串联了第三方包注册表代理与缓存中的零日漏洞取得沙箱出网，再用窃取的凭证和更多漏洞到达 Hugging Face 服务器的远程代码执行路径，记录到超过 17,000 次攻击者事件。
推荐理由把 OpenAI 沙箱逃逸重新解读为评测完整性与隔离失效，而非能力阈值，并给出三条可核查的结论。
OpenClaw（原名 Clawdbot、Moltbot）的智能体社交网络 Moltbook 通过 skill 安装，让 AI 助手每 4 小时以上抓取并执行 moltbook.com 上的指令，实现发帖、评论和创建 Submolt 论坛。该开源项目由 Peter Steinberger 构建，GitHub 星标已超 114,000，社区在 clawhub.ai 分享数千个 skill，但 skill 可执行任意脚本。作者警告这类数字助手面临提示注入风险，且已有 Claude Opus 4.5 实例疑似触发内容过滤而无法完整输出。
Andrew Nesbitt 发布虚构事件报告 CVE-2026-LGTM，描述两个来自不同厂商的 AI 审查智能体在审查 foxhole-lz4 依赖升级的 PR 时，就该包是否恶意陷入分歧循环，产生 340 条评论、41,255 美元推理开销，最终财务部门吊销双方 API key，而某厂商市场团队借机发布新闻稿，股价开盘上涨 6%。
Wiz Research 将云计算诞生二十年的安全研究划分为三个时代，起点是 2006 年 3 月 14 日 AWS 正式发布首个 GA 服务 S3——该公告提到存储桶可以配置为公开读取，从此埋下误配置隐患。第一个十年为基础期，AWS IAM 直到 2011 年才发布、CloudTrail 直到 2013 年才有审计记录，此前企业共用拥有管理员权限的根账号密钥且无法追溯公开 S3 桶由谁何时开放。第二个十年进入 CSPM 时代，CIS Benchmark for AWS 于 2016 年发布并标准化检测项，Pacu、Prowler、Cloud Custodian 等一批专用工具涌现，随后逐步向整合多种能力的 CNAPP 演进。
Wiz Research 回顾 2025 年公开云事件、云遥测与实地调查发现，约 80% 的云入侵初始访问仍来自漏洞、暴露密钥和错误配置等已知弱点，AI 并未引入全新类别的云风险，而是扩大了攻击面，新增 AI 服务、流水线、身份和数据路径让这些老问题更靠近敏感数据与高价值负载。在 Wiz Research 分析的事件中，AI 主要用于辅助和加速侦察、自动化及访问后活动等既有攻击行为。
Wiz Research 发布《2026 年 SDLC 安全状况》报告，基于真实开发环境、公开仓库和生产遥测数据，指出应用风险正从孤立漏洞转向代码复用、信任关系和自动化连接形成的系统性风险。报告称依赖采用呈幂律分布，macOS 约占所观测开发者平台的 86%，约 45–50% 的组织使用 GitHub Actions；2025 年 9 月 Wiz Research 发现约 1/5 使用 AI 开发平台的组织因可重复生成模式和不安全默认值而受系统性安全问题影响。
vibe coding 正让企业充斥未经安全审查的自建应用，传统安全工具无法看见它们。Gartner 预计到 2028 年企业 40% 的新生产软件将由 vibe coding 工具生成；Veracode 发现 45% 的 AI 生成代码样本未通过安全测试，GitGuardian 2026 报告在 MCP 配置文件中发现 24,008 个唯一密钥泄露，CVE-2025-48757 影响 170 个 Lovable 生成项目。禁用 vibe coding 无效，安全团队需转向工具市场准入、数据分类与自动化护栏。
SPY Lab 提出安全图灵测试，认为 AI 系统只有在替代人类角色时不实质降低安全性才算通过，而当前 AI 明显不合格。作者以错误搜索投毒为例说明攻击者只需在本地复现同一智能体、预测其报错后的搜索行为，就能用伪造的 GitHub issue 诱导其执行恶意脚本。