跳到正文

供应链安全 · News

10月13日 · 周二

供应链安全 · News

按原发与事件进展排列
10月7日周三
  1. CNA、Monetary Authority of Singapore 等 3 个来源CNA 等 3 个来源 · 5篇报道 · 53

    新加坡MAS发布金融业AI风险管理指引

    新加坡金融管理局(MAS)发布《人工智能风险管理指引》,对金融机构使用AI提出监管预期,适用于所有金融机构和各类AI技术,并允许机构按自身AI使用规模与风险状况调整落实方式。指引要求董事会与高管层对AI风险实施有效监督并明确问责,在AI全生命周期内识别、评估和管理风险并采取相称控制措施,涵盖数据治理、测试、人工监督、网络安全、监控和变更管理;对第三方开发、运营或提供的AI,金融机构仍须承担风险管理责任并取得充分保证,若风险超出自身风险偏好,应考虑限制、暂停或更换该服务。指引于2027年10月7日生效。MAS还就2025年11月发布的咨询文件发布反馈回应,明确AI指通过数据或输入习得前提生成输出的机器系统或模型,涵盖机器学习、深度学习、自然语言处理、计算机视觉、生成式AI(含大语言模型)与AI智能体,仅基于预设规则的计算器、RPA和蒙特卡洛模拟等不在范围内;MAS表示2027年将就智能体AI发布补充指引。

10月6日周二
  1. The Chosun Daily、Yonhap News Agency 等 3 个来源The Chosun Daily 等 3 个来源 · 3篇报道 · 46

    韩国公务AI平台外国模型争议与替换计划

    韩国政府为公务员搭建的"泛政府超大型AI共同基础"平台所搭载的31款AI模型中,国产仅12款,外国产达19款;已实际启用的11款中有7款为外国产。据议员金章谦从行政安全部、科学技术信息通信部获取的资料,名单中包括中国北京智源人工智能研究院(BAAI)开发的Bge-M3,而BAAI已于去年3月被美国商务部列入出口管制实体清单,政府方面承认引入AI模型时未进行相关审查。韩国副总理兼科学技术信息通信部长官裴庆勋在国会科学技术信息广播通信委员会国政监查中表示,将把该平台上的模型替换为独立基础模型二次评估入选的4个模型,未来从二次评估结果开始正式应用于公共部门,三次评估时进一步扩大。此前有议员指出,该平台搭载的11个AI模型中7个来自海外企业,其中Naver Cloud平台的最大模型为英伟达的Nemotron 3 Ultra 550B。

    事件进展
    1. 韩国部长回应公务平台外国AI模型使用问题

    2. 韩国公务员AI平台31种模型中19种为外国模型

10月2日周五
  1. Help Net Security AI、X @AISecHubHelp Net Security AI 等 2 个来源 · 2篇报道 · 52

    微软2026数字防御报告:AI加速攻击者

    微软《2026 数字防御报告》覆盖 2025 年 7 月至 2026 年 6 月,指出攻击者正先于防御方获得 AI 收益。漏洞从野外发现到武器化的中位时间已降至 24 小时以内,2026 年 CVE 数量预计达 72,000 个的纪录水平,而修复速度跟不上,微软预计已知未修补漏洞将多年累积。钓鱼在微软事件响应团队调查的入侵中占比从一年前的 7% 升至 23%,面向公网应用的漏洞利用从 15% 升至 24%。报告还提到 s1ngulari。后续信息显示,该报告 PDF 文档已公开。

10月1日周四
  1. X @AISecHubX @AISecHub · 32

    ENISA发布AI辅助软件开发技术咨询草案

    2026年10月1日,ENISA发布了一份关于AI辅助软件开发的技术咨询草案。该草案文件已在其官网公开,供相关方查阅。

  2. TechCrunch AI、Help Net Security AI 等 4 个来源TechCrunch AI 等 4 个来源 · 4篇报道 · 45

    Google 因 AI 无效报告暂停 OSS VRP 提交

    Google 自 2026 年 10 月 1 日起停止通过开源软件漏洞奖励计划(OSS VRP)接收新的产品漏洞报告,原因是自动化提交大幅增加且绝大多数无效,主要由 AI 生成,令审核工程师和开源维护者不堪重负。该计划覆盖 Google 旗下 GitHub 组织公开仓库的最新版本及仓库配置,涵盖 Go、Angular、Protocol Buffers 等项目。Google 在 X 帖子中说明暂停原因,并计划在 2027 年第一季度公布后续调整。规则页面已移除旗舰项目 500 至 7500 美元、重要项目 101 至 3133.7 美元的产品漏洞奖励金额。供应链投毒类报告仍被接收,涉及 Google Cloud 产品的漏洞可改投 Cloud VRP,10 月 1 日前提交的报告不受影响。Google 未给出 AI 生成报告的占比。

  3. HiddenLayer ResearchHiddenLayer Research · 12

    HiddenLayer 将 AI 安全防护嵌入主流平台

    HiddenLayer 将 AI 安全能力直接嵌入团队既有工作流。其 AI Supply Chain 模块扫描 Azure AI Foundry 目录中接入的模型,检查篡改、后门与已知漏洞;在 AWS 覆盖 Bedrock、Bedrock Agents、SageMaker 和 Strands 框架;在 Databricks 中针对 Unity Catalog 自动扫描模型。检测结果可输出到 Splunk 和 Microsoft Sentinel。

9月28日周一
  1. Infosecurity Magazine · 47

    Ox Security 报告称 MCP 服务器造成企业治理缺口

    Ox Security 发布报告《15,465 MCP Servers, 0 Governance》,基于 mcp-official-registry、cline-marketplace 和 github-mcp-registry 三个公共注册表的分析,指出 MCP 服务器正在企业内形成治理缺口。报告称 MCP 在协议层面没有地理区域概念,企业可对自有云负载实施严格的数据驻留控制,但其 AI 智能体仍可自由连接这些控制之外的服务器;在分析的 5095 个唯一主机名中,近 16% 解析到美国以外,包括俄罗斯和中国,超过 2% 的主机名已无法解析,部分未注册且可被购买,攻击者可借此冒充原服务器。

7月20日周一
  1. Coalition for Secure AI(CoSAI) · 15

    CoSAI 第二年回顾:从聊天机器人到自主集群的智能体安全

    安全人工智能联盟(CoSAI)成立两年之际公布其智能体安全工作进展,涵盖《The Future of Agentic Security: From Chatbots to Autonomous Swarms》报告及在 RSAC 2026 发布的 MCP 安全和智能体身份研究成果。该组织通过四个工作流推进最佳实践共享,并新增 OWASP、AI Alliance 和云安全联盟加入技术指导委员会。下一步将发布面向 AI/ML 供应链信任与溯源的工件完整性成熟度模型、Zero Trust for AI Systems 以及 MCP 安全指南第二版。

5月15日周五
  1. UK NCSC · 49

    英国 NCSC 发布智能体 AI 谨慎采用联合指南

    英国 NCSC 联合国际伙伴发布《谨慎采用智能体 AI 服务》指南,建议组织从小规模、低风险任务起步,并从一开始就套用既有网络安全控制。指南指出智能体 AI 能访问数据源、记忆上下文、调用工具并自主行动,甚至创建子智能体,因此继承了 LLM 的越狱和提示注入风险,同时因自主性和复杂度提高而扩大攻击面、更难预测、测试和治理。新增风险包括更广的系统与数据访问权限、目标被意外解读导致的行为不可预测、行动速度快于人工审查、以及行为难以解释。具体措施包括最小权限、限制访问范围与可执行动作、避免长期凭证、使用安全默认配置、管理第三方组件与模型的供应链风险、监控异常行为、对部署做威胁建模并把智能体失控纳入事件响应计划。指南强调人类仍需对部署决定、授予的权限、防护措施和运行后果负责,并明确谁拥有、谁批准访问、谁监控、谁审查事件以及谁有权停止智能体。

4月20日周一
  1. Coalition for Secure AI(CoSAI) · 28

    CoSAI 解读企业级 AI 安全的下一波风险

    CoSAI 在 RSAC 2026 会议上复盘了三类未被传统管控拦下的企业 AI 攻击,并发布了对应的防护指引。其中 Kilo Code 漏洞 CVE-2025-11445 通过 markdown 文件向 AI 编程助手植入指令,诱使其修改自身配置放行此前被封禁的 git 命令,进而自动提交含后门的代码;研究人员在每个主流 AI IDE 中共发现 30 个漏洞,其中 24 个获得 CVE 编号,并在 Cursor、AWS Kiro 和 OpenAI Codex CLI 中确认可利用。另有加载即执行反向 shell 的模型文件和一次导致超 700 个 Salesforce 环境暴露给攻击者达十天的智能体集成事故。 CoSAI 指出三项失效假设:自然语言的指令与数据无法分离使 markdown 成为注入载体,pickle 等序列化格式在加载时即执行代码,以及智能体继承启动用户的全部权限。

4月10日周五
  1. CAIS · 29

    AISN #71:针对 AI 软件基础设施的网络攻击与美国数据中心禁令法案

    朝鲜关联黑客近期针对 AI 产业软件基础设施发动大规模网络攻击,从 OpenAI 和 Anthropic 的训练数据供应商 Mercor 窃取并拍卖私人及生物特征数据,还向开发者电脑植入后门,据称 Mercor 已支付赎金。同期,Bernie Sanders 与 Alexandria Ocasio-Cortez 提出法案,在美国通过联邦上市前审查、工人保护和数据中心建设要求等法规之前禁止新建 AI 数据中心,并对所有国家暂停 AI 芯片出口——目前没有任何国家的监管被认为达到该法案要求的“可比”标准。

日期待核
  1. 欧盟 ENISA(AI 相关) · 42

    ENISA 发布 AI 辅助软件开发技术咨询草案 0.4 版

    欧盟网络安全局 ENISA 的《AI 辅助软件开发技术咨询》0.4 版草案标注日期为 2026 年 9 月,面向编码助手与 Agent 提出把 secure by design 期望嵌入 AI 辅助开发流程的做法。文件梳理了模型、编码助手与 Agent、工具集成(含 MCP)、上下文与项目指令等组件,并按 STRIDE 归纳欺骗、篡改、信息泄露、权限提升等对抗威胁,以及功能可用但不安全、上下文不完整、幻觉依赖、审查不足等非对抗风险。其核心方法为四步:确定活动对应的生命周期过程与安全要求、通过提示词或可复用技能向助手明确这些要求、以评审审批与 SAST、依赖扫描等检查验证输出、记录证据。附件以依赖选择为例,展示如何把包管理器安全建议写成 SKILL.md 技能内容,并指出技能不保证安全输出,需持续维护。

已经到底了