Skip to content

Translation in progress Some entries still include text in the original language.

Supply-chain security · News

Oct 13 · Tuesday

Supply-chain security · News

Latest publications and developments
Supply-chain security

Research topics

Prompt injectionAgent safetyDeception and schemingReward hackingChain-of-thought monitoringInterpretabilityAI controlBackdoors and poisoning隐私与数据泄露Supply-chain securityDangerous capabilitiesAI 与网络攻防开源模型安全Red teaming

Companies and institutions

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

Reports and frameworks

System CardFrontier safety frameworks
Oct 7Wed
  1. HarveyHarvey · 30

    Harvey 构建 MCP 策略引擎防护提示注入

    Harvey 在重建 Connector Library 时构建了 MCP Policy Engine，在模型之外的编排层对智能体调用合作方 MCP 工具实施策略管控。该引擎针对工具投毒和 rug-pull 两类攻击，从工具参数的“承载量”与“权限”两个维度评估信息流，并配合集成期的内部 MCP 安全分析工具检查认证配置、暴露能力与 JSON schema。Harvey 认为安全训练、内容标记与分类器等缓解措施可被绕过，因此主要依赖架构层面的管控。

Sep 28Mon
  1. Lasso Security · 22

    如何在终端上治理 AI 工具、编码智能体与 MCP 连接

    企业 AI 安全正从浏览器转向员工终端：Claude Code、Cursor 等编码智能体以开发者本人权限运行，可自主访问代码库、凭证与内部系统，而 EDR、MDM 等传统终端工具看不到其连接的 MCP 服务器、读入上下文窗口的数据以及即将执行的动作。Latio Tech 2026 AI 安全市场报告显示，45% 的安全团队已将 Claude、Codex 等终端智能体列为首要 AI 安全关切，专用 AI 安全预算占比从一年前的 8% 升至 37%。文章以 Claude Code 连接内部 Jira MCP 服务器后遭间接提示注入、导致 .env 文件外泄为例，说明 MCP 连接与第三方 SaaS AI 工具带来的供应链与数据外流风险。

Sep 25Fri
  1. Coalition for Secure AI（CoSAI） · 43

    CoSAI 发布 MCP Security v2.0，新增四级安全保证等级

    CoSAI Workstream 4 于 2026 年 8 月 12 日发布 MCP Security v2.0，在 v1 的十二类威胁、三十四项威胁基础上新增安全保证等级，解决 v1 缺少按部署规模分级的问题。v2.0 定义四级累积等级，从 Level 1 沙箱、Level 2 内部、Level 3 生产到 Level 4 受监管，每级在身份与认证、授权与委托、传输与网络安全、隔离与沙箱、日志与可观测性、供应链与生命周期、工具与输入输出完整性、状态与发现安全八个维度给出 MUST/SHOULD 要求，并逐条映射到 MCP-T1 至 MCP-T12 威胁类别和 OWASP MCP Top 10。文中指出 Level 3 硬性要求 token 绑定，缺少 DPoP 或 mTLS 时被攻陷的 agent 上下文可被重放；等级由数据敏感度和影响范围决定，而非部署形态。

Sep 24Thu
  1. Google Threat Intelligence · 15

    Google GTIG 发布 CI/CD 与代码流水线主动防御蓝图

    Google Threat Intelligence（GTIG）发布面向软件与平台架构师的 CI/CD 安全防御蓝图，围绕端点、IDE、AI 辅助安全等五个支柱给出加固措施。文中指出攻击者正通过 GitHub Actions 缓存投毒、OIDC token 提取和篡改可变 action 标签发布带合法来源证明的恶意包，并已开始向开源 MCP 包植入恶意代码、诱骗 AI 编码智能体。建议仅使用经批准的大语言模型与 AI 智能体做合并前漏洞分析，将 .env 文件排除出上下文窗口，并保留人工审核环节。

Sep 9Wed
  1. OX Security · 14

    OX VibeSec 新增依赖审查能力，拦截 AI 编程智能体的每一次安装尝试

    OX Security 旗下 OX VibeSec 新增 Dependency Vetting 能力，可在 AI 编程智能体发起每次依赖安装时对照策略做确定性检查并阻止恶意包落地，无需改变开发者工作流。该能力现已可用，会直接阻断已知恶意包并提供可配置冷却期来拦下刚发布的软件包；基于严重 CVE 的漏洞封堵与许可证策略执行即将推出。

Sep 4Fri
  1. Cisco · 18

    你的 AI 智能体信任了你从未批准的东西：Cisco 与 OpenAI 合作扫描 Agent Skill 与 MCP 供应链风险

    Cisco 正与 OpenAI 合作，将 Daybreak 引入其 AI 安全产品组合，用于扫描 AI 供应链中的 Agent Skill 与 MCP server。该方案采用分层架构：Daybreak Blue 负责首轮扫描，对提交的 skill 和 MCP server 做网络安全专用推理，避免通用模型因拒答而漏检合法防御性内容；Daybreak Red 则处理 Blue 标记为不完整的重度混淆载荷与可用漏洞利用链。Cisco AI Defense 的 skill-scanner 覆盖 SKILL.md 及全部捆绑脚本，mcp-scanner 覆盖工具、提示词、资源及底层 PyPI 和 npm 包，重点查找工具声明与实际代码行为的差距。

Jul 30Thu
  1. Google Threat Intelligence · 15

    Google Threat Intelligence Group supply chain intrusion mitigation guide: surging threat activity in the open-source software ecosystem

    Google Threat Intelligence Group (GTIG), together with Mandiant, published hardening and mitigation recommendations against software supply chain intrusions, noting that large-scale open-source software supply chain intrusion campaigns occurred from 2025 through the first half of 2026, involving the compromise of code repositories, dependencies, and developer tools. Among them, UNC6780 (also known as TeamPCP) launched widespread attacks on PyPI, npm, and Docker Hub from February to May 2026, abusing GitHub Actions' pull_request_target trigger to obtain base repository secrets and deploy the credential-stealing program SANDCLOCK, while also attempting to move laterally from infected AI software into enterprise network environments.

Jul 28Tue
  1. HiddenLayer Research · 22

    HiddenLayer 提出面向编码智能体及其 harness 的安全框架

    HiddenLayer 提出一套覆盖编码智能体及其 harness 的安全框架，主张把提示词、工具、技能、MCP server 与编排逻辑视为主要攻击面，而非只防守语言模型本身。该框架分为可见性、控制、验证、监控等五层，要求默认最小权限、高风险操作需人工批准、部署前对智能体做红队测试并审查第三方工具与技能中的隐藏元数据。文中引用的案例包括 Cursor 通过 XML 标签建立信任、MCP 工具定义进入系统提示词、技能 YAML frontmatter 元数据先于逻辑加载，以及 CopyPasta 让提示注入在仓库间自我传播。

Apr 16Thu
  1. OGX · 26

    OGX 修复上游模板处理安全漏洞：改用 Jinja2 沙箱环境

    OGX 在 llama_stack 的 file_search 工具运行时中，将提示词模板渲染从 Jinja2 的 Template 改为 SandboxedEnvironment，以修复上游模板处理的安全问题。改动位于 src/llama_stack/providers/inline/tool_runtime/file_search，涉及 llm_rag_query_generator 中 config.template 的渲染逻辑。

Jul 29, 2025Tue
  1. NVIDIA 技术博客：可信 AI 与网络安全 · 14

    为 AI 模型带来可验证信任：NVIDIA NGC 中的模型签名

    NVIDIA 在 NGC 中引入模型签名，为 AI 模型带来可验证的信任。AI 正进入由能推理、规划并采取行动的智能体主导的阶段，这类系统动态调用 API、工具乃至物理环境，大幅扩展了 AI 攻击面：单个被攻陷的模型即可影响下游决策、访问外部系统并触发级联故障。

Dec 20, 2024Fri
  1. NVIDIA 技术博客：可信 AI 与网络安全 · 8

    NVIDIA 发布《NVIDIA AI Enterprise 安全》白皮书

    NVIDIA 发布《NVIDIA AI Enterprise 安全》白皮书，阐述其保障 NVIDIA AI Enterprise 软件栈容器安全所采取的措施。白皮书涵盖安全开发生命周期、容器构建生命周期管理、安全设计、安全加固、SBOM、容器签名与模型签名及 NIM 微服务。漏洞响应部分包括漏洞扫描、修补、VEX 与协同漏洞披露，并由 NGC 通知服务做安全事件监控。

Date unverified
  1. Microsoft UFOMicrosoft UFO · 24

    Microsoft UFO 发布 v3.0.9 版本

    Microsoft UFO 发布 v3.0.9 版本，修复了 MSRC139482 和 MSRC138616 两个安全问题，涉及 ufo/client/mcp/http_servers/linux_mcp_server.py 与 ufo/utils/url_security.py、galaxy/webui/security 相关文件；同时将 GitHub Actions 固定到完整长度的 commit SHA。

You have reached the end