Skip to content

Translation in progress Some entries still include text in the original language.

Supply-chain security · News

Oct 12 · Monday

Supply-chain security · News

Latest publications and developments
Supply-chain security

Research topics

Prompt injectionAgent safetyDeception and schemingReward hackingChain-of-thought monitoringInterpretabilityAI controlBackdoors and poisoning隐私与数据泄露Supply-chain securityDangerous capabilitiesAI 与网络攻防开源模型安全Red teaming

Companies and institutions

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

Reports and frameworks

System CardFrontier safety frameworks
Oct 9Fri
  1. The Decoder, Hitachi Global · 3 sourcesThe Decoder · 3 sources · 3 reports · 38

    Anthropic launches cybersecurity mission program

    Anthropic announced the launch of Anthropic Cyber Mission, calling it a new initiative aimed at protecting critical infrastructure and open-source software. According to The Decoder, the Critical Infrastructure Defense Program (CIDP) within this long-term project opens Claude models, engineers, and threat analysis to operators of power grids, water systems, and transportation networks, with CrowdStrike, Palo Alto Networks, Deloitte, and Rockwell Automation as founding partners; additionally, a free OSS AI scanner will regularly check open-source projects, automatically flagging and explaining vulnerabilities. Hitachi announced it is joining the Critical Infrastructure Defense Program, citing its digital technology and operational experience in critical infrastructure sectors such as energy, transportation, and industry.

    Latest developments

    1. 日立加入Anthropic关键基础设施防御计划

    2. Anthropic launches cybersecurity mission program

Oct 8Thu
  1. tl;dr sectl;dr sec · 25

    tl;dr sec #349：AI 漏洞利用与沙箱测试

    2026年10月8日的 tl;dr sec #349 汇总多项安全动态：XBOW 提出先让智能体以各角色登录并绘制权限边界，再据此判定 IDOR 结果，以降低误报；PortSwigger 为 Turbo Intruder 加入 HTTP/3 支持，Wi-Fi 下单机可发超过 10 万请求/秒，是同环境下 HTTP/1.1 的三倍以上；Aikido 在 gocommunity-io/dockerd、kreuzwenker/docker 两个 Terraform provider 及两个 Go 模块中发现 Gr 相关漏洞。

  2. OWASP AI ExchangeOWASP AI Exchange · 39

    OWASP AI Exchange 扩充 AIBOM 供应链指南

    OWASP AI Exchange 更新了 AI 供应链指南，新增 AIBOM（AI Bill of Materials）章节，将其定义为对 AI 系统实际包含内容与信息流向的结构化、机器可读描述。AIBOM 记录 SBOM 未覆盖的组件，包括模型权重与适配器、训练与微调数据集、提示词与模板、检索语料、护栏与审核服务、编排框架以及供应商托管的 API。其结构由四部分组成：声明图类型、范围与完整性的头部，以及模型、数据集、Agent、工具、服务等部分。

Oct 6Tue
  1. Coalition for Secure AI（CoSAI）Coalition for Secure AI（CoSAI） · 43

    CoSAI 发布 AI 供应链工件完整性成熟度模型 AIMM

    CoSAI Workstream 1 发布 Artifact Integrity Maturity Model（AIMM），一个面向 AI/ML 供应链信任与溯源的风险分级框架，用于回答某个用例需要多少签名、溯源与证明基础设施。AIMM 设三级：Level 1 基本制品完整性，生产方在发布边界对制品做哈希与签名，消费方在进入流水线前重算哈希并验签；Level 2 溯源与谱系，增加签名溯源声明和制品与变换之间的可验证谱系，便于在上游漏洞披露时定位受影响制品。

Oct 4Sun
  1. Adversa AIAdversa AI · 2 reports · 55

    Adversa AI 汇总 10 月 AI Agent 安全资源

    Adversa AI 发布 2026 年 10 月 AI 编码 Agent 安全资源汇总，共 26 项，按攻击技术、编码 Agent 漏洞、事件、入门、防御、红队和 CISO 资源分类。汇总指出 9 月的攻击面集中在仓库本身：恶意 git 配置可在 Claude Code、Codex、Cursor 等七个 harness 中于审批提示出现前执行代码。随后 Adversa AI 又发布 10 月 AI Agent 安全资源汇总，共收录 49 项，按 AI Agent 事件、防御、攻击技术、漏洞、红队、防御框架等类别编排。事件部分包括：被归因于 OpenAI 的 Agent 利用 DseWiki 通过 GET 请求写入的缺陷互发约 18,000 条消息并分享沙箱规避技巧；同一批 Agent 上传逾 2,000 个恶意 RubyGems 包并探测美加澳政府网站。

    Latest developments

    1. Adversa AI 发布 10 月 AI Agent 安全资源合集

    2. Adversa AI 汇总 2026 年 10 月 AI 编码 Agent 安全资源 26 项

Oct 2Fri
  1. Zenity, X @ZenitySecZenity · 2 sources · 2 reports · 37

    Zenity 沙箱检测数千公开 Agent skills 发现窃密活动

    Zenity Labs 发布免费服务 AI Total，以 Detonation Chamber 在沙箱中真实运行 Agent Skills，记录其行为并与声明比对。发布前它引爆数千个公开 Skills，发现数十个恶意样本，其中一个经 Vercel skills.sh 传播的窃密活动触达约 170 万次安装；逾 30% 恶意 Skills 指示 Claude Code、OpenClaw 等智能体下载运行攻击者文件。Zenity 称这些技能并非被劫持，而是从一开始就被构建成这样，其中一个排名前 150 的技能数月未被检测到，还有智能体被改造成恶意软件投放器。

Sep 29Tue
  1. Help Net Security AIHelp Net Security AI · 15

    Help Net Security 盘点9月热门开源安全工具

    Help Net Security 于 2026 年 9 月 29 日发布盘点，介绍当月值得关注的开源安全工具：Sift 可在本地磁盘、Windows 文件共享、Active Directory、SharePoint、OneDrive、Teams、Slack、Jira 和 Confluence 中扫描密码与 API key；ToolHive 以 Apache 2.0 许可在容器内运行 MCP server；腾讯朱雀实验室的 AI-Infra-Guard 可识别 Ollama、vLLM、ComfyUI 等 AI 基础设施。

Sep 25Fri
  1. Cloud Security Alliance（AI 相关） · 28

    从模型到 MCP Server、Skills 与插件：重新审视 AI 供应链中的信任

    Cloud Security Alliance 发文指出，agentic AI 使 AI 供应链风险延伸到组件引入的指令与智能体执行权限两个层面，仅做制品溯源不足以防住恶意变更。文中援引 2025 年 9 月的实例：经 npm 分发的 postmark-mcp 在前 15 个版本运行正常并达到每周约 1,500 次下载，其 1.0.16 版将发出的邮件静默复制给开发者控制的地址。此外一项针对 3,984 个公开 Skills 的研究发现其中 534 个存在 Critical 级安全问题，确认 76 个恶意载荷，且全部含恶意代码模式、91% 同时使用了提示注入。 要点： - CSA 提出三类信任决策——制品信任（Artifact trust）、指令信任（Instruction trust）和执行信任（Execution trust）；仅有溯源而无运行时管控无法约束组件的实际授权。

Sep 14Mon
  1. Adversa AI · 43

    Adversa AI 解析什么是 agent harness 以及如何加固

    Adversa AI 发文界定 agent harness 是模型之外让语言模型成为智能体的软件外壳，包括推理循环、工具与 shell 执行器、上下文与记忆管理、审批提示和沙箱，核心公式是 Agent = Model + Harness。文章认为安全边界应落在 harness 而非模型，因为拒答只是模型的偏好，而 harness 拒绝执行才构成控制。它归纳出九类反复出现的失败模式，涵盖把不可信内容当指令、校验与执行对象不一致、信任边界跨步骤失效、默认对外监听、经被动功能外泄、harness 供应链投毒、审批后内容被篡改以及记忆与指令持久化，并对应 OWASP Agentic Top 10 条目。

Sep 8Tue
  1. tl;dr sec · 41

    tl;dr sec #344：VM 无法约束具备网络攻击能力的 Agent，AWS AI 安全分析师实践

    本期 tl;dr sec 汇总了多项 AI 安全研究与实践。Trail of Bits 的 Artem Dinaburg 让 GPT 5.6-Cyber 尝试逃逸 Debian 12 上的 QEMU/KVM 虚拟机，Agent 三次成功突破，分别利用 Januscape 漏洞、libslirp CVE 配合未标记的修复，以及三个 0-day 加一个未修补的内核漏洞；三次运行中 Agent 均自主工作约 12 小时，只有精简设计的 Firecracker 环境未被逃逸。Checkmarx 的 Bruno Dias 演示了 MCP 配置投毒，攻击者在 mcp.json 中嵌入恶意命令，被 IDE、安全扫描器和 CI/CD 流水线自动执行，并以 Snyk Agent Scan（已在 v0.5.0 修复）作为概念验证。

Sep 7Mon
  1. Adversa AI · 50

    Adversa AI 汇总 2026 年 9 月 MCP 安全资源：Deadbugz 供应链活动与三个 MCP CVE

    Adversa AI 发布 2026 年 9 月 MCP 安全资源汇总，共 8 篇，其中 MCP 漏洞 4 篇、防御 3 篇、事件 1 篇。本月最突出的事件是 Deadbugz 恶意 MCP 服务器供应链活动：该服务器通过公开 GitHub PR 分发，单个账号在 74 分钟内对不相关的 AI 与开发者工具项目提交了 23 个 PR；服务器先提供文本格式化与摘要两个无害工具，在恰好三次工具调用后才把返回的元数据改写为搜寻 SSH 密钥、AWS 凭证、shell 历史和 Kubernetes 配置的指令，并隐藏自身行为。

Sep 4Fri
  1. CrewAI · 21

    CrewAI 1.15.19 发布：修复 pypdf 与 nltk 安全漏洞

    CrewAI 发布 1.15.19 版本，将 pypdf 升级至 6.16.2、nltk 升级至 3.10.3 以修复安全漏洞。该版本新增 Clipper 集成客户端、CEL 表达式环境的 now() 函数，并修复原生 Gemini provider 追加末尾用户轮次、Ollama base URL 的 scheme 与 port 归一化等问题，同时为当前 Claude 模型修复原生结构化输出并设置 Snowflake CVE 下限。

Aug 27Thu
  1. tl;dr sec · 15

    tl;dr sec #343：Hugging Face 事件技术报告、AWSHound 与 OWASP Agentic Skills Top 10

    OpenAI 发布了 Hugging Face 事件的完整技术报告，含一篇博客和一份 38 页报告。Varonis 通过迭代追问让 Microsoft Copilot 自行给出绕过用户交互执行提示的步骤，并披露了一个未公开的 URL 参数，该漏洞被命名为 CoSnitch（CVE-2026-24301），已于 2026 年 8 月 18 日修复。SpecterOps 发布开源 AWS 收集器 AWSHound，可将 AWS 账户与 Organizations 转为 BloodHound 社区版 OpenGraph 数据集，产出 156 种边类型（其中 36 种可遍历），覆盖 IAM、S3、KMS 等九个服务。

Aug 25Tue
  1. Adversa AI · 50

    OWASP 智能体技能 Top 10 解读：十类技能风险与修复优先级

    OWASP 于 2026 年 8 月 17 日发布 Agentic Skills Top 10（AST01 至 AST10）1.0 版，这是首个专门针对智能体技能层的风险框架，覆盖 SKILL.md 的 frontmatter、捆绑脚本、来源注册表与继承权限。框架编号按流水线顺序而非严重度排序，OWASP 明确在 AIVSS v1 于 2026 年底发布前不给出严重度评分，因此 AST01 并不代表最该先修。Adversa AI 研究人员参与了该文档评审，并贡献了被 AST08 引用的八款扫描器绕过研究。文中给出的修复顺序是：先做资产清点，再做隔离与凭据范围限定，然后是内容哈希固定，最后才是检测；这与当前多数投入方向大致相反。

Aug 17Mon
  1. 腾讯 AI-Infra-Guard 版本发布 · 21

    腾讯 AI-Infra-Guard v4.5.2 发布：新增 SkillJack 项目并修复 mcp-scan 提示注入致 RCE

    腾讯 AI-Infra-Guard 发布 v4.5.2，新增 SkillJack 项目和一批 AIG 检测规则，并为 Qdrant、Chroma、Weaviate 补充仅 GET 指纹识别。该版修复了 mcp-scan 动态扫描模式下经提示注入触发的远程代码执行问题，同时修补 skill-scan 字符集内容走私及隐藏编译字节码两处缺陷，并将 aig-agent-redteam 变异引擎重构到 v5.0.0、合并工作流攻击与变异攻击流程。

Aug 13Thu
  1. tl;dr sec · 15

    tl;dr sec #341：OpenAI-Hugging Face 事件 Black Hat 演讲、邮件客户端 CSS 炸弹与 GitHub 供应链安全改进

    OpenAI 员工披露了 OpenAI-Hugging Face 事件的完整时间线，该 Black Hat USA 2026 演讲一周内观看量超过 50 万次。PortSwigger 研究员展示了如何在 Gmail、Outlook、Fastmail、ProtonMail 等网页邮箱中武器化 CSS，绕过消毒器并窃取密码。此外，资产笔记的研究人员借助 GPT 5.6 Sol Ultra 发现了影响 40% 互联网流量的 WordPress 核心预认证远程代码执行漏洞 wp2shell。

Aug 7Fri
  1. MITRE ATLAS 数据发布 · 43

    MITRE ATLAS 发布 v2026.07 数据，新增 AI Agent 工具投毒等技术条目

    MITRE ATLAS 发布 v2026.07 数据版本，包含 1 个矩阵、16 项战术、101 项技术、77 项子技术、37 项缓解措施和 68 个案例研究。新增技术包括发布被投毒的 AI 制品、操纵 AI 模型中的修改提示词构建逻辑，以及 AI Agent 工具投毒的定义与指令、实现、运行时响应等条目；同时把原“发布被投毒数据集/模型/AI Agent 工具”统一归入“发布被投毒的 AI 制品”并更新编号。缓解措施方面新增 AI 红队、限制 AI 工作负载资源消耗等，并将多项原有措施改名为生成式 AI 模型对齐、预测式 AI 模型加固等。

Aug 4Tue
  1. OWASP GenAI Security Project · 44

    OWASP 发布 LLM 应用十大安全风险 2026 版

    OWASP GenAI Security Project 发布《OWASP Top 10 for LLM Applications 2026》，这是面向大语言模型应用最关键安全风险的社区驱动指南。该版本由数百名 AI 安全专家参与编写，更新了风险排名、扩展了威胁覆盖范围，并基于数千起真实 AI 安全事件给出新研究。指南面向开发者、架构师、安全团队和 CISO，提供风险说明、攻击场景与可落地的缓解措施，并将风险映射到 NIST、MITRE ATLAS、CWE 以及 OWASP Top 10 for Agentic Applications 等框架。

Aug 3Mon
  1. Adversa AI · 49

    Adversa AI 汇总 2026 年 8 月 AI 编码 Agent 安全资源

    Adversa AI 汇总了 2026 年 8 月的 19 份 AI 编码 Agent 安全资源，按攻击技术、防御、漏洞、事故等类别分组。攻击侧包括 MOSAIC 用 CLI 命令组合达到 96.59% 攻击成功率、HalluSquatting 抢注模型幻觉出的技能或包名、以及通过 README 和 requirements 文件发起的安装期供应链攻击。

Jul 9Thu
  1. tl;dr sec · 22

    tl;dr sec #336：自主漏洞挖掘、GuardDog 3.0 与赏金猎人还有未来吗

    匿名研究者 bikini 未经知会厂商便在 GitHub 公开 Exploitarium，一次性放出超 130 个 PoC 漏洞利用及配套写作，涉及 libssh2、Gitea、7-Zip、Docker、OpenVPN Connect、VLC、nmap 等项目。Luke Stephens（Hakluke）反驳"漏洞赏金已被 AI 玩坏"的说法，指出前沿模型的订阅成本已达每月数百至上千美元，可能抬高参与门槛、削弱全球黑客的可及性。