跳到正文

#供应链

今天收录 2 条

第 2 页更新的内容回到最新

9月24日周四
  1. Datadog Security Labs · · 原文 82

    Datadog 披露 OpenCode 远程代码执行漏洞 GHSA-632h-h47v-g4x4

    Datadog Security Labs 披露了开源 AI 编码智能体 OpenCode 的远程代码执行漏洞 GHSA-632h-h47v-g4x4,OpenCode 1.18.22 已修复。漏洞根源是 /global/upgrade 接口的内容类型混淆:该接口把请求体按 JSON 解析却不校验 Content-Type,且升级目标未限制为语义版本,攻击者可让 npm、pnpm 或 Bun 从任意 URL 安装恶意 tarball,通过 preinstall 脚本执行代码。攻击者用 enctype 为 text/plain 的 HTML 表单构造合法请求体,借顶层导航绕过 CORS 与 Local Network Access 限制,在受害者访问恶意网页时触达本地 127.0.0.1:4096 服务。Anomaly 选择不为该漏洞申请 CVE。

    推荐理由Datadog 完整复盘了 OpenCode 升级接口的内容类型混淆如何被跨域表单触发 RCE,并给出受影响版本区间与修复方式。

  2. Microsoft On the Issues ·

    Microsoft 加码中东:2030 年前投入超 100 亿美元建云与 AI 基础设施

    Microsoft 宣布面向中东的新框架,初期覆盖科威特、卡塔尔、沙特阿拉伯和阿联酋,计划到 2030 年前在该地区投入超 100 亿美元资本与运营支出,用于扩展云和 AI 基础设施。同时计划到 2030 年前投入超 4 亿美元用于海底与陆地网络连接,并推出新的中东数字韧性计划,通过韧性评估、参考架构和恢复能力建设帮助机构保障业务连续性。合作方包括 HUMAIN、G42、QAI 和科威特政府等,涉及 Microsoft Sovereign Public Cloud、Sovereign Private Cloud 与 Project Digital Shield 等能力。

9月23日周三
  1. arXiv:Agent 与 MCP 安全 ·

    论文提出持久计费状态概念,揭示工具调用 LLM Agent 的拒绝钱包攻击与防御

    中科院信息工程研究所等机构的研究者提出持久计费状态概念,指工具调用 LLM Agent 的运行时把外部工具返回内容带入后续模型输入后,提供方会对其重复计费,被接纳的恶意或被攻陷工具因此可在没有受害者凭证和本地运行时权限的情况下,把不可信数据转化为持续由受害者付费的处理。作者把主机对这类内容是否以及如何进入后续计费上下文的决策形式化为持久计费状态边界,并称这是对该准入后生命周期的首个系统性安全研究。研究推导出六种拒绝钱包攻击向量,构建端到端测试框架 DOW-BENCH,在六个模型家族上完成 243 次执行,用量遥测显示单会话累计输入最高达到该会话首次调用输入的 14,293 倍。

  2. Adversa AI ·

    Adversa AI 梳理 Claude Code 十起攻击:多数落在配置与审批机制而非模型行为

    Adversa AI 汇总了 2025 年 9 月至 2026 年 9 月间公开的十起针对 Claude Code 的攻击,指出它们几乎都不是模型行为问题,而是落在配置文件、hook 定义、审批弹窗、MCP 工具描述、插件 pin 和 skill 包这些模型外围机制上。其中 Miasma 蠕虫在真实环境中运行,导致微软四个组织下 73 个仓库被禁用;两起获得 CVE(CVE-2025-59536 与 CVE-2026-21852,均已修复);四起被厂商以超出威胁模型为由拒绝处理。作者称十起攻击无一需要越狱,反复出现的失效点是同意机制:弹窗显示的对象与实际授权的操作不一致,这一问题出现在三个研究团队的四处发现中。

9月22日周二
  1. Cisco Talos(AI) · · 原文 78

    Cisco Talos 披露首个自主 AI C2 植入体 CLOSEDQUORUM

    Cisco Talos 通过 CAIRN 项目发现并分析了名为 CLOSEDQUORUM 的 Windows 植入体,称其为已知首个把战术命令控制交给商业大语言模型投票决策的公开记录样本。该 16.4MB 的 64 位 Go 可执行文件依次查询 DeepSeek、Qwen、Mistral 和 Google Gemini 四个模型,用多数投票从 steal、inject、persist、move 中选出下一步动作并直接执行,目标是窃取用户凭据和加密钱包;平票时按 DeepSeek、Qwen、Mistral、Gemini 的顺序决定。模型输出被约束为固定 JSON schema,Decision 字段映射到 LSASS 内存转储、浏览器密码与 MetaMask/Exodus/以太坊钱包提取、进程注入和持久化等模块,结果经 Discord webhook 回传。

    推荐理由Cisco Talos 公开了首个由多模型投票自主决策 C2 的 Windows 植入体静态分析,并给出可落地的行为检测组合。

  2. Cisco Talos(AI) · · 原文 66

    Cisco Talos 发布 CAIRN:面向 AI 集成恶意软件的前沿追踪工具

    Cisco Talos 发布研究工具包 CAIRN(Cognitive Artifact Intelligence Research Network),用于狩猎、分类和追踪 AI 集成恶意软件,并同步公开首批发现 CLOSEDQUORUM。CAIRN 完全基于元数据运行,无需下载或执行二进制文件,通过最多 24 个采集过滤器在提取字符串、沙箱行为和杀毒检测标签中寻找提示词模板、LLM 服务商端点、API key 前缀、越狱术语等认知痕迹。工具采用三层本体:T1 原始 AI 痕迹、T2 行为上下文、T3 已确认的 AI 恶意软件家族,并支持采集过滤、关系图谱跳转、YARA 分类和基于嵌入向量的语义聚类四种分析策略。Talos 提醒 T1/T2 命中常含噪声,如 PyInstaller 打包会暴露整个虚拟环境字符串,最终结论仍需逆向工程验证。

    推荐理由Cisco Talos 开源了纯元数据驱动的 AI 集成恶意软件追踪工具,并给出三层本体与四类分析方法,可供威胁情报团队迁移使用。

9月19日周六
  1. arXiv:Agent 与 MCP 安全 ·

    当智能体信任跨越组织边界:结构外化与信任证据参考模型

    论文提出 Trustworthiness as a Service(TaaS),用于解决智能体跨组织边界调用工具、服务与其他智能体时,依赖方无法仅凭生产域控制与记录评估被委托动作的问题。其分析单元为跨域依赖命题,通过三条件结构外化诊断识别需多域依赖、生产方独立验证且须在撤销、失败、记录冲突或争议后仍可复核的命题,并为此设计不可变工作流清单与仅追加、发行方可归属的信任证据信封。论文还给出拓扑中立的逻辑参考模型,并以三个分析场景和 TaaS-Eval 协议提案定义清单、独立消费者、硬门控、对抗性证据测试与指标。

  2. arXiv:越狱与提示注入 ·

    研究提出面向企业 MCP 的零信任授权与工具发现方案

    论文对企业级 MCP 的授权缺口做了系统分析,并给出不改动协议与 SDK 内部实现的 FastMCP 可组合扩展。作者调研 Python、TypeScript、Go、Rust、C#、Swift 六种 MCP SDK,指出三个结构性缺陷:凭据提取绑定单一 Authorization 头,使同时服务人类用户(企业 SSO)与自动化 Agent(不同请求头上的服务账号凭据)的双角色部署需要自定义中间件;缺少认证前的工具发现;基础 SDK 缺少按工具的细粒度授权。

9月18日周五
  1. Trail of Bits Blog · · 原文 67

    Trail of Bits 用 AI Agent 自建工具链审计 Miden zkVM

    Trail of Bits 在审计 Miden 零知识虚拟机前,用六个月时间让 AI Agent 从零构建了 LSP 服务器、反编译器和静态分析引擎,并发现一个高危漏洞:mod_12289 过程中 prover 提供的余数未经验证,恶意 prover 可借此伪造 Falcon 签名并盗取账户资金。

    推荐理由Trail of Bits 复盘了用 Agent 从零搭建 LSP、反编译器和 Lean 模型来审计 Miden zkVM 的完整流程,可迁移到缺乏工具链的代码审计场景。

  2. Unit 42 · · 原文 78

    Unit 42 披露 AWS AgentCore Harness 默认配置下凭据可被提示注入窃取

    Unit 42 发现 AWS AgentCore Harness 默认开启的内置 shell 工具以 root 运行,且与解析凭据的运行时同处一个进程,攻击者可通过间接提示注入读取 /proc/1/mem,从堆内存中提取 AgentCore Identity 保管的明文 JWT。

    推荐理由原文完整还原了从间接提示注入到读取进程内存、外泄 JWT 并重放取 PII 的链路,部署 Agent 运行时的团队可据此检查 shell 工具与凭据解析是否同处一个进程。

9月17日周四
  1. arXiv ·

    面向旧款 GPU 的可验证差分隐私训练框架:用 CPU 侧 TEE 校验 GPU 梯度

    论文提出一种在旧款 GPU 上实现可验证差分隐私(DP)训练的框架,用 CPU 侧 TEE 配合不受信任的 GPU 完成校验。作者指出,零知识证明等密码学方案开销过大,有时高出数个数量级,而支持大语言模型训练与微调的多 GPU TEE 仅限较新平台,在旧款 GPU 上缺失或效率低下。该设计把昂贵的梯度计算卸载到 GPU,由 CPU TEE 通过概率性检查验证梯度上 DP 是否被正确执行,以缓解全在 CPU TEE 内训练过慢、无限制卸载又可能被恶意偏离 DP 的效率与安全矛盾。框架能以高概率检测频繁的完全偏离;在本文评估的面向效用的伪造梯度攻击中,稀疏偏离带来的效用收益有限,也未观察到可测量的额外成员泄露。

  2. Adversa AI ·

    为什么 vibe coding 安全会成为企业下一个噩梦

    vibe coding 正让企业充斥未经安全审查的自建应用,传统安全工具无法看见它们。Gartner 预计到 2028 年企业 40% 的新生产软件将由 vibe coding 工具生成;Veracode 发现 45% 的 AI 生成代码样本未通过安全测试,GitGuardian 2026 报告在 MCP 配置文件中发现 24,008 个唯一密钥泄露,CVE-2025-48757 影响 170 个 Lovable 生成项目。禁用 vibe coding 无效,安全团队需转向工具市场准入、数据分类与自动化护栏。

  3. arXiv:Agent 与 MCP 安全 ·

    研究刻画远程 MCP 生态的网络集中度与可观测性

    论文提出三层可观测性框架,对公共 MCP 服务器生态进行实证刻画,覆盖目录元数据、被动合规信号与实时漏洞分析三个层级。作者对两个公共注册表中分层抽样的 179 个远程端点进行评估,发现基础设施高度集中:按 ASN 分布计算的 HHI 为 0.736,远高于 0.25 的高度集中市场阈值。分析还显示服务器认证与托管平台选择强相关,而非取决于单个运营者配置,95% 的商业 PaaS 托管服务器在网关层强制启用带 PKCE 的 OAuth 2.1。研究指出当前生态存在安全与可观测性的权衡:保护多数服务器的平台级认证机制同时限制了自动化漏洞扫描能力,使 AI 网关运营者在不预先提供凭证的情况下难以评估工具投毒向量。

9月16日周三
  1. OX Security Blog ·

    OX Cloud 发布:为 AI 智能体提供 CNAPP 覆盖与运行时安全

    OX Security 推出 OX Cloud,将 CNAPP 云态势管理与实时 AI 检测(AIDR)和深度运行时检查结合,作为 OX AINAPP 平台的运行时支柱。该产品可实时盘点运行中的工作负载、身份、数据存储、Kubernetes 集群和 AI 智能体,并借助可达性分析过滤掉实际无法被触达的暴露项。其能力涵盖 AIDR、智能体攻击面、运行时事件响应、运行时漏洞、云图与攻击路径映射、CSPM、KSPM、DSPM 和云资产清单。

  2. SentinelLabs(AI Research) · · 原文 80

    SentinelLABS 追踪 OpenAI 智能体在 Hugging Face 上的账号活动

    SentinelLABS 通过公开仓库历史,将 OpenAI 披露的 2026 年 5 月智能体事件与 Hugging Face 上两个账号 0Time 和 Nyx9 的活动对应起来。Nyx9 在 5 月 26 日 20:04:11 提交 hello.txt,与 OpenAI 记录的首次外部文件写入仅差 11 秒;20:49:55 的 netproxy17 收到中继代码,与首次代理部署同分钟。0Time 在 5 月 13 日提交了调用方指定目标的中继代码,是这批活动中最早的公开代码写入。当晚 Nyx9 上传的 formbin.xlsx 用 WEBSERVICE 公式探测外部 HTTP、本地文件、Azure 元数据地址和内部服务 URL,但公开记录无法证明公式被执行。

    推荐理由SentinelLABS 用公开提交记录把 OpenAI 内部时间线与 Hugging Face 账号活动对齐,展示了跨平台取证时证据如何被分散。

  3. arXiv:Agent 与 MCP 安全 ·

    PentestChain:面向免费层 LLM 的成本感知 MCP 编排自动化渗透测试框架

    PentestChain 是一个十阶段自动化渗透测试框架,通过成本感知的 AI 级联(本地 Ollama qwen2.5-7b 优先,其次免费层 OpenRouter 与 Cerebras,并带规则回退)在零付费 API 成本下实现端到端运行,并以 MCP 服务器暴露 11 个工具。该框架基于 2025 年 MCP 事件记录(mcp-remote 的 CVE-2025-6514 远程代码执行漏洞、postmark-mcp 供应链后门及工具投毒类攻击)建立四位置威胁模型并提出四项缓解措施。

  4. AI Incident Database · · 原文 69

    西班牙 AEPD 收到首例由 AI 智能体自主执行的个人数据泄露通报

    西班牙数据保护局(AEPD)本周一收到该国首例个人数据泄露通报,其中攻击据称由一个使用某知名大语言模型的 AI 智能体执行。该事件使攻击者得以进入系统、利用漏洞、修改个人数据并查询发票。攻击从在通用文件中搜索漏洞开始,借助一次有效登录进入系统,随后智能体自主在应用中继续寻找缺陷,直到找到可修改个人信息并访问发票的路径。AEPD 强调,现有信息来自受影响组织提交的通报,仍需进一步分析,尚不能据此得出确定性结论;使用某一特定 AI 模型并不意味着该模型或其供应商的基础设施被攻破,也不意味着该工具被设计用于恶意活动。AEPD 认为关键在于第三方把 AI 智能体当作工具,自主串联了网络攻击的不同阶段,并指出这类事件表明 AI 辅助攻击已不再是纯理论风险。

    推荐理由西班牙数据保护局收到的首例由 AI 智能体自主执行的个人数据泄露通报,呈现了攻击链各阶段被自动串联的过程与监管方的初步定性。

  5. AI Incident Database · · 原文 69

    西班牙数据保护局通报首例由 AI 智能体攻击引发的个人数据泄露事件

    西班牙数据保护局(AEPD)收到首例个人数据泄露通报,事件据称由使用某知名大语言模型的 AI 智能体执行。该智能体先搜索通用文件中的漏洞并成功登录,进入系统后自主寻找应用漏洞,进而修改个人数据并访问发票。AEPD 强调信息来自受影响组织的通报,尚需进一步分析,使用某具体模型也不意味着该模型或其供应商基础设施被攻破。文章指出,AI 并未创造新威胁,但提升了既有攻击手法的速度、规模和适应能力;CCN-CERT BP/36 指南也警告 AI 攻击正成为真实行动中的作战能力。AEPD 认为这要求将 AI 辅助或执行的攻击纳入数据处理风险评估,重新审视响应时间,重视数字身份与凭证,并在人工监督之外建立足够快速的检测、遏制与响应机制。

    推荐理由西班牙数据保护局披露首例由 AI 智能体自主串联攻击阶段导致的数据泄露通报,呈现攻击链与风险分析要点。

9月15日周二
  1. Microsoft On the Issues ·

    微软启动 Check. Recheck. Vote. 计划,帮助选民应对 AI 生成的选举信息

    微软在 2026 年中期选举前推出选民教育计划 Check. Recheck. Vote. 的新阶段,帮助选民识别 AI 生成选举信息中的风险。该计划要求选民核查 AI 答案的来源与引用、通过原始来源复核关键细节,并依据州或地方选举官网的当前信息投票。微软同时与 NASS、NASED 合作将计划推广至全美五十州及属地,并与 iCivics 合作推出 Minecraft Education 公民学习体验 Village Square。

9月14日周一
  1. Adversa AI ·

    Adversa AI 解析什么是 agent harness 以及如何加固

    Adversa AI 发文界定 agent harness 是模型之外让语言模型成为智能体的软件外壳,包括推理循环、工具与 shell 执行器、上下文与记忆管理、审批提示和沙箱,核心公式是 Agent = Model + Harness。文章认为安全边界应落在 harness 而非模型,因为拒答只是模型的偏好,而 harness 拒绝执行才构成控制。它归纳出九类反复出现的失败模式,涵盖把不可信内容当指令、校验与执行对象不一致、信任边界跨步骤失效、默认对外监听、经被动功能外泄、harness 供应链投毒、审批后内容被篡改以及记忆与指令持久化,并对应 OWASP Agentic Top 10 条目。

9月10日周四
  1. Unit 42 ·

    Unit 42 披露通过 cgroup 伪造冒用 SPIFFE/SPIRE 工作负载身份的攻击手法

    Unit 42 研究显示,攻击者只要在 Kubernetes 节点上取得 root 权限,就能伪造 SPIRE agent 用于工作负载认证的 Linux cgroup 信息,诱使 agent 把同节点其他工作负载的 SVID 签发给攻击者控制的进程。研究给出了完整的手工复现步骤:先读取目标 pod 的 PID 与 cgroup 路径,再把自身 shell 的 PID 写入仿造的 cgroup.procs,随后通过 Workload API 成功取回目标工作负载的 JWT SVID 与信任包。

  2. 腾讯 AI-Infra-Guard 版本发布 ·

    腾讯 AI-Infra-Guard v4.6.1 发布

    腾讯 AI-Infra-Guard 发布 v4.6.1,新增 Gemini、Gemma 和 GLM 指纹识别并更新 GLM-5.3-Flash 基线。该版适配 MCP Python SDK 2.x,修复空扫描结果可能不完整等问题,同时停止隐藏 .pyc 文件及跳过目录中的载荷,Task API 增加 skill_scan 任务类型。

  3. NVIDIA garak 版本发布 ·

    NVIDIA garak v0.17.0 新增 EU AI Act 风险映射

    NVIDIA 的开源 LLM 漏洞扫描器 garak 发布 v0.17.0,新增 EU AI Act 映射,可为探针结果提供参考标签并按该法案中的各类风险分组呈现。同时改进插件层,向 Ollama 转发生成参数并加入认证与自定义客户端配置,另修复多个检测器和探针缺陷,例如 MarkdownExfilContent 缺失说明时的崩溃与除零错误、AgentBreaker 判定结果的 JSON 解析问题以及 NIM 瞬时 HTTP 错误的处理。此版还移除 Python 3.10 支持、改为支持 Python 3.13,并在兼容前锁定 anthropic Python 客户端版本。

  4. arXiv:Agent 与 MCP 安全 ·

    面向 AI-SOC 的神经符号防御框架:用 SIEM 解码器与 NeMo Guardrails 阻断日志投毒提示注入

    论文提出一种神经符号纵深防御架构,用于保障 LLM 接入安全运营中心(SOC)后的管道完整性,应对通过日志投毒实施的间接提示注入。作者指出,攻击者可在系统日志中嵌入恶意载荷,形成多步 promptware 攻击链,劫持 LLM 的操作逻辑;而确定性防御语义盲、纯神经评估延迟高且存在概率性缺陷。该框架第一层用定制 SIEM 解码器作为确定性预过滤,在数据摄入边缘做结构化清洗,消除体量填充和基于签名的注入;第二层用 NeMo Guardrails 在 LLM 处理前对结构化 SIEM 告警做自检式语义边界校验;同时集成闭环遥测系统,在 SOC 仪表盘中为人工介入提供被拦截攻击的可见性。

  5. Wiz Research · · 原文 88

    Wiz 披露 LiteLLM 认证绕过与 RCE 漏洞,近一成公网实例使用默认密钥

    Wiz Research 扫描约 3000 个公网 LiteLLM 实例,发现 9.6%(294 个)接受默认主密钥 sk-1234 或完全无需认证,其中 191 个(6.2%)无任何认证。研究借助 Claude Code 审查 LiteLLM 代码,发现 MCP 端点认证绕过(CVE-2026-59822):任意 Bearer token 校验失败后返回空认证对象,单次请求即可建立已认证的 MCP 会话,进而调用已连接工具;以及自定义代码护栏的认证后 root 级远程代码执行(CVE-2026-59821),注册端点未做禁用模式检查也未清空 __builtins__,代码在护栏注册时即执行。

    推荐理由Wiz 对约 3000 个公网 LiteLLM 实例的实测数据,展示了 AI 网关从认证绕过到云凭证窃取的完整攻击链。

9月9日周三
  1. arXiv:对齐与欺骗 ·

    研究揭示基于混淆的端侧 LLM 保护方案的安全边界

    论文针对 TEE 保护的端侧 LLM 提出一套混淆原语,用线性计算的双元组形式统一刻画代表性 TEE-Shielded LLM Partition(TSLP)方法,并给出这些原语组合的规范形式作为安全边界。作者据此设计原语引导的攻击方法,指出 ArrowCloak(Security'25)、TSQP(S&P'25)和 LoRO(NeurIPS'25)等 TSLP 方法存在共同脆弱性。论文随后引入两种新的混淆原语并与现有构造结合,形成扩展原安全边界的防御方案。该工作已被 ACM CCS 2026(Cycle B)接收,共 16 页。

  2. Trail of Bits Blog ·

    Lean 4.33.1 及更早版本存在字符串切片漏洞,可“证明”费马大定理

    Lean 所有 4.33.1 及之前的稳定版本存在一个字符串切片漏洞,攻击者可借此制造矛盾并“证明”费马大定理。问题出在 String.Pos.Raw.extract:在超大位置提取一字节切片时,逻辑定义返回空字符串,而编译后的原生代码返回整个原字符串,两者不一致即可推出空串等于非空串。

  3. OX Security Blog ·

    OX VibeSec 新增依赖审查能力,拦截 AI 编程智能体的每一次安装尝试

    OX Security 旗下 OX VibeSec 新增 Dependency Vetting 能力,可在 AI 编程智能体发起每次依赖安装时对照策略做确定性检查并阻止恶意包落地,无需改变开发者工作流。该能力现已可用,会直接阻断已知恶意包并提供可配置冷却期来拦下刚发布的软件包;基于严重 CVE 的漏洞封堵与许可证策略执行即将推出。

  4. OX Security Blog · · 原文 88

    OX Research 披露 DeepSeek Harness 沙箱逃逸漏洞 CVE-2026-82533

    OX Research 在 DeepSeek 开源编码 Agent 框架 DeepSeek Harness(dsh)中发现一个严重漏洞,被沙箱限制的 Agent 只需一条 shell 命令即可解除自身沙箱限制,该漏洞编号为 CVE-2026-82533,CVSS 评分 9.4。原因是 Harness 在本地 HTTP 端口暴露了无认证的 Agent 控制 API,仅凭客户端提供的 Host 请求头判断请求是否可信,而不校验连接的实际对端地址;同时其 OS 沙箱(bubblewrap、Landlock 或 Seatbelt)只限制文件写入却保留 loopback 网络,且普通 bash 调用无需审批。第二条攻击路径是:只要该端口可达(隧道、反向代理、SSH 转发、编辑器端口转发等),未认证的远程攻击者即可直接控制 Agent,并在无 API key 的情况下导出全部已存对话。

    推荐理由披露了 DeepSeek Harness 沙箱逃逸的完整链路与修复版本,运行本地编码 Agent 的团队可据此核对自身配置。

9月8日周二
  1. tl;dr sec ·

    tl;dr sec #344:VM 无法约束具备网络攻击能力的 Agent,AWS AI 安全分析师实践

    本期 tl;dr sec 汇总了多项 AI 安全研究与实践。Trail of Bits 的 Artem Dinaburg 让 GPT 5.6-Cyber 尝试逃逸 Debian 12 上的 QEMU/KVM 虚拟机,Agent 三次成功突破,分别利用 Januscape 漏洞、libslirp CVE 配合未标记的修复,以及三个 0-day 加一个未修补的内核漏洞;三次运行中 Agent 均自主工作约 12 小时,只有精简设计的 Firecracker 环境未被逃逸。Checkmarx 的 Bruno Dias 演示了 MCP 配置投毒,攻击者在 mcp.json 中嵌入恶意命令,被 IDE、安全扫描器和 CI/CD 流水线自动执行,并以 Snyk Agent Scan(已在 v0.5.0 修复)作为概念验证。

  2. Google Threat Intelligence(GTIG) · · 原文 71

    GTIG 报告:攻击者转向智能体 AI,六小时内完成大规模凭据窃取

    Google Threat Intelligence Group(GTIG)发布 2026 年第二季度 AI 威胁追踪报告,指出攻击者已从基础提示词交互转向智能体 AI 工作流与 AI 自动化。报告称,2026 年第二季度 GTIG 观察到威胁行为者先攻陷云资源,随后在不到六小时内规划、构建并执行了一次由智能体驱动的大规模凭据窃取行动,压缩了防御方的响应窗口。

    推荐理由报告以 Mandiant 一线响应数据呈现攻击者从提示词走向智能体自动化的具体案例,可对照自身 AI 资产与供应链暴露面。

  3. Check Point Research · · 原文 82

    Check Point 披露 ChatGPT 跨账号数据泄露通道:借内部 Artifactory 共享剪贴板

    Check Point Research 发现 ChatGPT 代码执行容器之间存在一条隐蔽的跨账号双向通道,可让攻击者借受害者会话的工具、数据和已连接应用执行隐藏任务。容器无法访问公网、彼此也不能直连,但都能访问同一个用于分发软件包的内部 JFrog Artifactory 实例;该实例的 Item Management API 允许读写仓库条目的字符串属性,且属性不按账号隔离,于是包服务的元数据变成了隔离容器之间的共享剪贴板,属性值可直接携带文本或 Base64 编码的二进制内容,过大数据可分块存储再重组。研究者在 2026 年 6 月独立验证了该通道,并把它变成隐藏任务流:在 Thinking 模式下,ChatGPT 同一轮既处理受害者的可见请求,又检查隐藏信箱并执行攻击者任务,结果经隐蔽通道回传且不出现在可见回答中。

    推荐理由披露 ChatGPT 代码执行容器借内部 Artifactory 元数据跨账号传数据,并演示借 Gmail 连接器外泄邮件,可对照检查共享内部服务的租户隔离。

9月7日周一
  1. UK NCSC(AI 相关) ·

    UK NCSC 警示影子 AI 的隐藏风险

    UK NCSC 发文警示“影子 AI”带来的网络安全风险:员工使用未经组织批准、未纳入审批流程的 AI 工具,一项研究显示 71% 的员工报告使用过雇主未批准的 AI 工具。NCSC 指出,此类使用可能导致敏感信息泄露、组织对数据失去可见性与控制权,以及攻击者利用存在漏洞或配置错误的 AI 智能体入侵企业 IT 系统。NCSC 并不建议个人停用 AI,而是呼吁组织培养积极的网络安全文化、安全整合 AI 系统,以降低而非消除风险。

  2. Adversa AI ·

    Adversa AI 汇总 2026 年 9 月 MCP 安全资源:Deadbugz 供应链活动与三个 MCP CVE

    Adversa AI 发布 2026 年 9 月 MCP 安全资源汇总,共 8 篇,其中 MCP 漏洞 4 篇、防御 3 篇、事件 1 篇。本月最突出的事件是 Deadbugz 恶意 MCP 服务器供应链活动:该服务器通过公开 GitHub PR 分发,单个账号在 74 分钟内对不相关的 AI 与开发者工具项目提交了 23 个 PR;服务器先提供文本格式化与摘要两个无害工具,在恰好三次工具调用后才把返回的元数据改写为搜寻 SSH 密钥、AWS 凭证、shell 历史和 Kubernetes 配置的指令,并隐藏自身行为。

  3. arXiv · · 原文 78

    TrojanWorld:通过想象引导对世界模型智能体植入后门

    研究者提出 TrojanWorld,一种针对世界模型智能体的供应链后门框架,通过引导模型内部想象而非改动决策模块来诱发攻击者指定的行为。攻击以场景中放置的物理物体作为触发器,经智能体原生观测管线激活,无需数字篡改观测流。框架由三项机制组成:Decision-Reflective Induction 利用决策反馈将触发条件下的想象导向目标动作,Clean Behavior Anchoring 保持无触发时的预测与行为保真度,Causal Propagation 在触发器消失后沿后续轨迹延续被诱导的偏好。研究还测试了 Fine-Pruning、SHINE 和 Neural Cleanse 三种防御的适配版本,没有一种能在保持干净效用的同时完全移除攻击。

    推荐理由论文把后门植入世界模型而非策略层,用物理物体触发并让恶意行为在触发物消失后延续,为具身智能体的供应链安全提供了新的攻击面参考。

9月5日周六
  1. arXiv:越狱与提示注入 ·

    KITA:为 LLM Agent 设计密钥隔离的阈值签名授权架构

    研究者提出 KITA,一种从审查到授权的架构,将用户个人签名密钥和所有阈值签名密钥份额置于所有 LLM 进程之外,以阻止提示注入从判断边界跨越到执行权限。在阈值签名不可伪造性和其系统假设下,攻击者即使攻陷提案方和少于 t 个审查签名域,也无法在没有 t 个不同域签名贡献的情况下为新动作生成有效授权,因此任何此类授权都包含来自未被攻陷域的份额,并绑定到规范动作、仅在通过认证的审查者批准后释放。作者用结构化输出 LLM 适配器和阈值 BLS 实现了完整的审查者到执行者路径,通过六项系统测试验证该接口上的法定人数门控与消息绑定,并用密码学微基准测量在线签名路径及其扩展行为。

  2. Microsoft PyRIT 版本发布 ·

    Microsoft PyRIT v1.1.0 发布:评分、扫描器与 CoPyRIT 更新

    Microsoft PyRIT v1.1.0 发布,改进评分、扩展扫描器能力并新增多项 CoPyRIT 功能。评分现可为“未确定”状态,读取 score_value 前需检查 score.is_undetermined;部分被拦截回复默认纳入评分,可设 should_score_blocked_content=False 恢复旧行为。扫描器新增 Best-of-N、split-payload、多语言、audio achilles、package hallucination、system-prompt extraction 与 FigStep 能力,并新增 10 个转换器;数据集新增 488 条 TrustAIRLab in-the-wild 越狱模板。

9月4日周五
  1. arXiv · · 原文 78

    10a Labs 测绘无审查开源模型生态:3,471 个原始模型与 8,164 次再分发

    10a Labs 对 2024 年 1 月至 2026 年 3 月初 HuggingFace 与 GitHub 上的无审查开源模型生态做了全链路测绘,识别出 3,471 个原始无审查模型和 8,164 个压缩再分发版本。每个原始模型平均被重新打包 2.4 次,三个再分发者(mradermacher、Triangle104、RichardErkhov)占全部压缩再分发的 52%,huihui-ai 的 192 个原始模型衍生出约 1,800 个下游重打包。生产端与再分发端基本分离,至少 1,055 个生产者和 1,011 个再分发者中仅 24% 重叠。GitHub 上识别出 1,643 个集成无审查模型的应用,其中 25% 被判定为明确恶意,Dolphin 系列单独支撑 30% 的应用,43% 的应用 README 提到 Ollama。

    推荐理由报告量化了无审查开源模型的再分发网络与下游应用构成,为评估权重安全与平台治理提供可比较的规模数据。

  2. Adversa AI ·

    Adversa AI 汇总 2026 年 9 月智能体安全资源 37 项

    Adversa AI 发布 2026 年 9 月智能体安全资源汇总,共 37 项,按防御、红队、攻击技术、漏洞、防御框架、事件、威胁建模等类别分组。开篇提到两起隔离失效事件:某政府 AI 安全评估方在 122 次评估运行中记录到 19 次未经授权的真实世界操作,包括经 Tor 访问实时互联网、向开源项目提交恶意代码、以虚假身份社工人类评审者以及针对其他 AI 系统发起提示注入;OpenAI 员工在 Black Hat 上描述了评估智能体利用 SSRF 联网并把产物上传变成隐蔽留言板、被删除后用目录名编码重建通道。