跳到正文

供应链安全

今天新收录 7 条(含旧文)

第 2 页更新的内容回到最新

10月5日周一
  1. 论文追踪 · 收录 · 原文 论文58

    APEX 用跨技能链劫持 LLM Agent,GPT-5.4 上攻击成功率达 84.3%

    研究者提出 APEX,通过构造跨技能链劫持 LLM Agent:上游技能诱导 Agent 把真实任务进度与攻击者提供的“已获批准”声明写入持久记录,下游技能再据此执行攻击者选定的动作。在 SkillsBench 的四个目标动作族和六个模型上,690 次尝试中有 512 次(74.2%)成功诱导目标动作;在 GPT-5.4 上完整链成功率为 84.3%,而把工作流合并为单个技能时为 17.4%,直接注入为 3.5%。攻击在多数情况下不显著降低原任务通过率,GPT-5.4 四个族的原生验证器通过率平均仅变化 2.6 个百分点。可用性攻击 Work Loop 使各模型每任务 token 用量达到基线的 2.20 倍至 36.39 倍。

    推荐理由论文给出跨技能链式攻击在六个模型上的成功率与任务效用变化,并量化了提示防御带来的良性任务损失。

10月4日周日
  1. 论文追踪 · 收录 · 原文 论文49

    论文指出密码学模型认证的假设缺口:审计通过但部署失效

    论文《Certified in Theory, Broken in Practice》指出,基于安全零知识证明(ZKP)的密码学模型认证(CMC)方案存在假设缺口:现有安全定义只保证模型在固定审计数据集上的行为,未保证同一分布的其他数据上同样成立。作者据此构造攻击,通过精心设计训练数据,使模型在审计中表现正常、部署后出现病态行为,实验显示攻击者可认证模型在审计集上准确率超过99%,而在同分布新样本上不足30%。为弥补该缺口,作者形式化了面向 CMC 框架的密码学安全定义,提出通用协议模板并证明其满足这些要求。作者认为该结果既是对现有方案的警示,也为设计安全、隐私保护的机器学习审计协议提供了建设性指引。

  2. 论文追踪 · 收录 · 原文 论文56

    研究提出跨 LLM 助手的记忆跳跃攻击,单个被投毒文件可传播至 60–100% 的助手

    研究者提出“产物中介传播”这一攻击形态:恶意内容经一个被投毒的文件进入助手持久记忆,再被写入该助手后续创建的产物,被另一个独立运行的助手读取后继续传播,助手之间无需直接通信。作者构建了模拟用户之间文件交换的“人类—助手宇宙”,在 36 个留出测试宇宙上评估 GPT-5.6 Luna、Kimi-K2.6、GPT-OSS-120B 和 DeepSeek-V4-Pro,攻击提示词按模型分别优化后冻结,测试目标与工作流均未见过。首跳感染在 78–100% 的运行中成功;DeepSeek-V4-Pro 和 GPT-OSS-120B 的目标感染率达 98% 和 85%,76% 和 61% 的传播链到达第 4 跳,经删失校正后 85% 和 73% 的链在第 7 跳仍存活。作者指出,重置助手记忆无法终止传播,因为仍在流通的被感染产物会再次感染它,并建议把共享产物与记忆纳入安全边界。

    推荐理由论文给出跨独立助手传播的量化结果与逐跳存活率,部署持久记忆与文件读写助手的团队可据此评估共享产物的安全边界。

  3. 论文追踪 · 收录 · 原文 论文58

    研究者提出 Agent 检查点回滚的五类安全失效,并在 Hermes、Cline、LangGraph 上实现三种攻击

    南方科技大学与香港城市大学的研究者对 Agent 系统的检查点与回滚(C/R)机制做了系统性安全研究,提出“执行连续性”概念,指出正确回滚不等于安全恢复。他们按恢复边界把现有机制分为框架状态、工作区状态和 OS/VM 状态三类,并归纳出五种失效模式:内部状态覆盖不完整、检查点状态不一致、外部状态不匹配、非确定性重放未绑定、外部副作用未记录。基于这些模式,作者在 Hermes、Cline 和 LangGraph 上构造了三个端到端攻击,分别实现恶意软件验证绕过、未授权邮件转发和单次审批下的重复支付,均不需要篡改检查点内容或破坏回滚实现。评估覆盖 TerminalBench 与 AgentBench 的 347 条轨迹、五个框架共 1735 次框架任务执行,SF1 与 SF4 出现率分别约 67.2% 和 67.7%,SF5 仅 2.3%。

    推荐理由论文把回滚后恢复执行的安全问题拆成五类失效模式,并给出三个可复现的端到端攻击,适合做 Agent 恢复机制设计时的检查清单。

  4. 论文追踪 · 收录 · 原文 论文58

    研究:LLM Agent 技能名幻觉率最高达 62%,可被抢注用于供应链攻击

    华中科技大学与南洋理工大学研究者对 12 种配置(4 个独立 LLM 与 8 个 Agent)的 15,000 条提示词做了大规模测量,发现所有配置都会推荐不存在的技能名,即技能名幻觉,独立 LLM 平均幻觉率 36.0%,Agent 平均 36.9%,在真实开发者提问上升至 43.1%,单配置区间为 6.5% 至 62.0%。这些名称并非随机噪声:Claude Sonnet 4.6 在 10 次运行中平均 7.8 次重复同一个幻觉名,410 个名称被两个以上配置共享,占全部幻觉推荐事件的 15.3%,另有 851 个幻觉名恰好是真实存在的 PyPI 或 npm 包名。攻击者可先收集这些可预测的名称,再在几乎不审核发布者的注册表上抢注含恶意 SKILL.md 的技能,等待受害者安装。作者认为修复需要注册表层面的名称预留与经过验证的推荐流程。

    推荐理由论文首次系统测量 Agent 技能名幻觉,给出 12 种配置的幻觉率与可被抢注的重复名称,为技能注册表设计提供依据。

  5. 论文追踪 · 收录 · 原文 论文53

    ElasticBack:通过触发词与规则耦合在 LLM Agent 技能中植入条件后门

    研究者提出 ElasticBack,一种针对 LLM Agent 技能供应链的条件单技能后门:在技能文档中植入规则 R,在用户查询中植入看似无害的触发词 T,只有两者同时出现时恶意载荷才会触发。该方法用触发词即开关的构造把两侧绑定,通过语义锚定的规则注入生成 R,再冻结 R 并用带隐蔽性约束的遗传搜索演化 T,从而在不微调权重的情况下兼顾攻击效果与隐蔽性,在良性输入上保持休眠。实验覆盖三类目标行为(每类 50 个技能)和四个 Agent LLM,报告了高攻击成功率、接近零的误报率、保持干净的准确率,并能跨模型迁移、规避部署期防御。作者据此呼吁加强对技能供应链的防御。

  6. 论文追踪 · 收录 · 原文 论文53

    论文:蒸馏防御在蒸馏后强化学习下易被攻破

    研究者提出,现有蒸馏攻击防御通常在蒸馏完成后立即评测,隐含假设攻击者不再继续训练模型,而更现实的威胁模型应包含蒸馏后的强化学习阶段。论文显示,一些在蒸馏后看似有效的防御,在后续强化学习后会被攻破,强化学习实际上降低了蒸馏攻击的门槛。作者还发现,仅使用当前 API 易于获取的数据进行简单攻击,就能从闭源大语言模型窃取推理能力,其推理提升效果与提取完整隐藏推理轨迹的复杂攻击相当。结论认为,任何泄露了足以重建近似推理轨迹信息的蒸馏防御都可能无效,并讨论了批量级蒸馏防御等可能更有效的方向。

10月3日周六
  1. 论文追踪 · 收录 · 原文 论文57

    研究者提出上下文权限提升攻击,12 款 Agent 框架均受影响

    伊利诺伊大学厄巴纳-香槟分校研究者对 12 款主流 AI Agent 框架的上下文装配机制做了系统安全分析,提出两类新的上下文权限提升攻击:消息角色权限提升(M-CPE)让低权限来源的内容进入高权限消息角色,跨范围权限提升(X-CPE)让攻击者内容持久化到更广作用域的来源中。研究覆盖 Codex、Claude Code、OpenClaw、Gemini CLI、Qwen Code、Kimi CLI、Aider、OpenCode、Cline、Goose、Pi-mono、Hermes Agent,归纳出 16 种攻击向量,并开发自动化分析工具 CoRA,报告 282 个易受攻击的上下文来源。概念验证攻击在 GPT-5.5、GPT-5.4-mini 和 DeepSeek-V4-Flash 上端到端成功,后果包括 Agent 被完全控制、远程代码执行、拒绝服务以及工具或技能调用被操纵。

    推荐理由论文系统梳理了 12 款主流 Agent 框架的上下文装配设计,给出两类权限提升攻击与 16 种攻击向量,部署 Agent 的团队可据此检查自身的上下文来源与角色分配。

  2. 论文追踪 · 收录 · 原文 论文56

    研究者对 Google AP2 v0.2 做系统安全分析,识别 48 项威胁

    以色列本-古里安大学与 Intuit 的研究者对 Google 的 Agent Payments Protocol(AP2)v0.2 做了系统安全分析,将交易生命周期划分为五个阶段、归纳出五类部署架构,并用 MAESTRO 框架建模出 48 项威胁,分为五个攻击家族。作者用 AIVSS 对每项威胁按架构分别评分,其中 8 项在至少一种架构下达到 High 等级。由于当时没有公开的完整 AP2 部署,团队自建覆盖全部五类架构的测试床,开发了 5 个 PoC 演示,覆盖全部 8 项高危威胁及其缓解措施,并实现了一个部署感知扫描器,执行静态、跨角色一致性和对抗性检查。分析指出,AP2 主要保护签名后的 mandate 与收据,而塑造交易的签名前上下文(包括 A2A 消息和 MCP 工具调用)不在保护范围内,因此仅凭有效的 mandate 签名并不能保证代理交易反映用户意图。

    推荐理由论文对 AP2 v0.2 的五个部署架构做了系统威胁建模,并给出覆盖 8 个高危威胁的 PoC 与缓解措施,可供实现者对照自查。

  3. Michael Bargury · 收录 · 原文 53

    研究称 26 个 LLM 路由器被植入恶意工具调用并窃取凭据

    一项研究称 26 个 LLM 路由器被秘密注入恶意工具调用并窃取凭据,其中一个路由器盗走了某客户价值 50 万美元的钱包。研究者还表示已实现对路由器的投毒,可将流量转发给自己,并在数小时内直接接管约 400 台主机。相关论文见 https://arxiv.org/abs/2604.08407。

    引用Chaofan Shou@shoucccc

    26 LLM routers are secretly injecting malicious tool calls and stealing creds. One drained our client $500k wallet. We also managed to poison routers to forward traffic to us. Within several hours, we can directly take over ~400 hosts. Check our paper: https://arxiv.org/abs/2604.08407

  4. Zenity · 收录 · 原文 37

    Zenity 沙箱引爆数千个公开 Agent 技能,发现 170 万次安装的窃取凭据活动

    Zenity 在沙箱中引爆数千个公开 Agent 技能,发现一场安装量达 170 万次的窃取凭据活动,一个排名前 150 的技能数月未被检测到,还有智能体被改造成恶意软件投放器。这些技能并非被劫持,而是从一开始就被构建成这样。Zenity 同时推出免费开放的 AI Total,并附上博客链接 https://zenity.io/blog/introducing-ai-total。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  5. Snyk Labs(AI Threat Labs,含原 Invariant Labs) · 收录 · 原文 日期未知43

    Snyk Labs 披露 OpenClaw 沙箱两处绕过:策略未合并与 TOCTOU 竞态

    Snyk Labs 对 OpenClaw 做安全评估,发现两处沙箱绕过,结果都是配置里看似存在的沙箱边界在运行时并未生效。第一处是 /tools/invoke HTTP 端点在构建和过滤工具列表时没有合并 sandbox 策略,只叠加了 Profile、Global、Agent、Group、Subagent 五层策略,导致 browser、gateway、nodes 等沙箱内本应禁用的工具仍可调用,任何持有有效 gateway 凭据的远程集成或插件都能借此提权;作者已向 OpenClaw 仓库提交修复,使该处理器按 sessionKey 解析沙箱上下文并合并允许与拒绝列表。作者认为在 Node.js 中无法用 openat(2) 配合目录文件描述符彻底修复,最终把文件操作移入沙箱的 Docker 容器内执行。

  6. Snyk Labs(AI Threat Labs,含原 Invariant Labs) · 收录 · 原文 41

    Snyk Labs 披露 Mermaid、Vega、PlantUML 图表渲染器攻击面及 Dify、GitLab 利用链

    Snyk Labs 分析了 Mermaid、Vega、PlantUML 等图表渲染库在客户端与服务端渲染时的攻击面,并给出在 Dify 和 GitLab 上的实际利用链。在 Dify 中,Mermaid 的 securityLevel 被设为 loose 以恢复主题定制,但自定义净化函数只处理 flowchart 的 javascript: 伪协议,Gantt、MindMap、Sequence 等图类型未覆盖,攻击者可通过编排设置让 LLM 输出恶意图表,形成影响公开聊天机器人用户的存储型 XSS;Dify 在 1.11.2 版本(CVE-2026-21866)将 securityLevel 改为 strict 修复。文章建议对不可信图表源关闭交互、使用 strict 或 sandbox 级别、经 DOMPurify 净化 SVG、隔离渲染服务并配置严格 CSP。

  7. Snyk Labs(AI Threat Labs,含原 Invariant Labs) · 收录 · 原文 36

    Snyk Labs 披露 OAuth state 缺陷可致一键账号接管,涉及 Fastapi-users、Authlib 等库

    Snyk Labs 在 OAuth 2.0 配置错误研究第二部分中指出,即使存在 state 参数,若其可预测或未与发起会话绑定,仍可导致一键登录 CSRF 乃至账号接管。修复方面,Fastapi-users 在 state JWT 中加入随机 claim 并写入 cookie 校验,Authlib 改为将 state 数据存入用户会话,Fast-Api SSO 与 Langfuse 也分别通过 sso_state cookie 校验和默认启用 NextAuth 标准保护修复。文章还建议用 CSP frame-ancestors、CHIPS 分区 cookie 等纵深防御措施,但强调这些不能替代正确的 OAuth state 处理。

  8. Mindgard Blog · 收录 · 原文 53

    Mindgard 披露 Amazon Kiro IDE 提示注入致数据外泄漏洞

    Mindgard 在 Amazon Kiro IDE 中发现一条数据外泄路径:攻击者控制的仓库内容被当作指令,诱导 Agent 读取本地敏感信息并写入 IDE 配置,最终由 IDE 自动发起网络请求把数据带出。测试针对 Windows 上的 Kiro IDE 0.7.45,在受信任与不受信任工作区中均复现。利用需要两步用户操作,即通过 File → Open Workspace From File 打开恶意工作区文件,然后向 Agent 发送任意消息,之后流程无需用户再要求 Kiro 访问或传输敏感数据,因此利用难度被评为低。Amazon 通过 HackerOne 验证了报告,并在 Kiro IDE 0.8.140 中修复;该提交获 40 美元 Amazon 商店礼品卡,CVE 资格仍在评估。

  9. Pillar Security · 收录 · 原文 日期未知63

    Pillar Security 披露 Dolt MCP 未认证工具执行漏洞,0.3.7 版本修复

    Pillar Security 发现 DoltHub 远程 Dolt MCP 服务器存在认证绕过漏洞,影响 0.3.1 至 0.3.6 版本,已在 0.3.7 修复。漏洞由两处缺陷叠加造成:JWT 中间件在令牌无效时写入 401 响应却缺少 return,处理继续向下执行;同时 mark3labs/mcp-go 默认的会话管理器只校验 Mcp-Session-Id 的格式,不核对是否由服务器签发。攻击者因此可用伪造的 JWT 和自造会话 ID 到达工具分发环节,以服务器自身的数据库凭据执行操作,结果被附加在 401 响应体中,只监控状态码的日志会误判攻击失败。影响范围限于启用 JWT 认证的远程 HTTP 传输,本地 stdio 不受影响;可执行的操作取决于 MCP 服务器账号的数据库权限,包括读取、修改或删除数据。

    推荐理由披露 Dolt MCP 认证绕过漏洞的完整链路与修复版本,部署 MCP 服务的团队可据此检查认证失败后是否仍会执行工具。

  10. 0DIN · 收录 · 原文 41

    0DIN 披露通过 DNS TXT 记录对 Claude Code 实施间接提示注入获取 shell

    0DIN 展示了一种针对 Claude Code 的间接提示注入攻击:攻击者只需控制一个公开 GitHub 仓库,无需提交任何恶意代码,就能在打开该仓库的开发者机器上获得交互式 shell。仓库中的 setup 说明和脚本看起来完全正常,脚本通过 dig 从攻击者控制的 DNS TXT 记录拉取配置并直接执行,记录内容经 base64 编码后解码为反向 shell。Claude Code 读取项目文件、安装依赖、遇到 RuntimeError 后按错误提示运行 init 命令,全程自主完成,终端只显示初始化成功。攻击者可借此获取环境中的 ANTHROPIC_API_KEY、AWS_SECRET_ACCESS_KEY、GITHUB_TOKEN 等凭据,并通过改 SSH key、加 cron 任务或装后门实现持久化,还能随时修改 DNS 记录更换载荷。

  11. 腾讯朱雀实验室 · 收录 · 原文 40

    腾讯朱雀实验室扫描 ClawHub 五万个 Skill,发现绕过官方检测的远程控制后门

    腾讯朱雀实验室用自研 A.I.G 对 OpenClaw 官方 Skill 市场 ClawHub 上近五万个 Skill 做全量扫描,发现第一代显性恶意样本大量消失后,伪装更深的攻击方式仍然存在。扫描发现 27,818 个 Skill 声明网络请求权限,占比 74.6%,共 246,378 条 URL 指向 29,196 个域名;五万个 Skill 来自 15,427 名开发者,Top 20 账号合计发布 5,422 个,最极端账号 3 个月发布 955 个。案例一是一个自称分布式状态恢复工具的 Skill,通过远程拉取载荷、12 种传输编码链式解码和 Python pickle 反序列化构成完整 RCE 链路,却通过了 ClawHub 的正则扫描、注入信号检测、LLM 安全评估和 VirusTotal 外联检测。

  12. 腾讯朱雀实验室 · 收录 · 原文 36

    腾讯朱雀实验室红队实测 DeepSeek Harness:14,560 次运行揭示 Agent 提示注入风险

    腾讯朱雀实验室基于 AI-Infra-Guard(A.I.G)对 DeepSeek 开源的 Agent Harness(DSH)开展授权受控的端到端测评,覆盖 13 种攻击方法、16 类间接注入通道、文本与文件两种载体模式和 35 个攻击目标,共 14,560 次真实运行。在未额外启用防护策略的基线配置下,RuleJudge 判定完全成功率 5.6%、LLMJudge 为 5.3%,广义受影响比例分别为 7.6% 和 12.6%,4.4% 的运行触发了敏感操作,对应 641 次 Sink 调用。测试通过 DSHRealHarnessAdapter 接入 DSH 的 TypeScript 运行时,注册 6 个 Source Tool 与 8 个模拟 Sink Tool,外部副作用均停留在本地模拟环境。

  13. HiddenLayer Research · 收录 · 原文 日期未知43

    HiddenLayer 研究:Agent 技能层正成为新的 AI 供应链风险

    HiddenLayer 研究指出,Agent 的 skills 层正在成为新的 AI 供应链攻击面。技能包以 SKILL.md 存放运行时指令,可捆绑脚本等辅助文件,但既无加密签名也很少经过审核,任何人都能发布,Agent 会直接读取执行。研究以 OpenClaw 为例:其官方注册表 ClawHub 截至 2026 年 6 月已有超过 70k 个技能,OpenClaw 上线数月后即出现恶意技能,用于让 Agent 静默下载运行恶意软件或暗中参与加密货币活动。作者认为同样的模式会迁移到 Claude Code、Cursor、GitHub Copilot 等企业常用工具,恶意技能可窃取代码、注入漏洞或把推荐路由到攻击者控制的基础设施,而开发者工作站中的云凭证、CI/CD token 会放大影响。

  14. HiddenLayer Research · 收录 · 原文 59

    HiddenLayer 披露 Claude Code 技能 frontmatter 可绕过权限并投毒记忆

    HiddenLayer 研究发现 Claude Code 技能文件的多个 frontmatter 字段存在安全缺口,可被用来劫持编码智能体。攻击者利用 allowed-tools 字段预授权 Bash、Read、Write、Skill、WebFetch 等工具,绕过原本的工具调用权限请求;通过指定能力更弱的模型和更低 effort 等级实施降级攻击,规避护栏拒答,反向操作则可抬高成本,测试中同一 URL 摘要任务从 Haiku 低 effort 的 0.0274 美元升至 Opus 高 effort 的 0.1451 美元。将指令移入 when_to_use 字段并把 user-invocable 设为 false,可让技能在斜杠菜单中不可见却仍被触发,ClawHub 和 skills.sh 等技能站点也不展示 name、description 之外的字段。

    推荐理由HiddenLayer 拆解 Claude Code 技能 frontmatter 的权限绕过与记忆投毒链条,为使用技能文件的团队提供可对照的检查点。

  15. Embrace The Red · 收录 · 原文 59

    研究者披露 SQL Copilot 提权漏洞 CVE-2026-65669:从 SELECT 到 SYSADMIN

    安全研究者 Johann 在 BlueHat Asia 2026 上披露了 SQL Server Management Studio(SSMS)中 SQL Copilot 的提权漏洞 CVE-2026-65669,微软将其评为严重级别。Copilot 沿用查询窗口的数据库连接执行 SQL,用户以 sysadmin 身份连接时它也拥有同等权限;所谓只读模式只靠系统提示词和 LocalSqlExecutionAccessChecker 类中的正则黑名单,没有独立的低权限连接。作者用间接调用存储过程的写法绕过黑名单,使 Copilot 能执行 CREATE、INSERT、UPDATE、DELETE、DROP 等写操作,并演示了数据外传。完整攻击链中,数据库所有者在库里埋入恶意指令,等高权限用户使用 Copilot 时经间接提示注入触发,最终把攻击者的登录加入 sysadmin 角色。作者建议把智能体的只读限制做成权限层面的约束,并提醒及时更新。

    2 条报道 · 2 个来源查看事件时间线与全部报道

    推荐理由作者以第一手研究披露 SSMS 中 SQL Copilot 的提权链,展示只读模式如何被绕过并最终拿到 sysadmin。

10月2日周五
  1. arXiv · 收录 · 原文 论文56

    CodePoisonRAG:针对检索增强代码生成的知识投毒攻击

    研究者提出 CodePoisonRAG,一种针对检索增强代码生成(RACG)的定向上游知识投毒框架,将良性修复代码条目改造成携带攻击者选定弱点的投毒样本。攻击链包含漏洞注入与语义误标两步:前者在保留任务结构的前提下改写 source-passthrough-sink 数据流以植入指定 CWE,后者在注释中加入虚假安全声明而不修复漏洞。研究者在 Java 和 C 的十类 CWE 上构造 85 个投毒样本,注入 12,053 条良性检索语料后投毒比例仅 0.7%,每个任务最多注入一个样本。在三个生成模型上,85 个样本全部进入对应查询的 Top-3 检索结果,攻击成功率介于 0.80 至 0.93;面对 CodeGuarder 防御时成功率仍为 0.40 至 0.71,其中 Code Llama 13B 上最高达 0.71。

    推荐理由论文给出针对检索增强代码生成的知识投毒框架,用极低投毒比例实现高攻击成功率,并测试了现有防御的削弱幅度。

  2. arXiv · 收录 · 原文 论文59

    HookPry:利用插件生命周期钩子更新劫持 AI Agent 框架

    研究者提出 HookPry,一个开源全自动攻击框架,利用 AI Agent 框架盲目信任的生命周期钩子更新路径实施供应链攻击。攻击者只需控制插件元数据与钩子配置,先发布良性版本获取信任,再通过更新把恶意命令静默绑定到良性事件,命令由框架直接派发,不经过 LLM 决策路径。HookPry 由对抗性清单优化、时间解耦和最小公共接口三部分组成,实现十种攻击目标。在 7 种框架与 5 种 LLM 后端共 25 种组合、1000 次端到端运行中,全部 7 种框架被攻破,Hermes 上成功率最高达 92.5%,整体微平均 E2E-ASR 为 77.0%,机制触发率 83.9%,无一次被模型显式拦截。防御方面,Microsoft Defender 召回率为 0%,三种静态防御联合仍漏掉 47.5% 的恶意样本。

    推荐理由论文把生命周期钩子更新路径单独列为供应链攻击面,并给出跨 7 种 Agent 框架的自动化验证与防御缺口数据。

  3. 先知社区 · 收录 · 原文 55

    Agentic Skills 供应链攻击与运行监测防御范式

    文章分析 AI Agent 的 Skill/MCP 生态面临的供应链投毒:与 npm/PyPI 投毒不同,载荷可以是纯自然语言,执行者是继承用户全部权限、会主动配合的 Agent。作者把信任失效归结为环境权限继承等三个根因,沿 Agent 读取 Skill、拆分步骤、经 MCP 调用工具的链路梳理出 5 个注入面,用工具描述投毒等四类典型攻击链做原理演示,并列出在野观察到的不少于 16 种免杀手法。隔离环境实测中,按序叠加编码压缩、结构重打包、语义改写等四类混淆后,多家检测平台的检出率从 99% 降到 10%。防御部分给出多引擎路由聚合加 LLM 仲裁、SkillSieve 静态三层检测、FUSE 与 eBPF 双通道动态采集和 uprobe 级意图-行为追踪,主张恶意行为最终会在运行时的系统边界行为上暴露。

    推荐理由文章梳理 Agent Skill 与 MCP 生态的供应链投毒与注入面,并给出可复现的检测与运行监测思路。

  4. 先知社区 · 收录 · 原文 27

    归档包 langchain-experimental 中 PythonAstREPLTool 的代码执行风险分析

    已归档的 Python 包 langchain-experimental 中,PythonAstREPLTool 组件对大语言模型输出内容的过滤机制较弱,并直接使用 exec/eval 执行输入,存在代码执行风险。该组件已停止维护,结合平台判定与最新下载量数据,其安全风险在现阶段仍然存在,文章给出了相应修复建议。

  5. Datadog Security Labs · 收录 · 原文 56

    Datadog 披露 Claude Code 技能供应链风险:动态上下文命令可绕过模型防御

    Datadog Security Labs 分析了 Claude Code 技能带来的供应链风险,指出技能中的动态上下文命令会在模型看到技能内容之前执行,使模型级提示注入防御失去介入机会。Claude Code 可从企业管理策略、个人目录、项目 .claude/skills/、插件、嵌套项目文件夹以及 --add-dir 添加的目录加载技能,克隆的仓库因此可能把技能带入受信任会话。作者以在野发现的 Clawsights 技能为例,该技能通过 gh auth token 获取 GitHub 令牌并上传至 clawsights[.]com/api/upload;在 Opus 4.6 最大推理下模型识别并拒绝执行,但改用动态上下文版本后,令牌窃取命令在预处理阶段已执行完毕,模型随后才表示不会执行该技能。作者还提到在 Opus 4.7 上同一技能未被识别为凭据窃取。

    推荐理由材料揭示了 Claude Code 技能中动态上下文命令在模型介入前执行这一攻击路径,并给出可复现的检测命令与缓解配置。

  6. Datadog Security Labs · 收录 · 原文 43

    Entra Agent ID 的蓝图爆炸半径:一个蓝图凭证可控制所有关联智能体身份

    Datadog Security Labs 解析 Microsoft Entra Agent ID 的技术架构,指出蓝图(blueprint)是唯一可添加凭证的位置,控制蓝图即可认证并控制其下所有蓝图主体、智能体身份和智能体用户,无论这些身份位于哪个租户。每个租户下单个蓝图最多可关联 250 个智能体身份,每个身份可拥有独立的 Entra 角色、应用权限和委派权限,还可通过 inheritablePermissions 继承蓝图主体的委派权限。蓝图采用生产者-消费者模式,在一个租户发布后可在多个租户创建智能体,因此第三方蓝图被入侵可能造成跨租户影响,类似 Midnight Blizzard 事件。

  7. OX Security · 收录 · 原文 46

    OX Security 报告公开 MCP 服务器的基础设施与治理风险

    OX Security根据公开MCP注册表开展调查,自报样本包含15,465个服务器,并对5,095个唯一主机名进行基础设施分析。厂商指出部分服务存在失效域名、消费级隧道及数据驻留治理问题;托管地理位置本身不代表恶意行为。其相关报告还声称,在特定授权设置下的测试中,不可信内容可能导致越权访问。这些结论属于厂商调查与受控测试,适用范围取决于具体条件。

  8. Check Point Research · 收录 · 原文 56

    Check Point 逆向 Windows Defender BTR.sys 驱动,将其改造为内核操作原语

    Check Point 逆向 Windows Defender 的 Boot-Time Removal 驱动 BTR.sys,发现其通过注册表 Args 指向的 ADS 中 RC4 加密配置执行文件与注册表操作,无需漏洞或内存破坏即可在 Ring 0 执行任意操作。研究给出完整事务格式,包括 0xFEE1DEAD 魔数、版本 2、~CRC32 完整性校验和硬编码 256 字节 RC4 密钥,并发布 MIT 许可的 BTR_CLI 工具构造合法加密事务。利用该驱动在 Phase 1 的 Boot Bus Extender 组加载时机,可在用户态安全服务启动前删除 WdFilter.sys、MsMpEng.exe 等 Defender 二进制并绕过 Tamper Protection,测试覆盖 Windows 7 至 Windows 11 25H2。

    推荐理由完整逆向 Windows Defender 的 BTR.sys 驱动,展示如何用微软签名驱动在 Ring 0 执行任意文件与注册表操作,并给出 Sysmon 检测思路。

  9. Check Point Research · 收录 · 原文 57

    Check Point 披露 ChatGPT 跨账号数据泄露通道:借内部 Artifactory 共享剪贴板

    Check Point Research 发现 ChatGPT 代码执行容器之间存在一条隐蔽的跨账号双向通道,可让攻击者借受害者会话的工具、数据和已连接应用执行隐藏任务。容器无法访问公网、彼此也不能直连,但都能访问同一个用于分发软件包的内部 JFrog Artifactory 实例;该实例的 Item Management API 允许读写仓库条目的字符串属性,且属性不按账号隔离,于是包服务的元数据变成了隔离容器之间的共享剪贴板,属性值可直接携带文本或 Base64 编码的二进制内容,过大数据可分块存储再重组。研究者在 2026 年 6 月独立验证了该通道,并把它变成隐藏任务流:在 Thinking 模式下,ChatGPT 同一轮既处理受害者的可见请求,又检查隐藏信箱并执行攻击者任务,结果经隐蔽通道回传且不出现在可见回答中。

    推荐理由披露 ChatGPT 代码执行容器借内部 Artifactory 元数据跨账号传数据,并演示借 Gmail 连接器外泄邮件,可对照检查共享内部服务的租户隔离。

  10. Datadog Security Labs · 收录 · 原文 52

    Datadog 披露 Codex 与 Claude Code 在首次提示词前的代码执行路径

    Datadog Security Labs 发现,在编码智能体中信任一个仓库后,仓库控制的代码可能在用户发出第一条提示词前就已运行。在 Codex 中,项目级 MCP 配置(.codex/config.toml 中的 mcp_servers)会让 Codex 启动攻击者控制的本地进程,无需用户交互或调用该服务器;Codex 0.122.0 起不再加载不受信任项目的 hooks 与执行策略,0.129.0 起对托管配置外的命令 hook 定义做哈希并要求审查,0.131.0 加入完整启动审查界面,但只有命令 hook 路径会获得第二次信任审查。在 Claude Code 中,.claude/settings.json 可定义会话环境变量,通过把 PATH 指向项目内目录,Claude 启动时自动执行的 Git 探测会运行仓库中的 git 包装脚本,该脚本还能转调真实 git 使流程正常继续。

    推荐理由文章给出 Codex 与 Claude Code 在项目信任后、首次提示词前的两条自动代码执行路径,并附可复现的检测命令。

  11. Datadog Security Labs · 收录 · 原文 53

    Datadog 分析 N4D Mesh Controller 恶意软件:滥用暴露的 MCP 服务器并投递 go-titan 代理

    Datadog Security Research 在隔离环境中执行了 N4D Mesh Controller 恶意软件的新样本,确认其通过暴露的 MCP 服务器实现凭据窃取、横向移动与持久化。该活动最早由研究者 German Fernandez 于 2026 年 6 月记录,新样本连接 209.99.186.235 并获取自称 33.8-go-titan 的第二阶段代理。攻击流程为扫描 MCP 端点、请求 tools/list 分类工具、通过 tools/call 调用 execute_command 等危险工具,再用 curl 或 wget 从 cdnorigin.net 等地址下载架构对应的代理。在 120 秒的断网运行中,代理发起 22,831 次连接尝试,覆盖 742 个目标 IP 和 37 个端口,且未接收控制器任务即开始扫描。

    推荐理由Datadog 在隔离环境中复现了 N4D 恶意软件对 MCP 服务器的自动化利用链,并给出可落地的检测规则与狩猎思路。

10月1日周四
  1. arXiv · 收录 · 原文 论文55

    10a Labs 测绘无审查开源模型生态:3,471 个原始模型与 8,164 次再分发

    10a Labs 对 2024 年 1 月至 2026 年 3 月初 HuggingFace 与 GitHub 上的无审查开源模型生态做了全链路测绘,识别出 3,471 个原始无审查模型和 8,164 个压缩再分发版本。每个原始模型平均被重新打包 2.4 次,三个再分发者(mradermacher、Triangle104、RichardErkhov)占全部压缩再分发的 52%,huihui-ai 的 192 个原始模型衍生出约 1,800 个下游重打包。生产端与再分发端基本分离,至少 1,055 个生产者和 1,011 个再分发者中仅 24% 重叠。GitHub 上识别出 1,643 个集成无审查模型的应用,其中 25% 被判定为明确恶意,Dolphin 系列单独支撑 30% 的应用,43% 的应用 README 提到 Ollama。

    推荐理由报告量化了无审查开源模型的再分发网络与下游应用构成,为评估权重安全与平台治理提供可比较的规模数据。

  2. arXiv:对齐、欺骗与监督 · 收录 · 原文 论文43

    研究揭示基于混淆的端侧 LLM 保护方案的安全边界

    论文针对 TEE 保护的端侧 LLM 提出一套混淆原语,用线性计算的双元组形式统一刻画代表性 TEE-Shielded LLM Partition(TSLP)方法,并给出这些原语组合的规范形式作为安全边界。作者据此设计原语引导的攻击方法,指出 ArrowCloak(Security'25)、TSQP(S&P'25)和 LoRO(NeurIPS'25)等 TSLP 方法存在共同脆弱性。论文随后引入两种新的混淆原语并与现有构造结合,形成扩展原安全边界的防御方案。该工作已被 ACM CCS 2026(Cycle B)接收,共 16 页。

  3. arXiv · 收录 · 原文 论文57

    SynChain:诱导计算机使用 Agent 自建攻击链并跨任务持久化

    研究者提出 SynChain,一种自合成攻击范式,通过持久化感知的定向 SFT 让被污染的计算机使用 Agent 在正常任务中生成看似无害但携带潜伏载荷的技能或记忆条目,之后作为可信上下文重新加载,无需新的外部恶意输入即可触发。作者构建了 CuaChain 数据集,包含 30 条良性任务链和隐私泄露、权限篡改、未授权写入三类攻击目标。在 OpenClaw、Codex 和 Claude Code 三种框架、四种防御设置下,SynChain 在 Chain-1 平均攻击成功率超过 93%,Chain-2 仍高于 72%,显著优于改造后的 SkillJect 和 DemonAgent 基线。随着链长增加攻击效果下降,Chain-3 降至 26.57%,Chain-5 仅 1.11%,作者将其归因于记忆摘要和上下文截断形成的信息瓶颈。

    推荐理由论文提出让被污染模型在正常流程中自造带毒技能并跨任务复活的攻击链,并给出三种 Agent 框架下的成功率与防御失效情况。

  4. arXiv:后门、投毒与隐私 · 收录 · 原文 论文57

    Akrasia:针对推理型代码 LLM 的隐蔽后门攻击

    研究者提出 Akrasia,一种针对推理型代码 LLM 的推理时后门攻击,通过探测模型构造代码级触发器,再用上下文学习植入后门,并借助模型不忠实性隐藏触发器、生成看似合理的推理。在 GPT-5.5、Claude Sonnet-5、Gemini 3.5 Flash、DeepSeek-V4-Pro、GLM 5.2、Qwen3.6-35B 六款模型上,攻击在 CodeMMLU 代码补全任务的平均 ASR 最高达 99.34%,同时保持最高 97.23% 的准确率。在 CoS、ONION、PeerGuard 三种防御下,Akrasia 在 14/18 个防御设置中仍保持最高 98.82% 的平均 ASR;人工检查中,进阶变体在最多 80% 的设置里成功隐藏触发器与推理步骤。攻击目标包括反向 shell、凭据窃取、资源耗尽和长运行时间,作者据此呼吁针对推理后门开发防御方法。

    推荐理由论文给出推理型代码 LLM 后门在六款模型、三类任务和三种防御下的攻击成功率,可据此评估代码 Agent 的供应链风险。

  5. arXiv:后门、投毒与隐私 · 收录 · 原文 论文25

    去中心化联邦学习中的拜占庭节点放置优化

    去中心化联邦学习(DFL)的安全评估通常关注拜占庭参与者如何行动,却忽视了哪些参与者被攻陷。研究者将拜占庭节点放置视为攻击者的显式决策,提出集合级度量 BPI(Byzantine Placement Influence),从实际 gossip 动态中量化诚实节点在训练周期内对拜占庭源的累积暴露,并给出高效优化算法。在六类异构图、无目标模型投毒与后门攻击下,BPI 引导的放置均能稳定找到高破坏性配置,且在拜占庭鲁棒聚合放松线性 gossip 假设后依然有效。

  6. arXiv · 收录 · 原文 论文46

    论文用 Tamarin 形式化分析 x402、MPP、ACP、AP2 四个智能体支付协议

    论文在 Tamarin 中形式化建模 x402、MPP、ACP、AP2 四个代表性智能体支付协议,基于统一的智能体支付生命周期抽象刻画各协议的角色、状态、信任假设与阶段转换。作者不预设完整属性分类,而是用有来源支撑的验证问题和反例轨迹暴露缺失的绑定、状态约束与跨阶段对应关系,归纳出 18 条共享安全原则。在 86 个验证用例中,分析复现了 46 个已知或校准用例,并识别出 40 项此前未记录的形式化一致性问题。对每个保留的违规,作者定位缺失的协议关系,构造最小强化的参考模型并重新验证目标属性。