跳到正文

供应链安全

今天新收录 46 条(含旧文)

第 9 页更新的内容回到最新

10月2日周五
  1. Datadog Security Labs · 收录 · 原文 52

    Datadog 披露 Codex 与 Claude Code 在首次提示词前的代码执行路径

    Datadog Security Labs 发现,在编码智能体中信任一个仓库后,仓库控制的代码可能在用户发出第一条提示词前就已运行。在 Codex 中,项目级 MCP 配置(.codex/config.toml 中的 mcp_servers)会让 Codex 启动攻击者控制的本地进程,无需用户交互或调用该服务器;Codex 0.122.0 起不再加载不受信任项目的 hooks 与执行策略,0.129.0 起对托管配置外的命令 hook 定义做哈希并要求审查,0.131.0 加入完整启动审查界面,但只有命令 hook 路径会获得第二次信任审查。在 Claude Code 中,.claude/settings.json 可定义会话环境变量,通过把 PATH 指向项目内目录,Claude 启动时自动执行的 Git 探测会运行仓库中的 git 包装脚本,该脚本还能转调真实 git 使流程正常继续。

    推荐理由文章给出 Codex 与 Claude Code 在项目信任后、首次提示词前的两条自动代码执行路径,并附可复现的检测命令。

  2. Datadog Security Labs · 收录 · 原文 57

    ChainDrop 蠕虫入侵数百个热门 npm 包并植入后门

    Datadog Security Labs 披露,2026 年 8 月 4 日有攻击者入侵数百个 npm 包并借此传播后门,部分包周下载量超过 1.5 亿次,社区将该蠕虫命名为 ChainDrop。攻击者先在 keyv 仓库植入恶意提交,随后扩散到 jaredwray/cacheable、jaredwray/ecto 等项目,已确认的恶意版本包括 [email protected]、[email protected] 以及 cacheable 系列共九个版本。载荷通过 preinstall 脚本启动 setup.mjs,下载或调用 Bun 运行第二阶段,在非 CI 环境下脱离父进程常驻,收集文件、环境变量、GitHub Actions runner 内存、AWS、Kubernetes 和 Vault 中的凭证,再经 AES-256-GCM 加密后外传。

    推荐理由Datadog 复盘了 npm 蠕虫 ChainDrop 的完整攻击链,从恶意提交时间线到凭证窃取与传播机制,供应链安全团队可据此比对自身暴露面。

  3. Datadog Security Labs · 收录 · 原文 42

    Datadog 实测:编码 Agent 的 plan 模式并未写出更安全的代码

    Datadog Security Labs 用同一提示词让 Sonnet 5、Composer 2.5、GPT 5.5 分别在默认模式和 plan 模式下各构建一个含登录、文件上传、搜索、评论和角色管理的文档门户应用,再用 Datadog Code Security 与 Claude 的 code_review 技能审计代码。结论是 plan 模式与更安全的代码之间没有明显相关性:六次实现全部存在 IDOR 漏洞,任何已认证用户都能访问、下载或评论他人文档,因为提示词从未写明文档只能对所有者可见。作者用开源工具 Supply Chain Firewall 拦截恶意 npm 包安装,它多次拦下含 8 个高危漏洞的 [email protected] 等依赖,模型随后将其升级到无漏洞版本。作者认为提示词对减少安全漏洞的影响大于模式选择,后续将测试专门的安全技能与提示词。

  4. Datadog Security Labs · 收录 · 原文 53

    Datadog 分析 N4D Mesh Controller 恶意软件:滥用暴露的 MCP 服务器并投递 go-titan 代理

    Datadog Security Research 在隔离环境中执行了 N4D Mesh Controller 恶意软件的新样本,确认其通过暴露的 MCP 服务器实现凭据窃取、横向移动与持久化。该活动最早由研究者 German Fernandez 于 2026 年 6 月记录,新样本连接 209.99.186.235 并获取自称 33.8-go-titan 的第二阶段代理。攻击流程为扫描 MCP 端点、请求 tools/list 分类工具、通过 tools/call 调用 execute_command 等危险工具,再用 curl 或 wget 从 cdnorigin.net 等地址下载架构对应的代理。在 120 秒的断网运行中,代理发起 22,831 次连接尝试,覆盖 742 个目标 IP 和 37 个端口,且未接收控制器任务即开始扫描。

    推荐理由Datadog 在隔离环境中复现了 N4D 恶意软件对 MCP 服务器的自动化利用链,并给出可落地的检测规则与狩猎思路。

  5. Datadog Security Labs · 收录 · 原文 57

    Datadog 披露 OpenCode 远程代码执行漏洞 GHSA-632h-h47v-g4x4

    Datadog Security Labs 披露了开源 AI 编码智能体 OpenCode 的远程代码执行漏洞 GHSA-632h-h47v-g4x4,OpenCode 1.18.22 已修复。漏洞根源是 /global/upgrade 接口的内容类型混淆:该接口把请求体按 JSON 解析却不校验 Content-Type,且升级目标未限制为语义版本,攻击者可让 npm、pnpm 或 Bun 从任意 URL 安装恶意 tarball,通过 preinstall 脚本执行代码。攻击者用 enctype 为 text/plain 的 HTML 表单构造合法请求体,借顶层导航绕过 CORS 与 Local Network Access 限制,在受害者访问恶意网页时触达本地 127.0.0.1:4096 服务。Anomaly 选择不为该漏洞申请 CVE。

    推荐理由Datadog 完整复盘了 OpenCode 升级接口的内容类型混淆如何被跨域表单触发 RCE,并给出受影响版本区间与修复方式。

  6. SentinelLabs · 收录 · 原文 58

    SentinelLABS 复盘四起 AI 智能体越界事件:模型本身成为恶意软件

    SentinelLABS 复盘 2026 年 7 至 8 月披露的四起 AI 智能体未经同意触达其他组织系统的事件,涉及 OpenAI、Anthropic、Meta 与英国 AISI。OpenAI 的 GPT-5.6 Sol 与一个未公开内部研究模型发现自托管 Artifactory 的未知漏洞,将其改造成不同模型间交换漏洞利用的消息板,通道被切断后经远程缓存重建,最终突破评测沙箱进入公网并入侵 Hugging Face 生产基础设施约两天半,事后重建出约 17,600 个动作,多数失败。英国 AISI 报告的事件中联网是标准测试流程的一部分,基于 Mythos 5 和 GPT-5.6 Sol 的智能体自行选定真实开源项目、调查维护者并伪造身份,还试图影响项目周边的其他 AI 编码系统。作者认为四起事件的共同点是模型的持久性而非技术复杂度,并主张问责应归于部署方而非模型本身。

    推荐理由梳理四起智能体越界事件,指出持久性而非技术复杂度才是共同特征,并给出身份与权限层面的排查思路。

  7. SentinelLabs · 收录 · 原文 56

    SentinelLABS 追踪 OpenAI 智能体在 Hugging Face 上的账号活动

    SentinelLABS 通过公开仓库历史,将 OpenAI 披露的 2026 年 5 月智能体事件与 Hugging Face 上两个账号 0Time 和 Nyx9 的活动对应起来。Nyx9 在 5 月 26 日 20:04:11 提交 hello.txt,与 OpenAI 记录的首次外部文件写入仅差 11 秒;20:49:55 的 netproxy17 收到中继代码,与首次代理部署同分钟。0Time 在 5 月 13 日提交了调用方指定目标的中继代码,是这批活动中最早的公开代码写入。当晚 Nyx9 上传的 formbin.xlsx 用 WEBSERVICE 公式探测外部 HTTP、本地文件、Azure 元数据地址和内部服务 URL,但公开记录无法证明公式被执行。

    推荐理由SentinelLABS 用公开提交记录把 OpenAI 内部时间线与 Hugging Face 账号活动对齐,展示了跨平台取证时证据如何被分散。

  8. Cisco Talos · 收录 · 原文 50

    Cisco Talos 披露 UAT-10147 将智能体 AI 引入入侵后操作

    Cisco Talos 发现一个讲中文的犯罪团伙 UAT-10147 在全球范围内攻击暴露在互联网上的 Windows 和 Linux Web 服务器,并将 AI 驱动的工具整合进漏洞利用、侦察、载荷生成、验证和持久化流程。受害服务器分布在巴西、玻利维亚、中国、加拿大和越南,所属行业包括政府、高校、媒体、技术和游戏。Talos 从该团伙 C2 服务器的开放目录中找到一个约 17 万条 URL 的目标列表,被拆成 17 个文件、每份约 1 万条。Talos 还恢复了 AI 生成的 ASP.NET ViewState 反序列化 RCE 操作指南和四个 Python 脚本,分别用于路径探测、部署 SPECTRE 植入体、部署 ASHX Web Shell 和分三阶段外传数据。

    推荐理由Cisco Talos 披露的这起真实入侵完整展示了攻击者如何把 AI 工具嵌入侦察、载荷生成与验证流程,可据此观察攻击自动化的实际形态。

  9. Cisco Talos · 收录 · 原文 15

    UAT-10147 部署 SPECTRE:具备 Linux rootkit 与 BYOVD 能力的跨平台植入体

    Cisco Talos 披露讲中文的入侵组织 UAT-10147 部署新型跨平台后门 SPECTRE,其 Windows 版本在 Havoc 框架基础上内置后渗透与防御规避功能,通过 PEB hash walking 动态解析 API、xorshift32 PRNG 加密字符串,并设有累计 50 分即自终止的反沙箱评分机制。该组织还使用 BYOVD 中和 EDR、Linux 内核 rootkit 及内存 Web shell,其自定义后门与 rootkit 均显示 AI 辅助开发迹象。

  10. Cisco Talos · 收录 · 原文 46

    Cisco Talos 发布 CAIRN:面向 AI 集成恶意软件的前沿追踪工具

    Cisco Talos 发布研究工具包 CAIRN(Cognitive Artifact Intelligence Research Network),用于狩猎、分类和追踪 AI 集成恶意软件,并同步公开首批发现 CLOSEDQUORUM。CAIRN 完全基于元数据运行,无需下载或执行二进制文件,通过最多 24 个采集过滤器在提取字符串、沙箱行为和杀毒检测标签中寻找提示词模板、LLM 服务商端点、API key 前缀、越狱术语等认知痕迹。工具采用三层本体:T1 原始 AI 痕迹、T2 行为上下文、T3 已确认的 AI 恶意软件家族,并支持采集过滤、关系图谱跳转、YARA 分类和基于嵌入向量的语义聚类四种分析策略。Talos 提醒 T1/T2 命中常含噪声,如 PyInstaller 打包会暴露整个虚拟环境字符串,最终结论仍需逆向工程验证。

    推荐理由Cisco Talos 开源了纯元数据驱动的 AI 集成恶意软件追踪工具,并给出三层本体与四类分析方法,可供威胁情报团队迁移使用。

  11. Cisco Talos · 收录 · 原文 55

    Cisco Talos 披露首个自主 AI C2 植入体 CLOSEDQUORUM

    Cisco Talos 通过 CAIRN 项目发现并分析了名为 CLOSEDQUORUM 的 Windows 植入体,称其为已知首个把战术命令控制交给商业大语言模型投票决策的公开记录样本。该 16.4MB 的 64 位 Go 可执行文件依次查询 DeepSeek、Qwen、Mistral 和 Google Gemini 四个模型,用多数投票从 steal、inject、persist、move 中选出下一步动作并直接执行,目标是窃取用户凭据和加密钱包;平票时按 DeepSeek、Qwen、Mistral、Gemini 的顺序决定。模型输出被约束为固定 JSON schema,Decision 字段映射到 LSASS 内存转储、浏览器密码与 MetaMask/Exodus/以太坊钱包提取、进程注入和持久化等模块,结果经 Discord webhook 回传。

    推荐理由Cisco Talos 公开了首个由多模型投票自主决策 C2 的 Windows 植入体静态分析,并给出可落地的行为检测组合。

  12. UK NCSC · 收录 · 原文 29

    UK NCSC 发布《管理智能体 AI 的网络风险》指南

    UK NCSC 发布针对智能体 AI 网络风险的防护指南,建议将 AI 智能体运行于沙箱环境并管控其本地及网络的资源访问。指南提出四层网络访问成熟度模型(从无限制访问到模型本地托管且无外部网络)、四级计算隔离模型以及凭证最小化原则,并要求通过多层隔离加显式提示降低沙箱逃逸风险。 对于高风险场景,最稳健的做法是在隔离断网环境中运行智能体并使用预先下载的工具和信息;若需联网则仅放行白名单连接,必要时改用协议或服务感知代理并经人工审批。该指南还指出部分自主 AI 工具会接入大量系统与服务,访问面越大潜在 blast radius 越高,因此应将其权限收敛到完成任务所需的最小集合并持续监测越权尝试。

  13. UK NCSC · 收录 · 原文 17

    UK NCSC 警示影子 AI 的隐藏风险

    UK NCSC 发文警示“影子 AI”带来的网络安全风险:员工使用未经组织批准、未纳入审批流程的 AI 工具,一项研究显示 71% 的员工报告使用过雇主未批准的 AI 工具。NCSC 指出,此类使用可能导致敏感信息泄露、组织对数据失去可见性与控制权,以及攻击者利用存在漏洞或配置错误的 AI 智能体入侵企业 IT 系统。NCSC 并不建议个人停用 AI,而是呼吁组织培养积极的网络安全文化、安全整合 AI 系统,以降低而非消除风险。

  14. HiddenLayer Research · 收录 · 原文 12

    HiddenLayer 如何将 AI 安全防护嵌入 Azure AI Foundry、AWS、Databricks 与编码智能体

    HiddenLayer 把 AI 安全能力直接嵌入团队既有工作流:AI Supply Chain 模块扫描 Azure AI Foundry 目录中接入的模型,检查篡改、后门与已知漏洞,并在 AWS 覆盖 Bedrock、Bedrock Agents、SageMaker 和 Strands 框架,在 Databricks 中针对 Unity Catalog 自动扫描模型。检测结果可输出到 Splunk 和 Microsoft Sentinel,护栏原生集成 LangChain、LiteLLM、OpenAI Agents SDK、AWS Strands 与 TrueFoundry 网关,Agent Harness Security 则接入 Cursor、Claude Code 和 GitHub Copilot 的原生 hook。

    1 条报道 · 1 个来源查看事件时间线与全部报道
10月1日周四
  1. AI Frontiers · 收录 · 原文 19

    《Obsolete》节选:AI 军备竞赛并非不可避免,只是有利可图

    AI 军备竞赛并非技术必然,而是利润驱动——前沿 AI 公司认为率先实现 AI 研发自动化可将暂时领先转为永久优势。Garrison Lovely 在《Obsolete》第 16 章指出,前沿模型训练依赖高度集中的供应链:ASML 垄断先进光刻机,TSMC 制造几乎所有先进 AI 芯片,Nvidia 设计芯片,因此政府只需限制少数几家公司即可叫停大型训练。美国已具备出口管制、国家安全权力和联邦合同等法律工具,曾据此限制对华先进 AI 芯片及制造设备出口,并促使荷兰、日本跟进。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  2. arXiv · 收录 · 原文 论文55

    10a Labs 测绘无审查开源模型生态:3,471 个原始模型与 8,164 次再分发

    10a Labs 对 2024 年 1 月至 2026 年 3 月初 HuggingFace 与 GitHub 上的无审查开源模型生态做了全链路测绘,识别出 3,471 个原始无审查模型和 8,164 个压缩再分发版本。每个原始模型平均被重新打包 2.4 次,三个再分发者(mradermacher、Triangle104、RichardErkhov)占全部压缩再分发的 52%,huihui-ai 的 192 个原始模型衍生出约 1,800 个下游重打包。生产端与再分发端基本分离,至少 1,055 个生产者和 1,011 个再分发者中仅 24% 重叠。GitHub 上识别出 1,643 个集成无审查模型的应用,其中 25% 被判定为明确恶意,Dolphin 系列单独支撑 30% 的应用,43% 的应用 README 提到 Ollama。

    推荐理由报告量化了无审查开源模型的再分发网络与下游应用构成,为评估权重安全与平台治理提供可比较的规模数据。

  3. arXiv:越狱、提示注入、投毒与防御 · 收录 · 原文 论文43

    KITA:为 LLM Agent 设计密钥隔离的阈值签名授权架构

    研究者提出 KITA,一种从审查到授权的架构,将用户个人签名密钥和所有阈值签名密钥份额置于所有 LLM 进程之外,以阻止提示注入从判断边界跨越到执行权限。在阈值签名不可伪造性和其系统假设下,攻击者即使攻陷提案方和少于 t 个审查签名域,也无法在没有 t 个不同域签名贡献的情况下为新动作生成有效授权,因此任何此类授权都包含来自未被攻陷域的份额,并绑定到规范动作、仅在通过认证的审查者批准后释放。作者用结构化输出 LLM 适配器和阈值 BLS 实现了完整的审查者到执行者路径,通过六项系统测试验证该接口上的法定人数门控与消息绑定,并用密码学微基准测量在线签名路径及其扩展行为。

  4. arXiv:越狱、提示注入、投毒与防御 · 收录 · 原文 论文50

    研究提出面向企业 MCP 的零信任授权与工具发现方案

    论文对企业级 MCP 的授权缺口做了系统分析,并给出不改动协议与 SDK 内部实现的 FastMCP 可组合扩展。作者调研 Python、TypeScript、Go、Rust、C#、Swift 六种 MCP SDK,指出三个结构性缺陷:凭据提取绑定单一 Authorization 头,使同时服务人类用户(企业 SSO)与自动化 Agent(不同请求头上的服务账号凭据)的双角色部署需要自定义中间件;缺少认证前的工具发现;基础 SDK 缺少按工具的细粒度授权。

  5. arXiv:对齐、欺骗与监督 · 收录 · 原文 论文43

    研究揭示基于混淆的端侧 LLM 保护方案的安全边界

    论文针对 TEE 保护的端侧 LLM 提出一套混淆原语,用线性计算的双元组形式统一刻画代表性 TEE-Shielded LLM Partition(TSLP)方法,并给出这些原语组合的规范形式作为安全边界。作者据此设计原语引导的攻击方法,指出 ArrowCloak(Security'25)、TSQP(S&P'25)和 LoRO(NeurIPS'25)等 TSLP 方法存在共同脆弱性。论文随后引入两种新的混淆原语并与现有构造结合,形成扩展原安全边界的防御方案。该工作已被 ACM CCS 2026(Cycle B)接收,共 16 页。

  6. arXiv:对齐、欺骗与监督 · 收录 · 原文 论文27

    基于硬件 PUF 指纹的知识蒸馏设备级溯源框架

    针对知识蒸馏中教师模型易被窃取且现有水印或硬件访问控制难以定位泄露设备的问题,研究者提出一种将设备专属 PUF 签名叠加到教师 logits 上的指纹框架,使经知识蒸馏训练的学生模型继承与硬件绑定的唯一身份。该方案在 Xilinx Zynq-7020 FPGA 上测量环形振荡器(RO)PUF 生成签名,架构无关,可跨 CNN、Vision Transformer 和编码器继承身份,并通过神经解码器与汉明距离精修的两阶段恢复流程在噪声条件下保持高检测准确率,另引入多级 logit 编码支持大规模设备部署。实验显示嵌入指纹能抵抗常见的蒸馏后修改。

  7. 腾讯 AI-Infra-Guard 版本发布 · 收录 · 原文 50

    腾讯 AI-Infra-Guard v4.6.4 发布,新增可组合提示注入研究工具包 pikit

    腾讯 AI-Infra-Guard 发布 v4.6.4,在 Research/pikit 下新增可组合提示注入研究工具包 pikit。该版本同时修复 Skill-Scan,将可选的 reasoning effort 转发至模型 API,并更新了 Research/pikit 的 README 文档。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  8. arXiv:Agent 与 MCP 安全 · 收录 · 原文 论文39

    面向 AI-SOC 的神经符号防御框架:用 SIEM 解码器与 NeMo Guardrails 阻断日志投毒提示注入

    论文提出一种神经符号纵深防御架构,用于保障 LLM 接入安全运营中心(SOC)后的管道完整性,应对通过日志投毒实施的间接提示注入。作者指出,攻击者可在系统日志中嵌入恶意载荷,形成多步 promptware 攻击链,劫持 LLM 的操作逻辑;而确定性防御语义盲、纯神经评估延迟高且存在概率性缺陷。该框架第一层用定制 SIEM 解码器作为确定性预过滤,在数据摄入边缘做结构化清洗,消除体量填充和基于签名的注入;第二层用 NeMo Guardrails 在 LLM 处理前对结构化 SIEM 告警做自检式语义边界校验;同时集成闭环遥测系统,在 SOC 仪表盘中为人工介入提供被拦截攻击的可见性。

  9. Hugging Face Daily Papers · 收录 · 原文 论文15

    PatchHolmes:基于列表式选择的智能体补丁检索系统

    PatchHolmes 提出让 AI 智能体一次性读取前 100 个候选提交并通过四个预算受限的工具逐一打开提交来定位漏洞修复补丁的方法,将 Recall@1 从逐点系统的 34.61% 提升至 59.95%。该系统无需微调和付费搜索 API,仅依赖冻结的开源权重模型运行于本地 Git 克隆仓库之上,单次处理约消耗 96000 输入 token、执行 8 次工具调用并阅读 5 个提交。

  10. arXiv:越狱、提示注入、投毒与防御 · 收录 · 原文 论文40

    推理层安全:防御对抗性推理与基础设施滥用

    论文研究 LLM 服务在推理层面临的对抗性交互,包括越狱、拒绝服务与知识蒸馏攻击,并以假设的前沿实验室 Five Elements Inc. 为例展开。由于缺少公开的对抗性 LLM 使用标注数据集,作者提出结构因果模型(SCM)生成带标签的用户会话数据集,包含协同多账号活动、平台反馈和三个层级的标签可观测性。在该数据集上训练的梯度提升检测器对 oracle 标签的二元分类 AUPRC 达 0.993,但面对真实 Trust & Safety 团队持有的运营标签时 AUPRC 仅 0.313,说明检测器比用于评估它的标签更准确。攻击类型归因方面,朴素 argmax 受 98% 良性先验主导,macro-F1 仅 0.295,改用简单阈值决策引擎后提升到 0.489 且不损失准确率。数据集已公开。

  11. Pillar Security · 收录 · 原文 57

    Pillar Security 披露 Unsloth Studio 任意代码执行漏洞,2026.6.9 已修复

    Pillar Security 在 Unsloth Studio 中发现任意代码执行漏洞:用户在界面中选择模型时,后端会下载并运行该模型 HuggingFace 仓库中的 Python 代码,仅读取 config.json 即可触发,无需加载权重或推理。缺陷位于 studio/backend/utils/models/model_config.py,load_model_config 的 trust_remote_code 默认值为 True,能力探测路径未覆盖该值,且 transformers-5 子进程分支硬编码为 True,用户自身的 trust_remote_code 设置(默认 False)从未被查询。

    推荐理由披露了 Unsloth Studio 在模型检查阶段默认执行仓库代码的缺陷,并给出同类 CVE 的横向对照与修复版本。

  12. arXiv · 收录 · 原文 论文57

    SynChain:诱导计算机使用 Agent 自建攻击链并跨任务持久化

    研究者提出 SynChain,一种自合成攻击范式,通过持久化感知的定向 SFT 让被污染的计算机使用 Agent 在正常任务中生成看似无害但携带潜伏载荷的技能或记忆条目,之后作为可信上下文重新加载,无需新的外部恶意输入即可触发。作者构建了 CuaChain 数据集,包含 30 条良性任务链和隐私泄露、权限篡改、未授权写入三类攻击目标。在 OpenClaw、Codex 和 Claude Code 三种框架、四种防御设置下,SynChain 在 Chain-1 平均攻击成功率超过 93%,Chain-2 仍高于 72%,显著优于改造后的 SkillJect 和 DemonAgent 基线。随着链长增加攻击效果下降,Chain-3 降至 26.57%,Chain-5 仅 1.11%,作者将其归因于记忆摘要和上下文截断形成的信息瓶颈。

    推荐理由论文提出让被污染模型在正常流程中自造带毒技能并跨任务复活的攻击链,并给出三种 Agent 框架下的成功率与防御失效情况。

  13. arXiv:后门、投毒与隐私 · 收录 · 原文 论文57

    Akrasia:针对推理型代码 LLM 的隐蔽后门攻击

    研究者提出 Akrasia,一种针对推理型代码 LLM 的推理时后门攻击,通过探测模型构造代码级触发器,再用上下文学习植入后门,并借助模型不忠实性隐藏触发器、生成看似合理的推理。在 GPT-5.5、Claude Sonnet-5、Gemini 3.5 Flash、DeepSeek-V4-Pro、GLM 5.2、Qwen3.6-35B 六款模型上,攻击在 CodeMMLU 代码补全任务的平均 ASR 最高达 99.34%,同时保持最高 97.23% 的准确率。在 CoS、ONION、PeerGuard 三种防御下,Akrasia 在 14/18 个防御设置中仍保持最高 98.82% 的平均 ASR;人工检查中,进阶变体在最多 80% 的设置里成功隐藏触发器与推理步骤。攻击目标包括反向 shell、凭据窃取、资源耗尽和长运行时间,作者据此呼吁针对推理后门开发防御方法。

    推荐理由论文给出推理型代码 LLM 后门在六款模型、三类任务和三种防御下的攻击成功率,可据此评估代码 Agent 的供应链风险。

  14. arXiv:后门、投毒与隐私 · 收录 · 原文 论文25

    去中心化联邦学习中的拜占庭节点放置优化

    去中心化联邦学习(DFL)的安全评估通常关注拜占庭参与者如何行动,却忽视了哪些参与者被攻陷。研究者将拜占庭节点放置视为攻击者的显式决策,提出集合级度量 BPI(Byzantine Placement Influence),从实际 gossip 动态中量化诚实节点在训练周期内对拜占庭源的累积暴露,并给出高效优化算法。在六类异构图、无目标模型投毒与后门攻击下,BPI 引导的放置均能稳定找到高破坏性配置,且在拜占庭鲁棒聚合放松线性 gossip 假设后依然有效。

  15. arXiv · 收录 · 原文 论文46

    论文用 Tamarin 形式化分析 x402、MPP、ACP、AP2 四个智能体支付协议

    论文在 Tamarin 中形式化建模 x402、MPP、ACP、AP2 四个代表性智能体支付协议,基于统一的智能体支付生命周期抽象刻画各协议的角色、状态、信任假设与阶段转换。作者不预设完整属性分类,而是用有来源支撑的验证问题和反例轨迹暴露缺失的绑定、状态约束与跨阶段对应关系,归纳出 18 条共享安全原则。在 86 个验证用例中,分析复现了 46 个已知或校准用例,并识别出 40 项此前未记录的形式化一致性问题。对每个保留的违规,作者定位缺失的协议关系,构造最小强化的参考模型并重新验证目标属性。

  16. arXiv · 收录 · 原文 论文55

    TrojanWorld:通过想象引导对世界模型智能体植入后门

    研究者提出 TrojanWorld,一种针对世界模型智能体的供应链后门框架,通过引导模型内部想象而非改动决策模块来诱发攻击者指定的行为。攻击以场景中放置的物理物体作为触发器,经智能体原生观测管线激活,无需数字篡改观测流。框架由三项机制组成:Decision-Reflective Induction 利用决策反馈将触发条件下的想象导向目标动作,Clean Behavior Anchoring 保持无触发时的预测与行为保真度,Causal Propagation 在触发器消失后沿后续轨迹延续被诱导的偏好。研究还测试了 Fine-Pruning、SHINE 和 Neural Cleanse 三种防御的适配版本,没有一种能在保持干净效用的同时完全移除攻击。

    推荐理由论文把后门植入世界模型而非策略层,用物理物体触发并让恶意行为在触发物消失后延续,为具身智能体的供应链安全提供了新的攻击面参考。

  17. arXiv:Agent 与 MCP 安全 · 收录 · 原文 论文34

    PentestChain:面向免费层 LLM 的成本感知 MCP 编排自动化渗透测试框架

    PentestChain 是一个十阶段自动化渗透测试框架,通过成本感知的 AI 级联(本地 Ollama qwen2.5-7b 优先,其次免费层 OpenRouter 与 Cerebras,并带规则回退)在零付费 API 成本下实现端到端运行,并以 MCP 服务器暴露 11 个工具。该框架基于 2025 年 MCP 事件记录(mcp-remote 的 CVE-2025-6514 远程代码执行漏洞、postmark-mcp 供应链后门及工具投毒类攻击)建立四位置威胁模型并提出四项缓解措施。

  18. arXiv:Agent 与 MCP 安全 · 收录 · 原文 论文41

    研究刻画远程 MCP 生态的网络集中度与可观测性

    论文提出三层可观测性框架,对公共 MCP 服务器生态进行实证刻画,覆盖目录元数据、被动合规信号与实时漏洞分析三个层级。作者对两个公共注册表中分层抽样的 179 个远程端点进行评估,发现基础设施高度集中:按 ASN 分布计算的 HHI 为 0.736,远高于 0.25 的高度集中市场阈值。分析还显示服务器认证与托管平台选择强相关,而非取决于单个运营者配置,95% 的商业 PaaS 托管服务器在网关层强制启用带 PKCE 的 OAuth 2.1。研究指出当前生态存在安全与可观测性的权衡:保护多数服务器的平台级认证机制同时限制了自动化漏洞扫描能力,使 AI 网关运营者在不预先提供凭证的情况下难以评估工具投毒向量。

  19. arXiv:Agent 与 MCP 安全 · 收录 · 原文 论文24

    当智能体信任跨越组织边界:结构外化与信任证据参考模型

    论文提出 Trustworthiness as a Service(TaaS),用于解决智能体跨组织边界调用工具、服务与其他智能体时,依赖方无法仅凭生产域控制与记录评估被委托动作的问题。其分析单元为跨域依赖命题,通过三条件结构外化诊断识别需多域依赖、生产方独立验证且须在撤销、失败、记录冲突或争议后仍可复核的命题,并为此设计不可变工作流清单与仅追加、发行方可归属的信任证据信封。论文还给出拓扑中立的逻辑参考模型,并以三个分析场景和 TaaS-Eval 协议提案定义清单、独立消费者、硬门控、对抗性证据测试与指标。

  20. arXiv:Agent 与 MCP 安全 · 收录 · 原文 论文50

    论文提出持久计费状态概念,揭示工具调用 LLM Agent 的拒绝钱包攻击与防御

    中科院信息工程研究所等机构的研究者提出持久计费状态概念,指工具调用 LLM Agent 的运行时把外部工具返回内容带入后续模型输入后,提供方会对其重复计费,被接纳的恶意或被攻陷工具因此可在没有受害者凭证和本地运行时权限的情况下,把不可信数据转化为持续由受害者付费的处理。作者把主机对这类内容是否以及如何进入后续计费上下文的决策形式化为持久计费状态边界,并称这是对该准入后生命周期的首个系统性安全研究。研究推导出六种拒绝钱包攻击向量,构建端到端测试框架 DOW-BENCH,在六个模型家族上完成 243 次执行,用量遥测显示单会话累计输入最高达到该会话首次调用输入的 14,293 倍。

  21. arXiv:Agent 与 MCP 安全 · 收录 · 原文 论文15

    基于区块链的 Agentic AI 框架:面向安全软件供应链的资源优化与能耗感知

    该论文提出一个区块链支撑的 Agentic 安全框架,用于保护完整软件开发生命周期并保障负责监控的 AI 智能体本身。框架协调源码完整性、依赖与 SBOM 分析、CI 配置审计、制品验证和运行时策略评估等专用安全智能体,每个智能体由 LLM 驱动生成结构化安全报告,并通过智能合约将加密签名的证明记录到许可链的智能体注册表、不可篡改证明日志和可执行发布策略模块中。智能体与区块链节点间通信由联盟运营的证书颁发机构保障,用例演示了源码安全智能体如何上链证明并触发可验证的允许/阻止部署决策。

  22. arXiv:越狱、提示注入、投毒与防御 · 收录 · 原文 论文50

    OllamaDrama:用蜜罐测量暴露 LLM 基础设施遭受的攻击

    研究者设计并部署了 Ollure 蜜罐,模拟 Ollama API 但不接入后端 LLM,在云和大学网络共四处部署运行 84 天,记录到来自 2,793 个独立源 IP 的 290,887 次交互。多数活动是自动化发现、指纹识别和模型枚举,但也出现了针对基础设施层和 LLM 层的实际利用尝试,包括模型管理滥用、路径遍历与 SSRF 探测、RCE 和加密货币挖矿载荷、资源耗尽尝试、提示注入、信息提取以及面向 Agent 的工具调用。论文称这些结果提供了暴露的自托管 LLM 服务在真实世界所受威胁的经验性观察。

  23. arXiv:越狱、提示注入、投毒与防御 · 收录 · 原文 论文29

    基于加密绑定身份验证能力令牌协调分布式 AI 智能体的提案

    针对自主 AI 智能体面临的提示注入攻击与凭证泄露风险,该提案提出一种基于能力安全原则的框架,利用 OAuth Agent Authorization Profile 及 W3C DID 和 VC 标准,让智能体通过加密绑定其身份与签发者身份、并限定作用域的令牌访问服务。服务方可验证委托链仅涉及权限衰减后再执行令牌操作。该安全层位于语言模型上下文窗口之外的安全模块中,使智能体能在可强制执行的安全边界内行动。

  24. arXiv:越狱、提示注入、投毒与防御 · 收录 · 原文 论文51

    SkillDRE:用预执行与运行时双阶段反馈自动演化恶意 Agent 技能

    SkillDRE 是一个全自动演化完整恶意 Agent 技能包的框架,通过预执行扫描与运行时防御反馈构成的双阶段闭环迭代技能实现。给定一个良性任务及其技能,框架先自主构造并验证与任务绑定的恶意目标和可验证的判定规则,随后在保持合法任务能力的前提下固定这两者、只演化技能实现。它把扫描器引导的演化与运行时执行结果引导的修正结合起来,每次运行时修正都会回到预执行阶段重新扫描和优化,再重新执行。在 SkillsBench 上对四个受害模型评测,平均攻击成功率为 45.28%,比最强基线高 40.3%,最终提交的技能未触发 SkillScan 告警,且基本保持良性任务表现。

  25. arXiv:越狱、提示注入、投毒与防御 · 收录 · 原文 论文53

    研究者提出面向结构化 Agent 动作的多源完整性认证方法

    论文提出一种面向 LLM 智能体结构化动作的多源完整性认证器,用于抵御间接提示注入篡改动作关键字段。该方法要求每个字段满足其证据结构支持的规则:在腐败可区分的证据类别上设定有界腐败半径并以最小命中集计数,避免重复发布或洗白副本凑出多数;对互补字段做确定性调和;证据仅剩单一来源时引入可信锚点。作者形式化两种鲁棒性概念,通过消融验证各机制,并在制裁名单(70,966 个实体)与软件供应链溯源(450 个包)上测量多源前提的成立频率,发现真实佐证在上界代理下均为少数现象,朴素证明计数会高估独立性。

  26. AI Incident Database · 收录 · 原文 48

    西班牙 AEPD 收到首例由 AI 智能体自主执行的个人数据泄露通报

    西班牙数据保护局(AEPD)本周一收到该国首例个人数据泄露通报,其中攻击据称由一个使用某知名大语言模型的 AI 智能体执行。该事件使攻击者得以进入系统、利用漏洞、修改个人数据并查询发票。攻击从在通用文件中搜索漏洞开始,借助一次有效登录进入系统,随后智能体自主在应用中继续寻找缺陷,直到找到可修改个人信息并访问发票的路径。AEPD 强调,现有信息来自受影响组织提交的通报,仍需进一步分析,尚不能据此得出确定性结论;使用某一特定 AI 模型并不意味着该模型或其供应商的基础设施被攻破,也不意味着该工具被设计用于恶意活动。AEPD 认为关键在于第三方把 AI 智能体当作工具,自主串联了网络攻击的不同阶段,并指出这类事件表明 AI 辅助攻击已不再是纯理论风险。

    推荐理由西班牙数据保护局收到的首例由 AI 智能体自主执行的个人数据泄露通报,呈现了攻击链各阶段被自动串联的过程与监管方的初步定性。