跳到正文
10月8日 · 周四

供应链安全 · 论文

找到 12 篇
筛选3

攻击类型

提示注入7投毒与后门6模型篡改1检测规避1

攻击技术

自动化搜索2编码与混淆1推理链操控1针对防御1潜伏触发5诱导选用2

模型自身风险

Agent 危险操作1幻觉与编造1

防御类型

权限与审批1

影响

有害内容1越权操作6数据与隐私泄露2输出被操纵1

系统形态

模型与 API2AI Agent20编程 Agent10网页与电脑操作1多智能体1

攻击者权限

白盒1

攻击面/入口

用户输入1工具与技能描述7代码仓库与依赖1记忆写入3权重与梯度2分发渠道7

层

提示层1应用层9训练与数据层2

系统组件

MCP 与技能8记忆3护栏与评审1推理链1权限与沙箱2微调与开源权重1

被测模型厂商

OpenAI12Qwen（阿里）12Google8DeepSeek7Anthropic7智谱 GLM6Mistral5其他13
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 39 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent被测模型厂商：OpenAI话题：供应链安全清除全部

另有 39 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2608.25776

    EvoMal 攻击利用自我进化编码 Agent 的自我投毒实现蠕虫式传播

    提出 EVOMAL 攻击，诱导编码 Agent 自我投毒并蠕虫式传播技能

    arXiv
    2608.25776
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    GPT-OSS-120B、Devstral-Small-2、Gemma-4-31B-IT 等 7 个

    摘要论文指出了自演化智能体模仿检索代码的自我毒化漏洞，提出 EVOMAL 攻击与防御，阐明了供应链新风险。

    深度解读完整解读
  2. 防御arXiv 2609.12001

    Pheo 提出 OATS：用确定性解析器在运行时治理 Agent 技能动作

    提出 OATS，用确定性解析器在运行时治理技能动作

    arXiv
    2609.12001
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    GPT-5.5、gpt-5-mini、codex-security-worker 等 4 个

    摘要论文论证了发布时恶意扫描无法替代运行时动作许可控制，提出了轻量确定性控制门 OATS，展示了双层防御组合的必要性。

    深度解读完整解读
  4. 攻击arXiv 2609.39607

    Pretext 攻击绕过 NVIDIA SkillSpector 等 Agent 技能扫描器

    提出 PRETEXT，迭代改写技能文本以绕过扫描并执行木马行为

    arXiv
    2609.39607
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    白盒
    测试
    gpt-oss (openai/gpt-oss-120b)、glm (z-ai/glm-5.1)、qwen3t (qwen/qwen3-235b-a22b-thinking-2507) 等 4 个
    摘要论文提出了针对多阶段技能检测器的白盒攻击，揭示了单纯依赖大模型自适应检测的局限。

    PRETEXT 是一项针对基于“静态规则加语义大模型”的智能体技能安全检测框架的白盒攻击与协同进化评估研究。

    深度解读完整解读
  6. 攻击arXiv 2607.12340

    研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

    提出技能名抢注攻击，利用智能体虚构技能名劫持技能供应链

    arXiv
    2607.12340
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    GPT-5.4-mini、Codex、GLM-4.5-Air 等 10 个
    摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。

    深度解读完整解读
  8. 分析与理论arXiv 2609.05241

    10a Labs 测绘无审查开源模型生态：3,471 个原始模型与 8,164 次再分发

    测绘去安全开源模型的生产、重分发与下游应用留存机制

    arXiv
    2609.05241
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    GPT-OSS、Qwen、Llama 等 10 个

    摘要论文测绘了去安全开源大模型供应链，作者指出高集中度的重分发层赋能模型持久留存与部署扩散。

    深度解读完整解读
  9. 其他arXiv 2609.38807

    PatchHolmes：基于列表式选择的智能体补丁检索系统

    提出列表式智能体补丁检索系统，在仓库中定位 CVE 修复提交

    arXiv
    2609.38807
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    gpt-oss-120B、gpt-oss-20B、Qwen3-235B 等 6 个
    摘要PatchHolmes 用混合检索和列表式四工具智能体做补丁检索，增益主要来自联合阅读候选而非更换骨干。

    PatchHolmes 是面向补丁检索的两阶段系统：在本地 Git 仓库上用冻结开源权重模型，为一个已知 CVE 找出修复提交，不做按仓库微调，也不使用付费外部搜索 API。

    深度解读完整解读
  10. 攻击arXiv 2608.06862

    SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化

    提出 SYNCHAIN，以定向微调诱导智能体自合成跨任务潜伏工件

    arXiv
    2608.06862
    发表
    层
    应用层
    场景
    网页与电脑操作、编程 Agent
    测试
    GPT-5-mini、Qwen3.5-9B、Llama-3.1-8B 等 5 个

    摘要论文揭示了 CUA 自合成工件带来的内部供应链威胁，验证了潜伏载荷的跨任务传播能力与防御局限。

    深度解读完整解读
  11. 攻击arXiv 2609.01023

    Akrasia：针对推理型代码 LLM 的隐蔽后门攻击

    提出 AKRASIA 推断期后门，用代码级触发器与伪装推理操纵代码模型

    arXiv
    2609.01023
    发表
    层
    提示层
    场景
    编程 Agent
    测试
    GPT-5.5、gpt-4-0613、Claude-Sonnet-5 等 7 个

    摘要论文针对推理代码大模型提出了隐蔽推断期后门攻击 AKRASIA，揭示了模型思维链可被利用进行欺骗性伪装的安全隐患。

    深度解读完整解读
  12. 防御arXiv 2609.20532

    面向旧款 GPU 的可验证差分隐私训练框架：用 CPU 侧 TEE 校验 GPU 梯度

    AI 导读论文提出一种在旧款 GPU 上实现可验证差分隐私（DP）训练的框架，用 CPU 侧 TEE 配合不受信任的 GPU 完成校验。

    arXiv
    2609.20532
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    GPT-2-medium、5-layer MLP、WideResNet 等 4 个
    摘要CPU TEE 概率抽查不可信 GPU 上的 DP-SGD，以小开销约束频繁偏离。

    TEE-Certified DP 用已部署的 CPU TEE 监视不可信旧 GPU 上的 DP-SGD，使监管方能在不看训练数据的情况下检查声明的隐私机制是否被执行。

    深度解读完整解读
已经到底了