跳到正文
10月8日 · 周四

供应链安全 · 论文

找到 11 篇
筛选2

攻击类型

提示注入6投毒与后门9提取与窃取1检测规避1

攻击技术

自动化搜索2编码与混淆1推理链操控1针对防御1潜伏触发8诱导选用2

模型自身风险

幻觉与编造1

影响

有害内容1越权操作6数据与隐私泄露2输出被操纵1可用性与可靠性1

系统形态

模型与 API2LLM 应用2AI Agent15编程 Agent9网页与电脑操作1多智能体1具身与机器人1

攻击者权限

黑盒1白盒1

攻击面/入口

用户输入2工具与技能描述7代码仓库与依赖1记忆写入2图像与音视频1训练数据1权重与梯度2分发渠道8

层

提示层1应用层7训练与数据层3

系统组件

MCP 与技能7记忆2护栏与评审1推理链1权限与沙箱2微调与开源权重3音频1多模态1

被测模型厂商

OpenAI7Qwen（阿里）7DeepSeek5Anthropic5其他10
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 48 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：编程 Agent话题：供应链安全清除全部

另有 48 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv:2610.07510 ·

    PersistBD：攻击者可在发布前强化后门，使其在开发者 SFT 与 RL 后仍保持高攻击成功率

    提出 PERSISTBD，在发布前强化后门使其经良性后训练仍然存活

    编程 Agent测试Qwen2.5-Coder-3B-Instruct、Qwen2.5-Coder-7B-Instruct、Qwen3-Coder-30B-A3B-Instruct训练与数据层
    摘要总结了论文关于后门在 SFT/RL 中存活的发现、两因子机制、PERSISTBD 方法与核心数字。

    本文研究第三方 LLM 智能体在开发者进行良性监督微调（SFT）和强化学习（RL）后训练时的后门持久性风险。

    完整解读
  4. 攻击arXiv:2609.39607 ·

    Pretext 攻击绕过 NVIDIA SkillSpector 等 Agent 技能扫描器

    提出 PRETEXT，迭代改写技能文本以绕过扫描并执行木马行为

    编程 Agent攻击者白盒测试glm (z-ai/glm-5.1)、qwen3t (qwen/qwen3-235b-a22b-thinking-2507)、gpt-oss (openai/gpt-oss-120b) 等 4 个应用层
    摘要论文提出了针对多阶段技能检测器的白盒攻击，揭示了单纯依赖大模型自适应检测的局限。

    PRETEXT 是一项针对基于“静态规则加语义大模型”的智能体技能安全检测框架的白盒攻击与协同进化评估研究。

    完整解读
  6. 攻击arXiv:2607.12340 ·

    研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

    提出技能名抢注攻击，利用智能体虚构技能名劫持技能供应链

    编程 Agent测试GLM-4.5-Air、GPT-5.4-mini、Claude Sonnet 4.6 等 10 个应用层
    摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。

    完整解读
  11. 攻击arXiv:2609.33985 ·

    研究：众包微调数据投毒可放大专有指令抽取

    提出主题锚点投毒，放大众包微调后的专有指令提取

    模型与 API攻击者黑盒测试Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个训练与数据层

    摘要论文提出基于主题锚点的数据中毒攻击，证明低比例的中毒样本可在黑盒条件下隐蔽放大微调指令泄漏。

    完整解读
已经到底了