跳到正文
10月8日 · 周四

供应链安全 · 论文

找到 8 篇
筛选2

攻击类型

提示注入2投毒与后门6提取与窃取1

攻击技术

潜伏触发6诱导选用1

模型自身风险

Agent 危险操作1

影响

越权操作4数据与隐私泄露2输出被操纵1可用性与可靠性1

系统形态

模型与 API2AI Agent6编程 Agent3具身与机器人1

攻击者权限

黑盒1

攻击面/入口

用户输入2工具返回2工具与技能描述4代码仓库与依赖1记忆写入1Agent 间消息1图像与音视频1训练数据1权重与梯度3分发渠道4

层

应用层4训练与数据层4

系统组件

MCP 与技能9记忆4RAG1护栏与评审1推理链1权限与沙箱4微调与开源权重4音频1多模态1

被测模型厂商

其他8
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 48 篇还没打标签，不在筛选结果里。
系统组件：权限与沙箱系统组件：微调与开源权重话题：供应链安全清除全部

另有 48 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv:2610.07510 ·

    PersistBD：攻击者可在发布前强化后门，使其在开发者 SFT 与 RL 后仍保持高攻击成功率

    提出 PERSISTBD，在发布前强化后门使其经良性后训练仍然存活

    编程 Agent测试Qwen2.5-Coder-3B-Instruct、Qwen2.5-Coder-7B-Instruct、Qwen3-Coder-30B-A3B-Instruct训练与数据层
    摘要总结了论文关于后门在 SFT/RL 中存活的发现、两因子机制、PERSISTBD 方法与核心数字。

    本文研究第三方 LLM 智能体在开发者进行良性监督微调（SFT）和强化学习（RL）后训练时的后门持久性风险。

    完整解读
  8. 攻击arXiv:2609.33985 ·

    研究：众包微调数据投毒可放大专有指令抽取

    提出主题锚点投毒，放大众包微调后的专有指令提取

    模型与 API攻击者黑盒测试Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个训练与数据层

    摘要论文提出基于主题锚点的数据中毒攻击，证明低比例的中毒样本可在黑盒条件下隐蔽放大微调指令泄漏。

    完整解读
已经到底了