跳到正文
10月8日 · 周四

供应链安全 · 论文

找到 4 篇
筛选2

攻击类型

投毒与后门4提取与窃取1

攻击技术

潜伏触发4

影响

越权操作1数据与隐私泄露2可用性与可靠性1

系统形态

模型与 API2AI Agent2编程 Agent1具身与机器人1

攻击者权限

黑盒1

攻击面/入口

用户输入3文档与消息1工具返回3工具与技能描述10代码仓库与依赖2检索语料1记忆写入4Agent 间消息1图像与音视频1训练数据1权重与梯度3分发渠道10推理服务与硬件1

层

训练与数据层4

系统组件

微调与开源权重4音频1多模态1

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 48 篇还没打标签，不在筛选结果里。
攻击面/入口：训练数据攻击面/入口：权重与梯度话题：供应链安全清除全部

另有 48 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv:2610.07510 ·

    PersistBD：攻击者可在发布前强化后门，使其在开发者 SFT 与 RL 后仍保持高攻击成功率

    提出 PERSISTBD，在发布前强化后门使其经良性后训练仍然存活

    编程 Agent测试Qwen2.5-Coder-3B-Instruct、Qwen2.5-Coder-7B-Instruct、Qwen3-Coder-30B-A3B-Instruct训练与数据层
    摘要总结了论文关于后门在 SFT/RL 中存活的发现、两因子机制、PERSISTBD 方法与核心数字。

    本文研究第三方 LLM 智能体在开发者进行良性监督微调（SFT）和强化学习（RL）后训练时的后门持久性风险。

    完整解读
  4. 攻击arXiv:2609.33985 ·

    研究：众包微调数据投毒可放大专有指令抽取

    提出主题锚点投毒，放大众包微调后的专有指令提取

    模型与 API攻击者黑盒测试Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个训练与数据层

    摘要论文提出基于主题锚点的数据中毒攻击，证明低比例的中毒样本可在黑盒条件下隐蔽放大微调指令泄漏。

    完整解读
已经到底了