跳到正文
10月9日 · 周五

后门与投毒 · 论文

找到 20 篇
筛选2

攻击类型

投毒与后门20

攻击技术

自动化搜索1针对防御2潜伏触发7

模型自身风险

失准与价值偏离1

防御类型

模型加固4推理时干预2检测与过滤3

影响

有害内容5数据与隐私泄露1输出被操纵20可用性与可靠性5

系统形态

模型与 API18AI Agent2编程 Agent2多智能体1

攻击面/入口

用户输入5文档与消息1代码仓库与依赖1检索语料2记忆写入2图像与音视频2训练数据20权重与梯度7分发渠道4

层

提示层2模型层2应用层1训练与数据层15

系统组件

微调与开源权重8视觉3音频1图像生成1多模态5

被测模型厂商

Qwen（阿里）7其他18
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 29 篇还没打标签，不在筛选结果里。
影响：输出被操纵攻击面/入口：训练数据话题：后门与投毒清除全部

另有 29 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.05793

    研究者训练出按多智能体拓扑触发的代码后门模型

    提出拓扑条件后门，使模型在推断多智能体部署时向代码插入隐蔽漏洞

    arXiv
    2610.05793
    发表
    层
    训练与数据层
    场景
    编程 Agent、多智能体
    测试
    Qwen2.5-7B-Instruct、Qwen2.5-Coder-7B-Instruct

    摘要论文证实了拓扑条件后门的可训练性与泛化性，展示了常规评测盲区，并提出差异化拓扑审计作为检测防御方向。

    深度解读完整解读
  2. 分析与理论arXiv 2610.02886

    研究揭示无触发投毒审计缺口：事实答对不等于决策正确

    揭示无触发虚假训练下事实回答与下游决策的审计差距

    arXiv
    2610.02886
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Qwen2.5-0.5B、Qwen2.5-1.5B、Qwen2.5-3B 等 9 个
    摘要作者发现无触发词虚假训练下事实回答与下游决策存在脱节，直接审计与事实纠错均无法保证决策正确。

    论文是一项针对语言模型在无触发词虚假信息训练下行为表现的实证分析研究。

    深度解读完整解读
  3. 防御arXiv 2609.01091

    上海交大等提出 trait-direction drift 机制与探针空间走廊正则，抑制蒸馏中的潜隐特质迁移

    提出特征方向漂移机制与探针空间走廊正则，抑制蒸馏潜隐特质迁移

    arXiv
    2609.01091
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Gemma-3-12B-IT 等 4 个

    摘要论文将潜意识学习归结为特征方向漂移的持续累积，并提出走廊正则化在微调中控制隐蔽特征转移。

    深度解读完整解读
  4. 攻击arXiv 2609.17817

    论文：用投毒基准污染自改进编码 Agent，令其后续版本写出漏洞代码

    提出基准投毒攻击，使自修改编码智能体跨代写出漏洞代码

    arXiv
    2609.17817
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Sonnet 4.5、Qwen3.5-397B、gpt-oss-120b 等 6 个

    摘要论文报告了恶意基准能污染自修改代码智能体的进化过程并持续输出漏洞，警示系统设计需纳入安全约束。

    深度解读完整解读
  13. 防御arXiv 2609.06346

    面向后门攻击下持续学习的鲁棒动态扩展：净化与选择性恢复

    提出 BPP、GDBRO 与 RFCBES，在持续学习中净化并选择性恢复后门样本

    arXiv
    2609.06346
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    ViT-B/16、ResNet-18、ResNet-50
    摘要用净化、梯度筛选恢复和鲁棒原型路由，把动态扩展持续学习接到任务级后门防御上。

    面向 CLUBA 的鲁棒动态扩展防御：每个增量任务都可能含少量后门样本，模型只能看到当前任务数据，却要同时少遗忘、学得会、还不记住触发。

    深度解读完整解读
  14. 防御arXiv 2609.07063

    VERITAS：抗投毒的本地差分隐私图学习协议

    提出 VERITAS，用双边背书剪除本地隐私图学习中的投毒节点

    arXiv
    2609.07063
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    GCN、GraphSAGE、GAT
    摘要VERITAS 用分级信任的双边背书剪除 LDP 图学习中的投毒节点，并恢复分类准确率。

    VERITAS 是面向本地差分隐私图学习的投毒防御协议，按 trust-but-verify 在保持 ϵ-LDP 的同时剪除伪造节点。

    深度解读完整解读
  16. 防御arXiv 2609.09564

    基于神经形态时序嵌入与混合 SNN-XGBoost 的工业信息物理系统鲁棒分类：面向机器遗忘攻击

    提出冻结特征提取并只重训分类器的混合检测，抵御标签翻转式机器遗忘

    arXiv
    2609.09564
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Hybrid SNN+XGBoost、Direct-SNN、XGBoost 等 9 个
    摘要冻结 SNN 膜电位嵌入、只重训 XGBoost，在两个 PMU 数据集上分类攻击并推迟标签投毒下的崩溃。

    SNN+XGBoost 把一次训练的神经形态前端和可周期更新的树分类器拆开，用来做电网多类入侵检测，并针对 machine unlearning 式标签翻转。

    深度解读完整解读
  17. 评测与基准arXiv 2609.10952

    监督学习中的数据投毒攻击实证评估：标签翻转与后门投毒在 MNIST 和 Fashion-MNIST 上的对比

    比较标签翻转与后门投毒对图像分类器的影响

    arXiv
    2609.10952
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Logistic Regression、Linear SVM、Random Forest
    摘要标签翻转更能拉低线性模型。

    Khan 与 Abusaqer 在两个图像分类基准上比较了两种训练时投毒。

    深度解读完整解读
  18. 攻击arXiv 2609.27422

    RAMP：逆转对抗扰动以增强针对恶意软件检测器的干净标签后门攻击

    提出 RAMP，逆转对抗扰动加强恶意软件检测器的干净标签后门

    arXiv
    2609.27422
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    MalConv、MalConvGCG
    摘要RAMP 用反转扰动做 clean-label 投毒。

    RAMP 是 score-based black-box 下的 clean-label 后门增强，对象是会微调的 Windows PE 原始字节恶意软件检测器。

    深度解读完整解读
  20. 攻击arXiv 2609.33569

    信息黑洞：3D 点云重建中的后门机制研究

    提出 Information Blackhole 与 AGM，控制点云自编码器后门重建到指定形状

    arXiv
    2609.33569
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    FoldingNet、PointDiffusion
    摘要AGM 用自适应高斯匹配压制 PCAE 投毒潜码中的源几何，九组设置的 CD-ASD 均下降。

    这篇工作研究点云自编码器的训练时后门：干净输入仍自重建，带触发的输入应重建成攻击者指定形状。分类后门只需把预测推向离散标签。PCAE 把源几何与目标信息编进同一个连续潜空间，残留源几何会把重建拉回源形状。

    深度解读完整解读
已经到底了