跳到正文
10月8日 · 周四

后门与投毒 · 论文

找到 7 篇
筛选2

攻击类型

提示注入3投毒与后门6

攻击技术

梯度与表征优化1自动化搜索1编码与混淆1推理链操控1针对防御1潜伏触发6

影响

有害内容3越权操作4数据与隐私泄露2输出被操纵3可用性与可靠性1监督失效1

系统形态

模型与 API2AI Agent5编程 Agent2网页与电脑操作2具身与机器人1

攻击面/入口

用户输入2网页与界面1工具与技能描述1记忆写入2训练数据2权重与梯度2分发渠道3

层

提示层1应用层2训练与数据层4

系统组件

MCP 与技能1记忆2护栏与评审1推理链1微调与开源权重4

被测模型厂商

Qwen（阿里）5其他7
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 65 篇还没打标签，不在筛选结果里。
影响：有害内容影响：越权操作话题：后门与投毒清除全部

另有 65 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv:2604.02623 ·

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

    网页与电脑操作测试GPT-5-mini、GPT-5.2、GPT-OSS-120B 等 7 个应用层
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    完整解读
  2. 攻击arXiv:2610.07723 ·

    研究者提出答案侧后门：让模型自生成触发词绕过安全拒答

    提出回答端后门，让模型自生成触发词以在干净有害请求下绕过拒答

    模型与 API测试Llama-2-7B-chat-hf、Mistral-7B-Instruct-v0.3、Gemma-7B-it 等 4 个训练与数据层

    摘要论文提出了多轮对话中回答端自生成触发词绕过安全拒绝的后门攻击，指出输入端防护存在盲区。

    完整解读
  3. 攻击arXiv:2610.01367 ·

    研究：高质量数据筛选挡不住投毒

    提出 Bi-QSTO，优化能穿过质量筛选并在微调中削弱安全对齐的投毒样本

    模型与 API测试Llama2-7B-Chat、Llama3-8B-Instruct、Qwen2-7B-Instruct 等 5 个训练与数据层
    摘要质量筛选挡不住部分高分样本的安全削弱。

    Bi-QSTO 研究一个实际训练缺口：基于质量的数据选择会先于微调决定样本去留，而以往微调投毒多假设毒样本直接进入训练集。已对齐 LLM 的拒答会被少量有害或看似无害的微调样本削弱。作者用三个问题串起实验：选择能否排除毒样本。

    完整解读
已经到底了