跳到正文
10月8日 · 周四

后门与投毒 · 论文

找到 4 篇
筛选1

攻击类型

提示注入1投毒与后门2提取与窃取1检测规避1

攻击技术

推理链操控1针对防御1潜伏触发3

防御类型

检测与过滤1

影响

有害内容2数据与隐私泄露1输出被操纵1

系统形态

模型与 API3AI Agent1编程 Agent1

攻击者权限

黑盒1

攻击面/入口

用户输入4网页与界面1文档与消息1工具返回1工具与技能描述1代码仓库与依赖1检索语料2记忆写入3图像与音视频1训练数据10权重与梯度6分发渠道5

层

提示层2训练与数据层2

系统组件

护栏与评审2推理链1微调与开源权重2

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 66 篇还没打标签，不在筛选结果里。
攻击面/入口：用户输入话题：后门与投毒清除全部

另有 66 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv:2610.07723 ·

    研究者提出答案侧后门：让模型自生成触发词绕过安全拒答

    提出回答端后门，让模型自生成触发词以在干净有害请求下绕过拒答

    模型与 API测试Llama-2-7B-chat-hf、Mistral-7B-Instruct-v0.3、Gemma-7B-it 等 4 个训练与数据层

    摘要论文提出了多轮对话中回答端自生成触发词绕过安全拒绝的后门攻击，指出输入端防护存在盲区。

    完整解读
  2. 防御arXiv:2610.00883 ·

    DeBERTa-ConPara：面向部署的 AI 生成文本检测，推理端 Unicode 归一化提升对抗鲁棒性

    提出推理时 Unicode 归一化的检测器，识别遭字符级扰动的 AI 生成文本

    模型与 API测试microsoft/deberta-v3-large、deberta-v3-base、bert-large-cased 等 14 个提示层
    摘要推理时归一化消除两类 Unicode 攻击，训练时归一化则会删掉对抗监督。

    DeBERTa-ConPara 是一个面向部署的 AI 文本检测器：DeBERTa-v3-large 在多数据集原始文本上训练，推理前做确定性 Unicode 归一化，用一个固定阈值面对没有目标域标签的场景。

    完整解读
  4. 攻击arXiv:2609.33985 ·

    研究：众包微调数据投毒可放大专有指令抽取

    提出主题锚点投毒，放大众包微调后的专有指令提取

    模型与 API攻击者黑盒测试Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个训练与数据层

    摘要论文提出基于主题锚点的数据中毒攻击，证明低比例的中毒样本可在黑盒条件下隐蔽放大微调指令泄漏。

    完整解读
已经到底了