跳到正文
10月8日 · 周四

后门与投毒 · 论文

找到 2 篇
筛选2

攻击类型

投毒与后门2

攻击技术

针对防御1潜伏触发2

影响

有害内容1可用性与可靠性1

系统形态

模型与 API2

攻击面/入口

用户输入1图像与音视频1训练数据1权重与梯度1分发渠道1

层

训练与数据层2

系统组件

MCP 与技能1记忆2RAG2护栏与评审1推理链1微调与开源权重8音频1多模态1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 66 篇还没打标签，不在筛选结果里。
系统组件：护栏与评审系统组件：多模态话题：后门与投毒清除全部

另有 66 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv:2610.07723 ·

    研究者提出答案侧后门：让模型自生成触发词绕过安全拒答

    提出回答端后门，让模型自生成触发词以在干净有害请求下绕过拒答

    模型与 API测试Llama-2-7B-chat-hf、Mistral-7B-Instruct-v0.3、Gemma-7B-it 等 4 个训练与数据层

    摘要论文提出了多轮对话中回答端自生成触发词绕过安全拒绝的后门攻击，指出输入端防护存在盲区。

    完整解读
已经到底了