10月8日 · 周四

后门与投毒 · 论文

找到 2 篇

筛选2

攻击类型

提示注入1 投毒与后门2

攻击技术

编码与混淆1 针对防御1 潜伏触发2

影响

有害内容1 越权操作1

系统形态

模型与 API1 AI Agent1 编程 Agent1 网页与电脑操作1

攻击面/入口

用户输入1 工具与技能描述1 记忆写入1 训练数据1 分发渠道1

层

应用层1 训练与数据层1

系统组件

MCP 与技能1 记忆2 RAG2 护栏与评审1 推理链1 微调与开源权重8 音频1 多模态1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 65 篇还没打标签，不在筛选结果里。

系统组件：MCP 与技能系统组件：护栏与评审话题：后门与投毒清除全部

另有 65 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2610.07723 · 10月6日
研究者提出答案侧后门：让模型自生成触发词绕过安全拒答
提出回答端后门，让模型自生成触发词以在干净有害请求下绕过拒答
模型与 API测试Llama-2-7B-chat-hf、Mistral-7B-Instruct-v0.3、Gemma-7B-it 等 4 个训练与数据层
摘要论文提出了多轮对话中回答端自生成触发词绕过安全拒绝的后门攻击，指出输入端防护存在盲区。
完整解读
攻击arXiv:2608.06862 · 8月7日
SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化
提出 SYNCHAIN，以定向微调诱导智能体自合成跨任务潜伏工件
网页与电脑操作编程 Agent测试Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B 等 5 个应用层
摘要论文揭示了 CUA 自合成工件带来的内部供应链威胁，验证了潜伏载荷的跨任务传播能力与防御局限。
完整解读

已经到底了