10月9日 · 周五

全部论文

找到 1 篇

筛选7

攻击类型

投毒与后门1

攻击技术

针对防御1 潜伏触发1

影响

系统形态

模型与 API1 AI Agent1 编程 Agent0 网页与电脑操作0

攻击面/入口

用户输入28 网页与界面1 工具返回2 工具与技能描述2 图像与音视频8 训练数据1 权重与梯度0 分发渠道1 推理服务与硬件1

层

训练与数据层1

系统组件

MCP 与技能1 记忆1 护栏与评审1 监控器1 推理链2 微调与开源权重35 视觉6 音频3 视频1 图像生成5 嵌入0 多模态15

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 444 篇还没打标签，不在筛选结果里。

系统形态：模型与 API 系统形态：编程 Agent 系统形态：网页与电脑操作攻击面/入口：训练数据攻击面/入口：权重与梯度系统组件：护栏与评审系统组件：嵌入清除全部

另有 444 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv 2610.0772310月6日
研究者提出答案侧后门：让模型自生成触发词绕过安全拒答
提出回答端后门，让模型自生成触发词以在干净有害请求下绕过拒答
arXiv
2610.07723
发表
10月6日
层
训练与数据层
场景
模型与 API
- 攻击投毒与后门
- 技术潜伏触发
- 组件微调与开源权重
摘要论文提出了多轮对话中回答端自生成触发词绕过安全拒绝的后门攻击，指出输入端防护存在盲区。
深度解读完整解读

已经到底了