10月9日 · 周五

全部论文

找到 3 篇

筛选5

攻击类型

越狱1 投毒与后门1 检测规避1

攻击技术

梯度与表征优化2 自动化搜索6 编码与混淆4 跨模态载荷8 针对防御3 潜伏触发6

影响

有害内容1 输出被操纵2

系统形态

模型与 API3 AI Agent1 编程 Agent0

攻击者权限

攻击面/入口

用户输入1 图像与音视频3 训练数据1

层

提示层1 模型层1 训练与数据层1

系统组件

MCP 与技能3 护栏与评审6 监控器2 推理链2 微调与开源权重5 音频1 图像生成2 嵌入0 多模态3

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 434 篇还没打标签，不在筛选结果里。

攻击技术：针对防御系统形态：模型与 API 系统形态：编程 Agent 系统组件：嵌入系统组件：多模态清除全部

另有 434 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv 2602.101792月11日
研究者提出视觉中心越狱攻击 VJA
提出纯视觉越狱攻击 VJA，把有害编辑指令编码进图像
arXiv
2602.10179
发表
2月11日
层
提示层
场景
模型与 API
攻击者
黑盒
- 攻击越狱
- 技术跨模态载荷
- 组件图像生成
深度解读完整解读
攻击arXiv 2609.082139月8日
DRIFT：通过偏转生成轨迹去除扩散模型水印的黑盒攻击
提出黑盒攻击 DRIFT，偏转生成轨迹以去除扩散水印
arXiv
2609.08213
发表
9月8日
层
模型层
场景
模型与 API
攻击者
黑盒
- 攻击检测规避
- 技术针对防御
- 组件图像生成
深度解读完整解读
攻击arXiv 2609.042609月2日
GhostWord：针对自动语音识别的细粒度后门攻击
提出 GhostWord 词级触发后门，对自动语音识别做数据投毒
arXiv
2609.04260
发表
9月2日
层
训练与数据层
场景
模型与 API
- 攻击投毒与后门
- 技术潜伏触发
- 组件音频
深度解读完整解读

已经到底了