10月8日 · 周四

OpenAI · 论文

找到 5 篇

筛选2

攻击类型

越狱2 提示注入3 投毒与后门2

攻击技术

自动化搜索3 编码与混淆1 跨模态载荷3 潜伏触发2

影响

有害内容2 越权操作3

系统形态

模型与 API2 AI Agent3 编程 Agent2 网页与电脑操作1

攻击者权限

黑盒2

攻击面/入口

用户输入11 网页与界面2 文档与消息1 工具返回1 工具与技能描述2 代码仓库与依赖4 记忆写入3 图像与音视频3 分发渠道1

层

提示层2 应用层3

系统组件

MCP 与技能2 记忆2 权限与沙箱1 视觉2 视频1 多模态3

被测模型厂商

OpenAI5 其他5

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 31 篇还没打标签，不在筛选结果里。

攻击面/入口：工具与技能描述攻击面/入口：图像与音视频话题：OpenAI 清除全部

另有 31 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2608.27531 · 8月27日
MAMJ：面向视觉语言模型的元自适应多模态越狱攻击
提出 MAMJ，在元层面交替优化多模态越狱的策略提示与攻击者权重
模型与 API攻击者黑盒测试GPT-4o、Gemini-3-Pro-Preview、Seed 2.0 等 4 个提示层
完整解读
攻击arXiv:2609.01222 · 9月1日
研究者提出上下文权限提升攻击，12 款 Agent 框架均受影响
提出上下文特权提升攻击，借助记忆、技能与仓库内容操纵编程智能体
编程 Agent测试GPT-5.5、GPT-5.4 mini、Claude-Sonnet-4.6 等 7 个应用层
完整解读
攻击arXiv:2609.04533 · 9月4日
Repeat-After-Me：针对黑盒 VLM 的自适应视觉提示注入攻击
提出 Repeat-After-Me，以图像前缀诱导智能体调用工具或泄露隐私
AI Agent测试Claude-Opus-4.7、GPT-5.5、Gemini-3.1-Pro 等 11 个应用层
摘要论文提出了针对黑盒 VLM 的前缀诱导自适应视觉提示注入，在多款模型上诱发了工具调用与隐私泄露。
完整解读
攻击arXiv:2609.38899 · 9月30日
SceneJail：利用视频场景上下文越狱多模态大模型
提出 SceneJail，利用视频情境上下文越狱视频多模态模型
模型与 API攻击者黑盒测试Qwen2.5-VL-7B-Instruct、Qwen2.5-VL-32B-Instruct、Qwen3-VL-8B-Instruct 等 8 个提示层
完整解读
攻击arXiv:2608.06862 · 8月7日
SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化
提出 SYNCHAIN，以定向微调诱导智能体自合成跨任务潜伏工件
网页与电脑操作编程 Agent测试Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B 等 5 个应用层
摘要论文揭示了 CUA 自合成工件带来的内部供应链威胁，验证了潜伏载荷的跨任务传播能力与防御局限。
完整解读

已经到底了

OpenAI · 论文

攻击类型

攻击技术

影响

系统形态

攻击者权限

攻击面/入口

层

系统组件

被测模型厂商

MAMJ：面向视觉语言模型的元自适应多模态越狱攻击

研究者提出上下文权限提升攻击，12 款 Agent 框架均受影响

Repeat-After-Me：针对黑盒 VLM 的自适应视觉提示注入攻击

SceneJail：利用视频场景上下文越狱多模态大模型

SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化