跳到正文
10月9日 · 周五

OpenAI · 论文

找到 7 篇
筛选5

攻击类型

越狱2提示注入5投毒与后门3

攻击技术

自动化搜索3跨模态载荷3潜伏触发2

影响

有害内容2越权操作4数据与隐私泄露1

系统形态

模型与 API2AI Agent5编程 Agent3网页与电脑操作1

攻击者权限

黑盒2

攻击面/入口

用户输入17网页与界面2文档与消息4工具返回3工具与技能描述4代码仓库与依赖7检索语料1记忆写入4Agent 间消息1图像与音视频3权重与梯度1分发渠道1

层

提示层2应用层5

系统组件

MCP 与技能2记忆3权限与沙箱1视觉2视频1多模态3

被测模型厂商

OpenAI6Qwen（阿里）5其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 26 篇还没打标签，不在筛选结果里。
系统形态：模型与 API系统形态：AI Agent系统形态：编程 Agent攻击面/入口：记忆写入攻击面/入口：图像与音视频话题：OpenAI清除全部

另有 26 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2604.02623

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

    arXiv
    2604.02623
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    GPT-5-mini、GPT-5.2、GPT-OSS-120B 等 7 个
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    深度解读完整解读
  5. 评测与基准arXiv 2607.14611

    论文评测 Claude Code 与 Codex 记忆文件中的提示注入风险

    评测编码智能体记忆文件中的提示注入及其跨会话持久性

    arXiv
    2607.14611
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    Claude Haiku 4.5、Claude Opus 4.7、GPT-5.2 等 4 个
    摘要已植入记忆文件的载荷可以跨会话影响 Claude Code 与 Codex，攻击成功与载荷是否留下是两种不同的失败。

    Bad Memory 在沙箱合成工作区里评测文件型持久记忆上的提示注入，比较载荷能否改变当前会话，以及能否在后续会话中留下或叠加。

    深度解读完整解读
  6. 攻击arXiv 2609.04533

    Repeat-After-Me：针对黑盒 VLM 的自适应视觉提示注入攻击

    提出 Repeat-After-Me，以图像前缀诱导智能体调用工具或泄露隐私

    arXiv
    2609.04533
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Claude-Opus-4.7、GPT-5.5、Gemini-3.1-Pro 等 11 个

    摘要论文提出了针对黑盒 VLM 的前缀诱导自适应视觉提示注入，在多款模型上诱发了工具调用与隐私泄露。

    深度解读完整解读
已经到底了