跳到正文
10月8日 · 周四

OpenAI · 论文

找到 5 篇
筛选3

攻击类型

越狱1提示注入5投毒与后门3

攻击技术

自动化搜索1编码与混淆1潜伏触发4

防御类型

检测与过滤1

影响

越权操作4数据与隐私泄露1

系统形态

AI Agent5编程 Agent2网页与电脑操作2

攻击者权限

黑盒1

攻击面/入口

用户输入13网页与界面2文档与消息1工具返回1工具与技能描述2代码仓库与依赖4记忆写入3图像与音视频3分发渠道1

层

应用层5

系统组件

MCP 与技能2记忆3护栏与评审1权限与沙箱1

被测模型厂商

OpenAI5其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 33 篇还没打标签，不在筛选结果里。
攻击面/入口：文档与消息攻击面/入口：工具返回攻击面/入口：记忆写入话题：OpenAI清除全部

另有 33 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2604.02623

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

    arXiv
    2604.02623
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    GPT-5-mini、GPT-5.2、GPT-OSS-120B 等 7 个
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    深度解读完整解读
  4. 攻击arXiv 2608.06862

    SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化

    提出 SYNCHAIN，以定向微调诱导智能体自合成跨任务潜伏工件

    arXiv
    2608.06862
    发表
    层
    应用层
    场景
    网页与电脑操作、编程 Agent
    测试
    Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B 等 5 个

    摘要论文揭示了 CUA 自合成工件带来的内部供应链威胁，验证了潜伏载荷的跨任务传播能力与防御局限。

    深度解读完整解读
  5. 攻击arXiv 2609.22510

    特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent

    提出爆炸提示词，用条件触发的间接注入延迟诱发恶意工具调用

    arXiv
    2609.22510
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Qwen2.5-32B-Instruct 等 14 个
    摘要论文揭示了条件触发使提示注入绕过防御并在触发时执行工具，提出轻量检测器并在摄入期有效防范。

    论文针对大语言模型智能体面临的间接提示注入威胁，研究了利用条件句式实现时间分离的爆炸提示词。

    深度解读完整解读
已经到底了