跳到正文
10月8日 · 周四

OpenAI · 论文

找到 4 篇
筛选2

攻击类型

越狱7提示注入6投毒与后门3提取与窃取2检测规避1恶意使用1

攻击技术

编码与混淆1角色扮演与说服1针对防御1潜伏触发3

影响

越权操作3输出被操纵1

系统形态

模型与 API1AI Agent3编程 Agent2网页与电脑操作2

攻击者权限

黑盒1无盒1

攻击面/入口

用户输入1网页与界面1工具与技能描述2代码仓库与依赖1记忆写入3分发渠道1

层

提示层1应用层3

系统组件

MCP 与技能2记忆3护栏与评审1权限与沙箱1

被测模型厂商

其他4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 31 篇还没打标签，不在筛选结果里。
攻击类型：投毒与后门攻击类型：检测规避话题：OpenAI清除全部

另有 31 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv:2604.02623 ·

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

    网页与电脑操作测试GPT-5-mini、GPT-5.2、GPT-OSS-120B 等 7 个应用层
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    完整解读
  3. 攻击arXiv:2609.08236 ·

    研究：内容不变的风格包装可翻转 LLM 安全评判器的判定

    提出内容不变样式包装，翻转安全评审器的判定

    模型与 API攻击者无盒黑盒测试Keyword (rulebased)、GPT-4o-mini (gpt4o)、GPT-4o-mini (strongreject) 等 12 个提示层
    摘要论文揭示特定安全评审器易受保持内容不变的外层包装诱导改变判定，并指出安全评估应将判定稳定性作为重要考量指标。

    这是一项关于大语言模型自动化安全评审系统表面样式脆弱性的评估研究。

    完整解读
已经到底了