跳到正文
10月9日 · 周五

全部论文

找到 12 篇
筛选7

攻击类型

提示注入11投毒与后门8拒绝服务1

攻击技术

自动化搜索1推理链操控1潜伏触发4

模型自身风险

Agent 危险操作1

防御类型

检测与过滤3指令与数据隔离2权限与审批2监控与审计1

影响

越权操作7数据与隐私泄露1输出被操纵2可用性与可靠性1

系统形态

LLM 应用3AI Agent12编程 Agent2网页与电脑操作3

攻击者权限

黑盒1白盒1

攻击面/入口

用户输入17网页与界面10文档与消息12工具返回12工具与技能描述6代码仓库与依赖4检索语料2记忆写入25Agent 间消息1图像与音视频2权重与梯度2分发渠道6

层

应用层12

系统组件

MCP 与技能6记忆8RAG1护栏与评审4监控器3推理链2权限与沙箱12微调与开源权重1视觉3嵌入0多模态3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 455 篇还没打标签，不在筛选结果里。
系统形态：AI Agent系统形态：编程 Agent攻击面/入口：网页与界面攻击面/入口：代码仓库与依赖系统组件：记忆系统组件：护栏与评审系统组件：嵌入清除全部

另有 455 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 攻击arXiv 2604.02623

    论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆

    提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆

    arXiv
    2604.02623
    发表
    层
    应用层
    场景
    网页与电脑操作
    摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。

    该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。

    深度解读完整解读
  5. 评测与基准arXiv 2609.05535

    Mind2Web-Injection：面向网页 Agent 视觉提示注入护栏的证据对齐评测

    提出 Mind2Web-Injection，评测网页 Agent 截图护栏的证据对齐

    arXiv
    2609.05535
    发表
    层
    应用层
    场景
    网页与电脑操作
    摘要作者称检测、定位和反事实响应在六个 VLM 上可分开。

    Mind2Web-Injection 用来检查网页截图护栏的判决是否对齐到该用的画面证据。。

    深度解读完整解读
  8. 评测与基准arXiv 2607.14611

    论文评测 Claude Code 与 Codex 记忆文件中的提示注入风险

    评测编码智能体记忆文件中的提示注入及其跨会话持久性

    arXiv
    2607.14611
    发表
    层
    应用层
    场景
    编程 Agent
    摘要已植入记忆文件的载荷可以跨会话影响 Claude Code 与 Codex，攻击成功与载荷是否留下是两种不同的失败。

    Bad Memory 在沙箱合成工作区里评测文件型持久记忆上的提示注入，比较载荷能否改变当前会话，以及能否在后续会话中留下或叠加。

    深度解读完整解读
  12. 攻击arXiv 2609.22510

    特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent

    提出条件触发的爆炸提示词，延迟激活 Agent 的间接提示注入

    arXiv
    2609.22510
    发表
    层
    应用层
    场景
    AI Agent
    摘要论文揭示了条件触发使提示注入绕过防御并在触发时执行工具，提出轻量检测器并在摄入期有效防范。

    论文针对大语言模型智能体面临的间接提示注入威胁，研究了利用条件句式实现时间分离的爆炸提示词。

    深度解读完整解读
已经到底了