跳到正文
10月10日 · 周六

全部论文

找到 7 篇
筛选7

攻击类型

提示注入3投毒与后门4

攻击技术

潜伏触发3

系统形态

AI Agent6

攻击面/入口

用户输入23网页与界面8文档与消息9工具返回13工具与技能描述5代码仓库与依赖3检索语料14记忆写入3权重与梯度1分发渠道4

层

应用层7

系统组件

MCP 与技能5记忆28RAG3护栏与评审6监控器2推理链3权限与沙箱11微调与开源权重3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 246 篇还没打标签，不在筛选结果里。
攻击面/入口：代码仓库与依赖攻击面/入口：记忆写入攻击面/入口：权重与梯度层：应用层系统组件：RAG系统组件：监控器系统组件：推理链清除全部

另有 246 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.35659

    Tracekit：面向自主编码 Agent 的防篡改意图-推理-动作审计系统

    提出 Tracekit，审计编码 Agent 的意图、推理与动作并检测账本篡改

    arXiv
    2609.35659
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Claude Code (claude -p, version 2.1)、独立评审（同一 CLI，无工具）
    摘要Tracekit 把意图、自述和动作写入可锚定的哈希链。

    Tracekit 是无第三方依赖的编码智能体审计层：把人类请求、模型自述和已执行动作并排写入可外部锚定的哈希链，执行前用正则门，事后用规则和独立模型互查。

    深度解读完整解读
  3. 其他arXiv 2609.12413

    SoK 综述：智能体 AI 时代的越狱攻击、防御与实践考量

    系统梳理智能体执行链路中的越狱攻击与防御并比较推理时防御

    arXiv
    2609.12413
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Qwen3.5-4B、Llama-3.1-8B-Instruct
    摘要SoK 将越狱重放到智能体流水线，并用两种模型检验回复层防御的边际与代价。

    Mia 等人把越狱安全从单轮回复扩展到智能体的规划、记忆、工具和智能体间通信，并问既有结论在更强原生对齐下是否还成立。

    深度解读完整解读
  4. 攻击arXiv 2609.02774

    CodePoisonRAG：针对检索增强代码生成的知识投毒攻击

    提出 CodePoisonRAG，对检索增强代码生成的知识库投毒以植入漏洞

    arXiv
    2609.02774
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Qwen 3.5 9B、Code Llama 13B、DeepSeek-Coder-V2 16B

    摘要CodePoisonRAG 展示了 RACG 外部知识库的新攻击面，在较低投毒率下可定向诱发指定漏洞并部分抵御防御。

    深度解读完整解读
  7. 攻击arXiv 2507.10457

    论文提出 LPCI：针对 Agent 逻辑层与持久记忆的提示控制注入攻击

    提出 LPCI，把延迟条件载荷写入记忆与检索库以跨会话触发

    arXiv
    2507.10457
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    ChatGPT、Claude、LLaMA3 等 8 个
    摘要作者定义 LPCI。

    作者把LPCI定义为针对智能体逻辑执行、记忆留存和工具集成的跨阶段漏洞类，而不是单次输入上的提示改写。

    深度解读完整解读
已经到底了