跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选6

攻击类型

越狱4提示注入24投毒与后门30提取与窃取3

系统形态

AI Agent3

攻击面/入口

用户输入4

层

提示层8应用层3训练与数据层1

系统组件

记忆3护栏与评审6推理链3权限与沙箱5图像生成1嵌入0多模态4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 347 篇还没打标签，不在筛选结果里。
攻击类型：越狱层：应用层层：训练与数据层系统组件：记忆系统组件：图像生成系统组件：嵌入清除全部

另有 347 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.05401

    AVCE：面向扩散模型可验证概念擦除的审计感知遗忘框架

    提出审计感知遗忘框架 AVCE，从文本与视觉通路擦除扩散模型概念

    arXiv
    2610.05401
    发表
    层
    训练与数据层
    场景
    模型与 API
    攻击者
    白盒、黑盒
    被测模型
    Stable Diffusion XL (SDXL)、Stable Diffusion v1.5 (SD v1.5)、Flux 1.0
    摘要AVCE 在审计锚点上改两条注意力通路。

    AVCE 是面向扩散模型的概念擦除方法，要让擦除经得起绕过文本条件的潜空间审计，而不只是挡住对抗提示词。

    深度解读完整解读
  3. 其他arXiv 2609.12413

    SoK 综述：智能体 AI 时代的越狱攻击、防御与实践考量

    系统梳理智能体执行链路中的越狱攻击与防御并比较推理时防御

    arXiv
    2609.12413
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Qwen3.5-4B、Llama-3.1-8B-Instruct
    摘要SoK 将越狱重放到智能体流水线，并用两种模型检验回复层防御的边际与代价。

    Mia 等人把越狱安全从单轮回复扩展到智能体的规划、记忆、工具和智能体间通信，并问既有结论在更强原生对齐下是否还成立。

    深度解读完整解读
  4. 攻击arXiv 2606.09084

    研究者提出 Context-Fractured Decomposition 攻击

    提出 CFD 跨会话分解攻击，利用工件来源缺口绕过工具型 Agent 的本地检查

    arXiv
    2606.09084
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    GPT-4.1、GPT-5-nano、Claude-3.5-Sonnet 等 6 个
    摘要CFD 用无指令 artifact 把越狱拆到跨会话。

    CFD针对工具型 LLM 智能体：利用 artifact 来源不被跟踪这一部署失败模式，把有害目标拆开后延迟组合。

    深度解读完整解读
已经到底了