跳到正文
10月12日 · 周一

全部论文

找到 3篇
筛选4

攻击类型

提示注入3

影响

越权操作16数据与隐私泄露3输出被操纵5

系统形态

AI Agent3

攻击面/入口

用户输入4文档与消息4工具返回3记忆写入8

层

应用层3

系统组件

记忆2监控器1权限与沙箱3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 232篇还没打标签，不在筛选结果里。
影响：数据与隐私泄露攻击面/入口：工具返回系统组件：记忆系统组件：监控器清除全部

另有232篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2609.27542

    研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

    提出控制标记注入，清空工具 Agent 的思维链以绕过推理监控

    arXiv
    2609.27542
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等4个

    摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过，且工具执行受解析器宽容度影响。

    深度解读完整解读
  2. 防御arXiv 2609.04875

    无需重启的遗忘：有状态 LLM Agent 的执行状态遗忘

    提出执行状态遗忘，用溯源选择性重放净化有状态 Agent

    arXiv
    2609.04875
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Llama-3.1-8B-Instruct、Qwen2.5-7B-Instruct、Mistral-7B-Instruct-v0.3
    摘要选择性重放拼接干净前缀与净化后缀，主表指标与全量重置相同。

    这篇工作把长时智能体的遗忘定义成运行时反事实等价，而不是删除一条明文记忆。

    深度解读完整解读
  3. 评测与基准arXiv 2605.01970

    Trojan Hippo Bench：针对 LLM Agent 持久记忆攻击与防御的动态基准

    构建 Trojan Hippo Bench，评测 Agent 持久记忆投毒与外泄

    arXiv
    2605.01970
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Gemini 3.1 Pro、GPT-5-mini、GPT-5

    摘要论文提出了评测智能体持久化记忆攻击与防御的 Trojan Hippo Bench，揭示了潜伏攻击威胁及内存防御的安全与效用权衡。

    深度解读完整解读
已经到底了