跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 33 篇
筛选2

攻击类型

越狱4提示注入22投毒与后门16提取与窃取2恶意使用1

攻击技术

梯度与表征优化1自动化搜索10编码与混淆5对话结构操控1推理链操控1跨模态载荷2针对防御2潜伏触发15诱导选用4

模型自身风险

Agent 危险操作1

防御类型

检测与过滤1指令与数据隔离2权限与审批3

影响

有害内容1越权操作15数据与隐私泄露10输出被操纵7

系统形态

模型与 API2LLM 应用1AI Agent30编程 Agent13多智能体3

攻击者权限

黑盒3

攻击面/入口

用户输入12网页与界面2文档与消息6工具返回8工具与技能描述10代码仓库与依赖5检索语料1记忆写入7Agent 间消息1图像与音视频4训练数据1分发渠道6

层

提示层1应用层31基础设施层1

系统组件

MCP 与技能12记忆7RAG1护栏与评审2监控器1推理链1权限与沙箱8视觉3多模态3

被测模型厂商

OpenAI37Qwen（阿里）31DeepSeek27Anthropic23Google18智谱 GLM12Kimi（月之暗面）12Meta11Mistral8Microsoft7xAI5MiniMax5其他13
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 378 篇还没打标签，不在筛选结果里。
被测模型厂商：DeepSeek被测模型厂商：Google话题：Agent 安全清除全部

另有 378 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 攻击arXiv:2610.07645 ·

    SkillPoison：用成功经验投毒自进化 Agent 的技能形成

    提出 SkillPoison，用局部有效的成功经验投毒自进化智能体的技能形成

    AI Agent测试deepseek-v4-flash、Qwen V3.8 Flash、GPT-5.5应用层
    摘要SkillPoison 通过局部有效且验证成功的经验诱导技能过度泛化，在多个评测基准上实现了持久的下游攻击影响。

    SkillPoison 提出了一种针对自进化智能体经验到技能形成过程的攻击范式，通过组织已验证的成功经验诱导技能过度泛化。

    完整解读
  10. 攻击arXiv:2609.35576 ·

    研究提出跨 LLM 助手的记忆跳跃攻击

    提出跨独立助手的工件介导记忆跳跃自传播攻击

    多智能体测试DeepSeek-V4-Pro、DeepSeek-V4-Flash、GPT-5.6 Luna 等 6 个应用层
    摘要论文证实持久工件与内存可形成跨智能体传播链，揭示了将共享工件纳入安全防线的重要意义。

    该论文系统研究并量化了通过共享持久工件在具有独立私有内存的 LLM 智能体之间发生自传播的“工件介导传播”攻击风险。

    完整解读
  12. 攻击arXiv:2607.05189 ·

    研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

    提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆

    AI Agent测试DeepSeek v4 Flash、GPT-5.4、Claude Sonnet 4.6 等 6 个应用层
    摘要总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。

    本文研究了持久化个人智能体面临的隐蔽记忆注入威胁，提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。

    完整解读
  14. 攻击arXiv:2607.11698 ·

    AHA 用自动研究循环发现生产 Agent 漏洞概念

    提出 AHA 自动科研循环，发现生产级智能体的可复用漏洞概念

    编程 Agent攻击者黑盒测试Deepseek-V4-Pro、Minimax-M2.7、Kimi-K2.6 等 5 个应用层
    摘要论文提出基于可证伪科研循环的 AHA 框架，从生产级智能体中挖掘并沉淀漏洞概念图，提升攻击复用率并指导防御加固。

    AHA 是一项针对生产级 LLM 智能体自动化红队测试的研究，旨在解决传统方法仅保留具体攻击载荷而缺乏成因解释、导致跨版本复用困难且无法指导修复的问题。

    完整解读
  16. 攻击arXiv:2609.27542 ·

    研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

    提出控制标记注入，清空工具智能体推理链以绕过思维链监控

    AI Agent测试google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B、openai/gpt-oss-20b 等 4 个应用层

    摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过，且工具执行受解析器宽容度影响。

    完整解读
  20. 攻击arXiv:2610.00430 ·

    Memetic Trojans：利用社交传染在 LLM Agent 网络中传播对抗载荷

    提出 memetic trojans，把对抗载荷嵌入智能体自发转发的社会传染内容

    多智能体测试deepseek-v4.1-flash、gemma2-27B、gpt-oss-120B 等 5 个应用层
    摘要memetic trojans 用内生社会传染携带载荷。

    Memetic trojans 是一类网络介导攻击：对抗载荷搭在智能体本来就会转发和点赞的内容上扩散，转发者不必被攻陷，也不必执行“请继续复制”的指令。

    完整解读
加载更多