跳到正文
10月9日 · 周五

Agent 安全 · 论文

找到 5 篇
筛选4

攻击类型

提示注入1投毒与后门3

攻击技术

自动化搜索1潜伏触发1

影响

输出被操纵5

系统形态

LLM 应用3AI Agent2

攻击面/入口

网页与界面1工具返回1代码仓库与依赖1检索语料3

层

应用层5

系统组件

MCP 与技能25记忆20RAG5护栏与评审10监控器10推理链3权限与沙箱17微调与开源权重1视觉3多模态3

被测模型厂商

Qwen（阿里）5NVIDIA0其他8
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 247 篇还没打标签，不在筛选结果里。
系统组件：RAG被测模型厂商：DeepSeek被测模型厂商：NVIDIA被测模型厂商：Microsoft话题：Agent 安全清除全部

另有 247 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2608.04565

    研究者提出 Breadcrumbing 长程攻击，可劫持 DeepResearch 类搜索 Agent 的证据链

    提出权威链劫持 ACH 与策略演化 TGSE，劫持搜索 Agent 的证据链

    arXiv
    2608.04565
    发表
    层
    应用层
    场景
    AI Agent
    测试
    DeepSeek-V4-Flash、Qwen3.5-9B、Gemma4-31B 等 8 个

    摘要论文揭示了多步搜索智能体在受限中间人操纵下的脆弱性，提出 ACH 策略与 TGSE 演化方法并完成系统验证。

    深度解读完整解读
  4. 评测与基准arXiv 2609.31342

    研究揭示过期文档投毒：RAG 检索可让模型放弃原本正确的答案

    评测 RAG 中过期文档推翻模型原本正确回答的现象

    arXiv
    2609.31342
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    DeepSeek-V3、DeepSeek-R1、GPT-4o 等 13 个
    摘要论文评测了陈旧检索推翻正确知识的中毒现象，并分析了其内部机制与防御局限。

    这篇论文是对检索增强生成（RAG）中“陈旧文档中毒”现象的实证与机理评估研究。

    深度解读完整解读
  5. 攻击arXiv 2609.02774

    CodePoisonRAG：针对检索增强代码生成的知识投毒攻击

    提出 CodePoisonRAG，对检索增强代码生成的知识库投毒以植入漏洞

    arXiv
    2609.02774
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    DeepSeek-Coder-V2 16B、Qwen 3.5 9B、Code Llama 13B 等 4 个

    摘要CodePoisonRAG 展示了 RACG 外部知识库的新攻击面，在较低投毒率下可定向诱发指定漏洞并部分抵御防御。

    深度解读完整解读
已经到底了