跳到正文
10月9日 · 周五

Agent 安全 · 论文

找到 10 篇
筛选3

攻击类型

提示注入9投毒与后门3拒绝服务1

攻击技术

自动化搜索2编码与混淆1推理链操控1潜伏触发3

模型自身风险

Agent 危险操作1

防御类型

模型加固1检测与过滤1权限与审批1监控与审计2

影响

越权操作4输出被操纵4可用性与可靠性1

系统形态

LLM 应用1AI Agent9编程 Agent1多智能体1

攻击者权限

黑盒1白盒1

攻击面/入口

用户输入14网页与界面13文档与消息10工具返回17工具与技能描述5代码仓库与依赖5检索语料1记忆写入3Agent 间消息3图像与音视频2训练数据1权重与梯度3分发渠道6

层

应用层10

系统组件

MCP 与技能1记忆2护栏与评审2监控器2推理链1权限与沙箱1

被测模型厂商

OpenAI34Qwen（阿里）23Anthropic20DeepSeek17Google16Meta14智谱 GLM8Kimi（月之暗面）6Mistral6xAI6其他16
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 247 篇还没打标签，不在筛选结果里。
攻击面/入口：文档与消息被测模型厂商：Microsoft被测模型厂商：其他话题：Agent 安全清除全部

另有 247 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv 2606.04329

    研究者系统研究 LLM 智能体记忆投毒攻击并提出 MPBench 基准

    系统研究 LLM 智能体记忆投毒并构建基准 MPBench

    arXiv
    2606.04329
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Deberta-v3-base、GPT-OSS-120B、Meta-Llama-3.1-70B-Instruct 等 6 个

    摘要系统研究了智能体记忆投毒风险，揭示了写入渠道漏洞，构建了 MPBench 基准并指出提示注入防御的局限。

    深度解读完整解读
  7. 评测与基准arXiv 2608.28411

    LongPIBench：面向长上下文提示注入的评测基准

    提出 LongPIBench，评测长文档场景下的提示注入攻击与防御

    arXiv
    2608.28411
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Apertus-8B-Instruct、Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct 等 11 个

    摘要论文构建长文本提示注入基准 LongPIBench，揭示启发式与优化攻击在长文档中的高有效性及现有防御的大幅失效。

    深度解读完整解读
  8. 攻击arXiv 2609.22510

    特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent

    提出条件触发的爆炸提示词，延迟激活 Agent 的间接提示注入

    arXiv
    2609.22510
    发表
    层
    应用层
    场景
    AI Agent
    测试
    GitHub Copilot、Devin AI CLI、Llama-3.1-8B-Instruct 等 14 个
    摘要论文揭示了条件触发使提示注入绕过防御并在触发时执行工具，提出轻量检测器并在摄入期有效防范。

    论文针对大语言模型智能体面临的间接提示注入威胁，研究了利用条件句式实现时间分离的爆炸提示词。

    深度解读完整解读
  9. 评测与基准arXiv 2609.28915

    研究提出 ACE 语料库，评估内核级证据对 Agent 安全检测的有效性

    构建 ACE 语料并比较内核与应用层证据的攻击检测效果

    arXiv
    2609.28915
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    AdaBoost、XGBoost、TabPFN 等 13 个
    摘要ACE 用配对的内核与应用层证据表明，syscall 痕迹可判别智能体攻击，两层组合通常更好。

    ACE 是一份把智能体会话的内核 syscall 痕迹与应用层清单、转录配对起来的检测语料和基准。。

    深度解读完整解读
已经到底了