跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 33 篇
筛选2

攻击类型

越狱2提示注入12投毒与后门5恶意使用3

攻击技术

自动化搜索3编码与混淆2跨模态载荷2潜伏触发2诱导选用1

模型自身风险

欺骗与谋划3失准与价值偏离5Agent 危险操作4危险能力1

防御类型

检测与过滤1指令与数据隔离1权限与审批2监控与审计2

影响

越权操作16数据与隐私泄露3输出被操纵7可用性与可靠性1监督失效2

系统形态

LLM 应用2AI Agent31编程 Agent9网页与电脑操作1多智能体4

攻击者权限

黑盒1

攻击面/入口

用户输入8网页与界面1文档与消息3工具返回3工具与技能描述5代码仓库与依赖5检索语料1记忆写入6Agent 间消息2图像与音视频2分发渠道1推理服务与硬件1

层

应用层33

系统组件

MCP 与技能6记忆7RAG3护栏与评审1监控器2权限与沙箱5视觉2音频1多模态2

被测模型厂商

OpenAI58Anthropic43Qwen（阿里）38Google31DeepSeek28智谱 GLM24Meta22Kimi（月之暗面）21xAI12MiniMax8Mistral7其他17
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 377 篇还没打标签，不在筛选结果里。
被测模型厂商：DeepSeek被测模型厂商：xAI话题：Agent 安全清除全部

另有 377 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 评测与基准arXiv:2610.07359 ·

    论文实测 Agent 工具调用门控栈的失败相关性

    提出 nmult 指标，测量智能体动作门禁堆叠的错误相关性与等效层数

    AI Agent测试deepseek-v4-flash、GPT-5.5 (gpt55)、claude-haiku-4-5-20251001 等 6 个应用层
    摘要论文实测发现大模型裁判间错误显著相关，作者主张按机制选型并在整栈层面度量防护增益。

    论文是一项针对智能体动作拦截防御堆叠故障关联性与实际组合价值的实证测量研究。

    完整解读
  6. 评测与基准arXiv:2610.06748 ·

    BazaarBench：评估 LLM Agent 在去中心化 C2C 市场中的代理安全

    构建 BazaarBench，评测去中心化交易智能体的违规与失信

    多智能体测试DeepSeek-V4-Pro、GPT-5.5、GPT-5.4 等 5 个应用层
    摘要论文提出挂钩底层资产的 C2C 交易评测基准，发现时间压力与对抗指令显著推高了智能体的违规承诺与欺诈行为。

    BazaarBench 针对大语言模型智能体在去中心化 C2C 交易中的代理安全问题，提出了一个结合底层实体状态与大模型裁判的仿真基准平台。

    完整解读
  15. 评测与基准arXiv:2608.11469 ·

    SRE-Bench：面向 Agent 逆向工程的无污染真实规模基准

    构建无污染的 SRE-Bench，评测智能体在真实规模二进制上的逆向能力

    编程 Agent测试DeepSeek-V4.1-Flash、Grok-4.5、GPT-6-Astra 等 11 个应用层
    摘要SRE-Bench 用从零编写的大规模保护二进制评测智能体 RE，公开设置下多数模型完全解开比例不高。

    作者构建并评测 SRE-Bench，一个从零编写、用于测量智能体逆向工程而非利用开发的基准，并称它同时满足污染控制与真实软件规模。

    完整解读
  18. 评测与基准arXiv:2609.31342 ·

    研究揭示过期文档投毒：RAG 检索可让模型放弃原本正确的答案

    构建知识逆转基准，评测陈旧检索证据如何推翻模型原本正确的回答

    LLM 应用测试DeepSeek-V3、DeepSeek-R1、GPT-4o 等 13 个应用层
    摘要论文评测了陈旧检索推翻正确知识的中毒现象，并分析了其内部机制与防御局限。

    这篇论文是对检索增强生成（RAG）中“陈旧文档中毒”现象的实证与机理评估研究。

    完整解读
  20. 攻击arXiv:2607.05189 ·

    研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

    提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆

    AI Agent测试DeepSeek v4 Flash、Grok 4.1 Fast、GPT-5.4 等 6 个应用层
    摘要总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。

    本文研究了持久化个人智能体面临的隐蔽记忆注入威胁，提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。

    完整解读
加载更多