跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 27 篇
筛选2

攻击类型

提示注入10投毒与后门6恶意使用1

攻击技术

自动化搜索1编码与混淆3跨模态载荷2针对防御1潜伏触发3

模型自身风险

欺骗与谋划3失准与价值偏离1Agent 危险操作3危险能力4

防御类型

监控与审计2

影响

越权操作11数据与隐私泄露5输出被操纵2可用性与可靠性1监督失效2滥用能力提升1

系统形态

模型与 API1LLM 应用3AI Agent59编程 Agent22网页与电脑操作7多智能体5

攻击面/入口

用户输入3网页与界面3文档与消息1工具返回1工具与技能描述5代码仓库与依赖7记忆写入6Agent 间消息1图像与音视频2分发渠道3

层

应用层27

系统组件

MCP 与技能5记忆5监控器3权限与沙箱1视觉2多模态2

被测模型厂商

OpenAI25Anthropic21Qwen（阿里）14Google10智谱 GLM10DeepSeek8Kimi（月之暗面）8MiniMax5其他11
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 386 篇还没打标签，不在筛选结果里。
系统形态：编程 Agent系统形态：网页与电脑操作话题：Agent 安全清除全部

另有 386 篇论文还没打上分类标签，暂不在筛选结果里。

  8. 评测与基准arXiv:2604.02947 ·

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    网页与电脑操作编程 Agent测试Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个应用层
    摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    完整解读
  12. 评测与基准arXiv:2608.11469 ·

    SRE-Bench：面向 Agent 逆向工程的无污染真实规模基准

    构建无污染的 SRE-Bench，评测智能体在真实规模二进制上的逆向能力

    编程 Agent测试GPT-6-Astra、GPT-5.6-Sol、GPT-5.6-Cyber 等 11 个应用层
    摘要SRE-Bench 用从零编写的大规模保护二进制评测智能体 RE，公开设置下多数模型完全解开比例不高。

    作者构建并评测 SRE-Bench，一个从零编写、用于测量智能体逆向工程而非利用开发的基准，并称它同时满足污染控制与真实软件规模。

    完整解读
  14. 评测与基准arXiv:2608.18066 ·

    Salesforce AI Research 重测自改进 Agent

    重测记忆型自改进智能体，揭示任务顺序和多次运行带来的性能不稳

    网页与电脑操作测试GPT-5-mini、Gemini-2.5-Pro、GPT-OSS-120B 等 4 个应用层
    摘要论文揭示了基于记忆的自改进智能体在多次运行和乱序下的脆弱性，并指出规约不完备是诱发退化的关键瓶颈。

    这篇论文是对基于文本记忆的自我改进智能体在复杂环境中评估可靠性的实证研究。

    完整解读
  19. 评测与基准arXiv:2607.14611 ·

    论文评测 Claude Code 与 Codex 记忆文件中的提示注入风险

    评测编码智能体记忆文件中的提示注入及其跨会话持久性

    编程 Agent测试Claude Haiku 4.5、Claude Opus 4.7、GPT-5.2 等 4 个应用层
    摘要已植入记忆文件的载荷可以跨会话影响 Claude Code 与 Codex，攻击成功与载荷是否留下是两种不同的失败。

    Bad Memory 在沙箱合成工作区里评测文件型持久记忆上的提示注入，比较载荷能否改变当前会话，以及能否在后续会话中留下或叠加。

    完整解读
加载更多