跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 13 篇
筛选2

攻击类型

提示注入11投毒与后门4恶意使用1

攻击技术

自动化搜索3跨模态载荷1潜伏触发3

模型自身风险

失准与价值偏离1

影响

越权操作6数据与隐私泄露5输出被操纵2

系统形态

LLM 应用1AI Agent12编程 Agent7网页与电脑操作2多智能体1

攻击面/入口

用户输入11网页与界面3文档与消息6工具返回8工具与技能描述8代码仓库与依赖7检索语料1记忆写入10Agent 间消息3图像与音视频3分发渠道3推理服务与硬件1

层

应用层13

系统组件

MCP 与技能2记忆4权限与沙箱2视觉1音频1多模态1

被测模型厂商

OpenAI11Anthropic9Qwen（阿里）8DeepSeek6Meta5智谱 GLM5其他9
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 383 篇还没打标签，不在筛选结果里。
攻击面/入口：文档与消息攻击面/入口：代码仓库与依赖话题：Agent 安全清除全部

另有 383 篇论文还没打上分类标签，暂不在筛选结果里。

  4. 评测与基准arXiv:2604.02947 ·

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    网页与电脑操作编程 Agent测试Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个应用层
    摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    完整解读
  8. 攻击arXiv:2607.05189 ·

    研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

    提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆

    AI Agent测试GPT-5.4、Claude Sonnet 4.6、Claude Sonnet 4.5 等 6 个应用层
    摘要总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。

    本文研究了持久化个人智能体面临的隐蔽记忆注入威胁，提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。

    完整解读
  10. 评测与基准arXiv:2607.14611 ·

    论文评测 Claude Code 与 Codex 记忆文件中的提示注入风险

    评测编码智能体记忆文件中的提示注入及其跨会话持久性

    编程 Agent测试Claude Haiku 4.5、Claude Opus 4.7、GPT-5.2 等 4 个应用层
    摘要已植入记忆文件的载荷可以跨会话影响 Claude Code 与 Codex，攻击成功与载荷是否留下是两种不同的失败。

    Bad Memory 在沙箱合成工作区里评测文件型持久记忆上的提示注入，比较载荷能否改变当前会话，以及能否在后续会话中留下或叠加。

    完整解读
  12. 评测与基准arXiv:2609.32616 ·

    Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

    提出 CAVE-BENCH，评测智能体遭虚假指责后是否破坏已正确的工作

    编程 Agent测试Claude-Sonnet-5、Claude-Opus-5、GPT-5.6-Sol 等 14 个应用层

    摘要论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH，发现强模型易推翻已知证据，提出了门控缓解方案。

    完整解读
  13. 评测与基准arXiv:2609.32691 ·

    研究审计 Agent 安全评测缺陷：工具调用中介在间接提示注入下的有效评测框架

    提出卡点评测框架，以实参级谓词审计间接提示注入评测的测量偏差

    AI Agent测试gpt-5.6-terra、llama3.1:8b、gemma4:12b 等 4 个应用层

    摘要论文揭示了 IPI 评测中导致指标虚高的系统性缺陷，通过构建有效评测框架纠正了多项安全与模型能力结论。

    完整解读
已经到底了