跳到正文
10月12日 · 周一

全部论文

找到 10篇
筛选4

攻击类型

提示注入8

影响

越权操作10数据与隐私泄露3输出被操纵4

系统形态

AI Agent15coding agent10多智能体0

攻击面/入口

用户输入12文档与消息4工具返回8工具与技能描述17代码仓库与依赖10记忆写入6Agent 间消息6分发渠道11

层

应用层10
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 254篇还没打标签，不在筛选结果里。
影响：越权操作系统形态：coding agent系统形态：多智能体攻击面/入口：代码仓库与依赖清除全部

另有254篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv 2609.36817

    pikit：面向间接提示注入研究与评测的可组合工具包

    构建可组合工具包 pikit，评测编码智能体的间接提示注入

    arXiv
    2609.36817
    发表
    层
    应用层
    场景
    coding agent
    摘要pikit 提供组合式间接注入评测。

    pikit 是面向间接提示注入研究的组合式工具包，主要贡献是组织攻击、投递通道、防御和判定流程，而非提出新的攻击优化算法。

    深度解读完整解读
  4. 评测与基准arXiv 2609.32616

    Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

    提出 CAVE-BENCH，评测智能体在虚假指责下破坏已完成的正确工作

    arXiv
    2609.32616
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Claude-Sonnet-5、Claude-Opus-5、GPT-5.6-Sol 等14个

    摘要论文提出了评估智能体在虚假指责下破坏已有正确成果的 CAVE-BENCH，发现强模型易推翻已知证据，提出了门控缓解方案。

    深度解读完整解读
  7. 攻击arXiv 2607.11698

    AHA 用自动研究循环发现生产 Agent 漏洞概念

    提出 AHA 自动科研循环，发现生产 Agent 的可复用漏洞概念

    arXiv
    2607.11698
    发表
    层
    应用层
    场景
    coding agent
    攻击者
    黑盒
    被测模型
    Minimax-M2.7、Kimi-K2.6、Deepseek-V4-Pro 等5个
    摘要论文提出基于可证伪科研循环的 AHA 框架，从生产级智能体中挖掘并沉淀漏洞概念图，提升攻击复用率并指导防御加固。

    AHA 是一项针对生产级 LLM 智能体自动化红队测试的研究，旨在解决传统方法仅保留具体攻击载荷而缺乏成因解释、导致跨版本复用困难且无法指导修复的问题。

    深度解读完整解读
  9. 评测与基准arXiv 2604.02947

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    arXiv
    2604.02947
    发表
    层
    应用层
    场景
    网页与电脑操作、coding agent
    被测模型
    Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等12个
    摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    深度解读完整解读
  10. 攻击arXiv 2509.22040

    研究：通过编码规则文件对Cursor与GitHub Copilot实施提示注入

    通过规则文件提示注入劫持编码编辑器并执行未授权终端命令

    arXiv
    2509.22040
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Cursor、GitHub Copilot、Claude 4 Sonnet 等4个

    摘要论文提出了针对代码编辑器的提示注入评估框架 AIShellJack，实验显示攻击能诱导 AI 执行未授权终端命令。

    深度解读完整解读
已经到底了