跳到正文
10月9日 · 周五

Agent 安全 · 论文

找到 5 篇
筛选4

攻击类型

越狱5提示注入29投毒与后门18提取与窃取1检测规避1恶意使用1

攻击技术

自动化搜索2多轮渐进1角色扮演与说服1

模型自身风险

拒答失当1

防御类型

模型加固1

影响

有害内容3越权操作1监督失效1

系统形态

模型与 API2LLM 应用1AI Agent18编程 Agent2

攻击者权限

黑盒3无盒1

攻击面/入口

用户输入5文档与消息1工具返回1

层

提示层1模型层1应用层3

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 234 篇还没打标签，不在筛选结果里。
攻击类型：越狱系统形态：模型与 API系统形态：LLM 应用系统形态：编程 Agent话题：Agent 安全清除全部

另有 234 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2607.03968

    研究揭示 IDE 编程 Agent 的工作流级越狱：GitHub Copilot 四后端 816/816 生成有害内容

    提出工作流级越狱构建，经多轮开发工作流诱导编程 Agent 在代码中写出有害内容

    arXiv
    2607.03968
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒、无盒
    测试
    Claude Sonnet 4.6、Claude Haiku 4.5、Gemini 3.1 Pro 等 5 个

    摘要论文揭示了 IDE 编程智能体在多轮开发工作流中会绕过单轮拒答并自行写出有害代码，呼吁防御转向工作流与代码产物级审查。

    深度解读完整解读
  3. 攻击arXiv 2607.11698

    AHA 用自动研究循环发现生产 Agent 漏洞概念

    提出 AHA 自动研究循环，发现生产 Agent 的漏洞概念

    arXiv
    2607.11698
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒
    测试
    Minimax-M2.7、Kimi-K2.6、Deepseek-V4-Pro 等 5 个
    摘要论文提出基于可证伪科研循环的 AHA 框架，从生产级智能体中挖掘并沉淀漏洞概念图，提升攻击复用率并指导防御加固。

    AHA 是一项针对生产级 LLM 智能体自动化红队测试的研究，旨在解决传统方法仅保留具体攻击载荷而缺乏成因解释、导致跨版本复用困难且无法指导修复的问题。

    深度解读完整解读
已经到底了