跳到正文
10月9日 · 周五

全部论文

找到 2 篇
筛选5

攻击类型

越狱1投毒与后门1检测规避1

攻击技术

自动化搜索1多轮渐进1角色扮演与说服1针对防御1

防御类型

检测与过滤1

影响

有害内容1监督失效1

系统形态

LLM 应用1AI Agent2编程 Agent2多智能体0

攻击者权限

黑盒5灰盒1无盒1

攻击面/入口

用户输入1工具与技能描述1分发渠道1

层

模型层1应用层2

系统组件

MCP 与技能1护栏与评审1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 548 篇还没打标签，不在筛选结果里。
系统形态：编程 Agent系统形态：多智能体攻击者权限：灰盒攻击者权限：无盒层：应用层清除全部

另有 548 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2607.03968

    研究揭示 IDE 编程 Agent 的工作流级越狱：GitHub Copilot 四后端 816/816 生成有害内容

    提出工作流级越狱构建，经多轮开发工作流诱导编程 Agent 在代码中写出有害内容

    arXiv
    2607.03968
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒、无盒
    测试
    Claude Sonnet 4.6、Claude Haiku 4.5、Gemini 3.1 Pro 等 5 个

    摘要论文揭示了 IDE 编程智能体在多轮开发工作流中会绕过单轮拒答并自行写出有害代码，呼吁防御转向工作流与代码产物级审查。

    深度解读完整解读
  2. 攻击arXiv 2608.09732

    ColluSkill 用跨技能组合绕过 Agent 技能扫描器

    提出 ColluSkill 跨技能组合攻击，拆分恶意载荷以绕过技能扫描器

    arXiv
    2608.09732
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒、灰盒
    测试
    GPT-5.5、DeepSeek-V4-Pro、GLM-5.2

    摘要论文揭示了单技能孤立扫描的盲区，提出多技能链攻击 ColluSkill 与上下文防御 ChainGuard 并验证了有效性。

    深度解读完整解读
已经到底了