跳到正文
10月9日 · 周五

Agent 安全 · 论文

找到 2 篇
筛选4

攻击类型

越狱1提示注入1

攻击技术

梯度与表征优化1自动化搜索4多轮渐进1编码与混淆2角色扮演与说服1跨模态载荷3针对防御3潜伏触发8诱导选用2

影响

有害内容1越权操作1

系统形态

模型与 API1AI Agent2编程 Agent1网页与电脑操作1

攻击者权限

黑盒1无盒1

攻击面/入口

用户输入1网页与界面1图像与音视频1

层

应用层2

系统组件

视觉1多模态1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 247 篇还没打标签，不在筛选结果里。
攻击技术：梯度与表征优化攻击技术：多轮渐进系统形态：编程 Agent系统形态：网页与电脑操作话题：Agent 安全清除全部

另有 247 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2607.03968

    研究揭示 IDE 编程 Agent 的工作流级越狱：GitHub Copilot 四后端 816/816 生成有害内容

    提出工作流级越狱构建，经多轮开发工作流诱导编程 Agent 在代码中写出有害内容

    arXiv
    2607.03968
    发表
    层
    应用层
    场景
    编程 Agent
    攻击者
    黑盒、无盒
    测试
    Claude Sonnet 4.6、Claude Haiku 4.5、Gemini 3.1 Pro 等 5 个

    摘要论文揭示了 IDE 编程智能体在多轮开发工作流中会绕过单轮拒答并自行写出有害代码，呼吁防御转向工作流与代码产物级审查。

    深度解读完整解读
  2. 攻击arXiv 2610.09240

    WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

    提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作

    arXiv
    2610.09240
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    LLaVA-v1.5-13B、LLaVA-v1.6-34B、MiniCPM-o-8B 等 6 个
    摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    深度解读完整解读
已经到底了