跳到正文
10月9日 · 周五

全部论文

找到 2 篇
筛选5

攻击类型

提示注入1

模型自身风险

Agent 危险操作1

防御类型

推理时干预1检测与过滤1权限与审批1监控与审计6

影响

越权操作1

系统形态

模型与 API6LLM 应用3AI Agent10编程 Agent0网页与电脑操作1多智能体1

攻击面/入口

网页与界面1图像与音视频1

层

应用层2

系统组件

护栏与评审1权限与沙箱1视觉1多模态1

被测模型厂商

其他2
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 548 篇还没打标签，不在筛选结果里。
防御类型：检测与过滤防御类型：权限与审批系统形态：编程 Agent系统形态：网页与电脑操作系统形态：多智能体清除全部

另有 548 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.05535

    Mind2Web-Injection：面向网页 Agent 视觉提示注入护栏的证据对齐评测

    提出 Mind2Web-Injection，评测网页 Agent 截图护栏的证据对齐

    arXiv
    2609.05535
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    GPT-5.6-luna、Qwen3-VL-32B、Qwen3-VL-8B 等 6 个
    摘要作者称检测、定位和反事实响应在六个 VLM 上可分开。

    Mind2Web-Injection 用来检查网页截图护栏的判决是否对齐到该用的画面证据。。

    深度解读完整解读
  2. 评测与基准arXiv 2608.07556

    MasDrift：跨多智能体架构的授权保持基准

    用 MasDrift 评测多智能体架构的授权保持

    arXiv
    2608.07556
    发表
    层
    应用层
    场景
    多智能体
    测试
    DeepSeek V4 Flash、Qwen3.7 Plus、GPT-5.4 Nano 等 6 个
    摘要授权保持可被测量：层级用未授权动作换完成率，重锚定比沿链携带更稳。

    MasDrift 把多智能体设计中的授权保持做成可测量性质，对象是没有攻击者的普通委托。

    深度解读完整解读
已经到底了