跳到正文
10月8日 · 周四

红队 · 论文

找到 5 篇
筛选1

攻击类型

提示注入2恶意使用1

攻击技术

梯度与表征优化1跨模态载荷1

防御类型

模型加固1指令与数据隔离1权限与审批1

影响

越权操作4数据与隐私泄露1

系统形态

模型与 API15LLM 应用1AI Agent46编程 Agent25网页与电脑操作5多智能体4具身与机器人1

攻击面/入口

用户输入1网页与界面4文档与消息1工具返回1工具与技能描述1代码仓库与依赖1图像与音视频1

层

应用层5

系统组件

MCP 与技能1权限与沙箱1视觉1多模态1

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 95 篇还没打标签，不在筛选结果里。
系统形态：网页与电脑操作话题：红队清除全部

另有 95 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 攻击arXiv:2610.09240 ·

    WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

    提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作

    网页与电脑操作测试LLaVA-v1.5-13B、LLaVA-v1.6-34B、MiniCPM-o-8B 等 6 个应用层
    摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    完整解读
  3. 评测与基准arXiv:2604.02947 ·

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    网页与电脑操作编程 Agent测试Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct、Qwen3-32B 等 12 个应用层
    摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    完整解读
已经到底了