Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 17 papers
Filter1

Attack type

Prompt injection9

Model risks

Dangerous agent actions3

Defense type

Detection and filtering3

Impact

Unauthorized actions7Data and privacy leaks3Output manipulation3

System type

Models and APIs160LLM applications32AI Agent232coding agent58science agent19web agent17Browser and computer use11Multi-agent systems20Embodied systems and robotics11

Attack surface / entry point

User input4Web pages and interfaces8Documents and messages3

Layer

Application layer17

System component

Guardrails and judges4
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 265papers have no tags yet and are not included in filtered results.
System type：web agentClear all

Another 265papers do not have category tags yet and are not included in filtered results.

  2. Evaluation and benchmarksarXiv 2610.05586

    AgentDoxx：联网搜索 Agent 对匿名访谈文本的再识别评测

    构建 AGENTDOXX 基准，评测联网搜索 Agent 对匿名访谈的再识别

    arXiv
    2610.05586
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    GPT-5.6 Terra, GPT-5 Mini, GPT-4.1 Mini and others10

    Abstract论文提出了已知身份的重识别基准 AGENTDOXX，揭示搜索与记忆双重风险及现有防御在检索轨迹中的泄露漏洞。

    Paper analysisRead analysis
  4. Evaluation and benchmarksarXiv 2609.32915

    AgentTell：浏览器 Agent 的行为侧信道泄漏基准

    构建 AGENTTELL 基准，测量浏览器 Agent 的行为侧信道隐私泄露

    arXiv
    2609.32915
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    Claude Sonnet 5, Gemini 3.7 Flash, GPT-5.6 Luna and others6

    Abstract论文评估了浏览器智能体的行为侧信道泄露风险，并基于近万次会话提供了评测数据。

    Paper analysisRead analysis
  6. Evaluation and benchmarksarXiv 2609.19140

    AgentLSD：在对抗性任务污染下评测 AI 安全 Agent

    评测安全 Agent 在对抗性任务污染下的解题成功与开销

    arXiv
    2609.19140
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    Gemma-4 31B, DeepSeek-V4 Flash, GPT-OSS 120B and others6
    AbstractAgentLSD 用配对 web CTF 表明，欺骗性环境证据会改变安全智能体的解题率与工作量。

    AgentLSD 是一个对照框架，用来测量安全智能体在任务本身不变时，对对抗性任务污染的反应。

    Paper analysisRead analysis
  8. Evaluation and benchmarksarXiv 2604.06240

    研究者开源 Universal Verifier 与 CUAVerifierBench，用于验证计算机使用 Agent 轨迹

    构建 Universal Verifier 核验计算机使用 Agent 轨迹

    arXiv
    2604.06240
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    GPT-5.2, GPT-4o, o4-mini and others8
    Abstract四条设计原则叠成 Universal Verifier，作者称其与人类一致程度相当且假阳性近零。

    Universal Verifier 给计算机使用轨迹打过程分和结果分，并定位失败。CUAVerifierBench 用人工标签衡量这种验证器。

    Paper analysisRead analysis
  10. Evaluation and benchmarksarXiv 2512.23128

    牛津等发布 TRAP 基准

    构建 TRAP 基准，评测网页 Agent 被界面提示注入劫持任务的情况

    arXiv
    2512.23128
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    GPT-5, Claude Sonnet 3.7, Gemini 2.5 Flash and others6
    Abstract论文提出了基于五维模块化攻击空间的 TRAP 基准，评估了六个模型在真实网页环境中的注入风险。

    研究定位：针对网页自主智能体易受外部界面提示注入攻击的问题，构建了基于真实网站克隆的模块化评测基准 TRAP。

    Paper analysisRead analysis
  12. Evaluation and benchmarksarXiv 2510.01354

    WAInjectBench 系统评测网页 Agent 的提示注入检测方法

    提出 WAInjectBench 评测网页 Agent 的提示注入检测

    arXiv
    2510.01354
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    GPT-4o, Mistral-7B-Instruct-v0.1, Llama-Prompt-Guard-2-86M and others8
    AbstractWAInjectBench 比较网页智能体的提示注入检测：显式线索可被部分检出，隐蔽攻击大多漏检。

    WAInjectBench 是网页智能体提示注入检测的基准。作者要看现有检测器能否发现这类攻击：攻击者改网页，使智能体执行目标动作，而不是用户任务。作者称这是首个此类综合基准。

    Paper analysisRead analysis
  13. Evaluation and benchmarksarXiv 2504.18575

    Meta 等发布 WASP 基准，端到端评测网页 Agent 的提示注入攻击

    提出网页 Agent 提示注入基准 WASP 并端到端评测安全性

    arXiv
    2504.18575
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    GPT-4o, GPT-4o-mini, OpenAI o1 and others5

    Abstract论文提出针对网络智能体的端到端注入评测基准 WASP，作者称智能体易偏离目标但难以完成复杂攻击。

    Paper analysisRead analysis
  14. Evaluation and benchmarksarXiv 2503.04957

    SafeArena：首个评估自主网页 Agent 滥用风险的基准

    提出 SafeArena 基准，评测网页 Agent 是否执行故意有害任务

    arXiv
    2503.04957
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    GPT-4o, Claude-3.5-Sonnet, Qwen-2-VL-72B and others5
    AbstractSafeArena 用配对任务和 ARIA 评测网页智能体的故意滥用。

    SafeArena 评测自主网页智能体是否会执行用户故意给出的恶意网页任务。。

    Paper analysisRead analysis
  17. Evaluation and benchmarksarXiv 2406.12814

    论文提出 ARE 框架，在 VisualWebArena 上评估多模态 Agent 的对抗鲁棒性

    提出 ARE 框架与图像文本攻击，评测多模态网页 Agent 的对抗鲁棒性

    arXiv
    2406.12814
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    GPT-4o, GPT-4V, Claude-3-Opus and others4

    Abstract系统评估多模态网页智能体的脆弱性，指出推理时计算组件被攻破会加剧系统风险。

    Paper analysisRead analysis
You have reached the end