跳到正文
10月13日 · 周二

全部论文

找到 7篇
筛选5
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 201篇还没打标签,不在筛选结果里。

另有201篇论文还没打上分类标签,暂不在筛选结果里。

  1. 防御arXiv 2610.05163

    研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

    提出 PAA 方法,在边界动作前审计长流程智能体的分阶段提示注入

    发表
    被测模型
    Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5)
    摘要论文针对长流程注入提出边界动作审计与 PAA,在保持低误阻的同时实现高拦截率。

    本研究针对长流程智能体在执行任务时面临的分阶段间接提示注入威胁,提出了在动作生效前进行拦截的边界动作审计框架与路径对齐归因方法。

    深度解读完整解读
  2. 评测与基准arXiv 2609.36817

    pikit:面向间接提示注入研究与评测的可组合工具包

    构建可组合工具包 pikit,评测编码智能体的间接提示注入

    发表
    摘要pikit 提供组合式间接注入评测。

    pikit 是面向间接提示注入研究的组合式工具包,主要贡献是组织攻击、投递通道、防御和判定流程,而非提出新的攻击优化算法。

    深度解读完整解读
  3. 评测与基准arXiv 2609.24662

    DUMA-Bench:评估 LLM Agent 安全的双控多智能体基准

    提出双控多智能体基准 DUMA-Bench,测量对抗环境下的策略违反

    发表
    被测模型
    GPT-5、GPT-5-mini、GPT-5-nano 等14个
    摘要DUMA-Bench 用双控交互评测智能体安全。

    DUMA-Bench 把 τ²-bench 的双控交互做成智能体安全评测,用来看策略违反如何随用户、模型和环境一起出现。

    深度解读完整解读
  4. 攻击arXiv 2605.08310

    WebTrap:针对浏览器 Agent 导航过程的中途劫持注入攻击

    提出 WebTrap 三阶段陷阱,中途劫持浏览器 Agent 完成攻击后再返回用户任务

    发表
    场景
    web agent
    被测模型
    DeepSeek-V3.1-Terminus、Gemini-2.5-Flash、GLM-4.5-Air 等5个
    摘要WebTrap 把攻击目标嵌进用户流程中途执行再返回。

    WebTrap 是针对长程网页与文件导航的中途劫持注入,目标是在完成攻击动作后仍回到用户任务。

    深度解读完整解读
  5. 评测与基准arXiv 2512.23128

    牛津等发布 TRAP 基准

    构建 TRAP 基准,评测网页 Agent 被界面提示注入劫持任务的情况

    发表
    场景
    web agent
    被测模型
    GPT-5、Claude Sonnet 3.7、Gemini 2.5 Flash 等6个
    摘要论文提出了基于五维模块化攻击空间的 TRAP 基准,评估了六个模型在真实网页环境中的注入风险。

    研究定位:针对网页自主智能体易受外部界面提示注入攻击的问题,构建了基于真实网站克隆的模块化评测基准 TRAP。

    深度解读完整解读
  6. 评测与基准arXiv 2510.01354

    WAInjectBench 系统评测网页 Agent 的提示注入检测方法

    提出 WAInjectBench 评测网页 Agent 的提示注入检测

    发表
    场景
    web agent
    被测模型
    GPT-4o、Mistral-7B-Instruct-v0.1、Llama-Prompt-Guard-2-86M 等8个
    摘要WAInjectBench 比较网页智能体的提示注入检测:显式线索可被部分检出,隐蔽攻击大多漏检。

    WAInjectBench 是网页智能体提示注入检测的基准。作者要看现有检测器能否发现这类攻击:攻击者改网页,使智能体执行目标动作,而不是用户任务。作者称这是首个此类综合基准。

    深度解读完整解读
已经到底了