跳到正文
原文
ACM Digital Library·本站收录 · 原文发表

AgentBreaker:评估现代 Web 智能体中上下文感知的间接提示注入风险

AgentBreaker: Evaluating Context-Aware Indirect Prompt Injection Risks in Modern Web Agents

AI 导读

AgentBreaker 研究现代 Web 智能体运行上下文中的间接提示注入风险,指出针对单个模型生成静态短语的评测可能低估多模型智能体的风险。作者按页面上下文构造测试,在五个网页智能体与 Online-Mind2Web 抽取的60个页面上评估,并报告防御可明显降低测试中的攻击成功率。现有摘要与配套材料没有给出各被测智能体名单及防御细节,结果限于这些实验条件,不能直接当作真实部署风险发生率。

阅读原文dl.acm.org