WebSentinel:检测并定位针对网页智能体的提示注入攻击
WebSentinel: Detecting and Localizing Prompt Injection Attacks for Web Agents
AI 导读
研究者提出 WebSentinel,一种在网页中检测并定位提示注入攻击的两步方法,此类攻击通过操纵网页内容诱使网页智能体执行攻击者指定的任务。第一步从网页中提取可能被污染的感兴趣片段,第二步以网页内容为上下文检查各片段是否与其一致,从而判断污染。作者称,在其收集的多个含污染与干净网页的数据集上,WebSentinel 大幅优于基线检测方法。代码开源于 https://github.com/wxl-lxw/WebSentinel。