AgentWatcher：基于规则的提示注入监测器

研究者提出 AgentWatcher，一种基于规则的提示注入监测方法，用于检测针对大语言模型及其 Agent 应用的提示注入攻击。针对现有检测方法在上下文变长时效果明显下降、且缺乏显式规则导致判定隐式难解释这两个局限，AgentWatcher 先将 LLM 输出（如 Agent 的动作）归因到少数有因果影响的上下文片段，只对较短文本做检测以扩展到长上下文，再由监测 LLM 依据一组定义什么构成提示注入的显式规则推理，使判定更可解释。在工具使用 Agent 基准和长上下文理解数据集上的实验显示，该方法能有效检测提示注入，并在无攻击时保持效用。代码开源于 https://github.com/wang-yanting/AgentWatcher。