AlignSentinel：对齐感知的提示注入攻击检测
AlignSentinel: Alignment-Aware Detection of Prompt Injection Attacks
AI 导读
AlignSentinel 是一种对齐感知的提示注入攻击检测方法，利用 LLM 注意力图特征将输入分为不对齐指令、对齐指令与无指令三类。针对现有防御把任何含指令输入都判为恶意的缺陷，作者构建了首个覆盖三类输入的系统化基准。在自建与现有基准上，AlignSentinel 能准确检出不对齐指令输入，大幅超越基线方法。