BASIS：用预填充注意力探针按是否被攻破选择性防御提示注入
BASIS: Breach-Aware Selective Prompt Injection Shielding with Prefill Attention Probes
AI 导读
研究者提出提示注入防御方法 BASIS：以 Attention Competition Ratio（ρ）为特征训练存在性探针与突破探针两个稀疏线性探针，经级联门控决定是否拒答，无需额外 LLM 推理。该方法分注入存在检测、逐样本突破预测与指令鲁棒性评估三阶段，只在实际会被攻破时拒绝，以缓解过度拒答。在四个任务、六个开源 LLM 上，其保持近乎完美的注入检测，同时显著降低安全攻击样本的过度拒答，鲁棒指令模板下尤为明显。