当安全成为漏洞：利用 LLM 对齐同质性实现 RAG 中的可迁移阻断攻击
When Safety Becomes a Vulnerability: Exploiting LLM Alignment Homogeneity for Transferable Blocking in RAG
AI 导读
研究者提出 TabooRAG，一种针对 RAG 系统的可迁移阻断攻击：在代理 RAG 环境中为每个查询优化一篇文档，再迁移到未知目标系统，诱导模型对良性查询拒答。该方法利用安全对齐模型在风险类别与拒答标准上的重叠，作者称之为对齐同质性，不依赖指令注入或对抗后缀。在九个 LLM（含 GPT-5.2、DeepSeek-V4-Pro）和 NQ、MS-MARCO、HotpotQA 三个数据集上，经 Prompt-Guard 过滤后的平均 ASR 为 62.1%，比各设置最强基线平均高 67.3%；针对 Llama-3-8B 优化的文档在 GPT-5.2 上 ASR 达 83.3%。在混合检索、重排序等更强管线及所评估的防御下，攻击仍保持一定成功率。
推荐理由
论文给出跨模型可迁移的 RAG 阻断攻击与九个模型上的成功率，可供部署方评估检索语料投毒带来的可用性风险。