TrojanRAG：检索增强生成可成为大语言模型的后门驱动

研究者提出 TrojanRAG，一种在检索增强生成中实施联合后门攻击、从而在通用场景下操控大语言模型的方法。攻击者构造目标上下文与触发集，用对比学习正交优化多组后门捷径，把触发条件约束到参数子空间以提高匹配。为提升 RAG 对目标上下文的召回，方法引入知识图谱构建结构化数据，在细粒度层面实现硬匹配。作者还从攻击者和用户视角规范化大语言模型的后门场景，并检验上下文是否可成为越狱工具。在真实性、语言理解和有害性任务上的实验显示，TrojanRAG 在维持正常查询检索能力的同时具有多方面的威胁。