事实正确却立场单一：检索增强生成中的立场投毒与证据均衡
Factual Yet One-Sided: Stance Poisoning and Evidence Balancing in Retrieval-Augmented Generation
AI 导读
研究者提出针对检索增强生成（RAG）系统的立场投毒攻击：向检索语料注入事实正确但在争议议题上立场单一的文档，即可使生成结果偏向投毒立场。在注入后 ProCon 文档的主题级平均投毒占比达 18.9% 时，不同厂商的四个生成模型均出现与投毒方向一致的立场偏移，且偏移随四种集中度单调增大。论文同时提出位于检索器与生成器之间的 Stance-Balancing Middleware，由立场检测、固定均衡（2 支持、2 反对、1 中立）与去偏提示词组成，不引入额外大语言模型调用，在八个集中度-方向设置中将立场偏差幅度估计降低 0.106 至 0.350，其中投毒占比 11.9%-18.9% 的六个设置经 Holm 校正后仍显著（adjusted p <= 0.009）。