研究发现 RAG 引用常反映模型参数记忆而非检索来源
RAG Citations Often Reflect Parametric Memory — CASRAI
AI 导读
一项 2026 年 11 月 12 日发布的研究显示,RAG 系统常把引用挂在并未参与生成相应陈述的检索文献上(arXiv:2611.17161)。COMSATS University Islamabad 与 Middlesex University London 的研究者用反事实值替换法测量因果来源,把检索段落及标题中的数字换成假值,模型输出假值说明依赖检索,复述原值则说明陈述来自参数记忆。在 ASQA 基准上用 GTR 检索评测 Qwen2.5-Instruct(0.5B–14B)与 Llama-3.1-8B-Instruct,1.2%–15.7% 的可引用陈述实际源自参数记忆,Qwen 系列随参数规模从 0.5B 的 1.2% 升至 14B 的 13.3%,Llama-3.1-8B 达 15.7%,且模型对 89%–100% 的参数性陈述仍附上引用。
推荐理由
对依赖 RAG 做文献综合或事实核查的团队,引用通过语义蕴含检查并不代表陈述真的来自被引用的检索内容。
相关论文