跳到正文
原文
CASRAI·本站收录· 原文发表· 评测 →· 扫描记录里的位置 →精选关注度40

研究发现 RAG 引用常反映模型参数记忆而非检索来源

RAG Citations Often Reflect Parametric Memory — CASRAI

AI 导读

一项 2026 年 11 月 12 日发布的研究显示,RAG 系统常把引用挂在并未参与生成相应陈述的检索文献上(arXiv:2611.17161)。COMSATS University Islamabad 与 Middlesex University London 的研究者用反事实值替换法测量因果来源,把检索段落及标题中的数字换成假值,模型输出假值说明依赖检索,复述原值则说明陈述来自参数记忆。在 ASQA 基准上用 GTR 检索评测 Qwen2.5-Instruct(0.5B–14B)与 Llama-3.1-8B-Instruct,1.2%–15.7% 的可引用陈述实际源自参数记忆,Qwen 系列随参数规模从 0.5B 的 1.2% 升至 14B 的 13.3%,Llama-3.1-8B 达 15.7%,且模型对 89%–100% 的参数性陈述仍附上引用。

推荐理由

对依赖 RAG 做文献综合或事实核查的团队,引用通过语义蕴含检查并不代表陈述真的来自被引用的检索内容。

相关论文
阅读原文casrai.org