EmoRAG 研究揭示 RAG 检索对表情符号扰动的脆弱性
EmoRAG: Evaluating RAG Robustness to Symbolic Perturbations
AI 导读
论文提出 EmoRAG，指出检索增强生成（RAG）系统对细微符号扰动高度敏感：在查询中注入单个表情符号 token（如 (@_@)），几乎 100% 会检索到含相同表情符号但语义无关的文本。研究覆盖通用问答与代码领域，使用多种 SOTA 检索器与生成器，得到三点发现：单个表情符号注入即可主导 RAG 输出；表情符号置于查询开头时扰动最严重，各数据集 F1 超过 0.92；参数量更大的模型反而更易受干扰。作者分析了背后机制，提出对抗者利用该漏洞操纵 RAG 的威胁场景，评估现有标准防御并认为其不足以应对 EmoRAG，进而提出针对性防御并分析其优劣，最后给出构建鲁棒 RAG 系统的未来方向。该论文已被 KDD 2026 接收。