Some text is shown in its original language while the English translation is being prepared.
arXiv· arXiv:2601.07072· Hongyan Chang, Ergute Bao, Xinjian Luo, Ting Yu·Indexed by this site · Originally publishedDate not givenSelectedAttention58 跨越检索门槛：真实场景中针对 LLM 系统的间接提示注入
Overcoming the Retrieval Barrier: Indirect Prompt Injection in the Wild for LLM Systems
AI reading guide
论文提出把注入文本拆成保证检索的触发片段与承载攻击目标的攻击片段，用黑盒 CEM 算法构造触发片段，只需嵌入模型 API，在 OpenAI 嵌入模型上每次目标查询成本低至 0.21 美元，在 11 个检索基准和 8 个嵌入模型上实现接近 100% 的检索率。作者称这是首个在自然查询与真实语料下完成端到端验证的间接提示注入攻击：一封投毒邮件即可让 GPT-4o 在多 Agent 工作流中泄露 SSH 密钥，成功率超过 80%。对查询改写、困惑度过滤和 token 掩码三种防御的评估显示，它们都不足以阻止恶意文本被检索。
Deep readingGenerating
Why it was selected
论文把间接提示注入的瓶颈定位在检索环节，并给出只需黑盒 API 的触发片段构造方法，可用来评估 RAG 与 Agent 系统的检索面风险。
Read originalarxiv.org