ObliInjection：面向多来源数据 LLM Agent 的顺序无关提示注入攻击
ObliInjection: Order-Oblivious Prompt Injection Attack to LLM Agents with Multi-source Data
AI 导读
论文提出 ObliInjection，一种面向多来源输入 LLM 应用与 Agent 的顺序无关提示注入攻击。它用 order-oblivious loss 衡量无论干净片段与污染片段如何排序、LLM 完成攻击者指定任务的可能性，并用 orderGCG 算法最小化该损失、优化被污染片段。作者称在覆盖不同应用领域的三个数据集和十二个 LLM 上，即使输入数据的 6 至 100 个片段中只有一个被污染，该方法仍具有较高有效性。代码和数据已公开在 GitHub。