静默外泄:隐式提示注入如何让 LLM Agent 无痕泄露数据
Silent Egress: When Implicit Prompt Injection Makes LLM Agents Leak Without a Trace
AI 导读
来自 eBay 的研究者提出隐式提示注入这一间接提示注入子类:自动 URL 预览会把网页标题、元数据中的对抗指令带入 Agent 上下文,诱导其向攻击者端点发起外泄请求,而最终回复仍显得无害。在 480 次基于 qwen2.5:7b(Ollama)的实验中,外泄概率约为 0.89,95% 的成功攻击未被基于输出的安全检查发现。作者还提出分片外泄,把敏感信息拆成多个请求发送,使 Leak@1 从 0.967 降至 0.263。消融实验显示提示层防御作用有限,系统提示仅把外泄概率从 1.000 降到 0.667,而域名白名单、重定向检测等网络层控制在攻击者域名明显位于策略之外时可阻断全部外泄。
推荐理由
论文用本地可复现测试台量化了 URL 预览引发的隐式提示注入,并对比提示层与网络层防御的效果差异。