跳到正文
原文
Хабр·本站收录· 原文发表

LLM外围防护:AI网关如何降低泄露与提示注入风险

AI 导读

一篇技术指南讲解如何围绕 LLM 搭建 AI 网关,作为所有模型调用的统一入口,靠多层检查降低数据泄露与提示注入风险。网关被拆成七个环节,入站做脱敏与注入检测并按数据类别选择模型,出站检查泄露并用工具白名单约束智能体可执行的动作。文章引用 AgentDojo 在 GPT-4o 上的测试,工具白名单让约 7% 攻击通过,注入检测器比例相近,却把无攻击下的任务完成率从 69% 压低到 41%。部署上把规则和小分类器放 CPU、把大 guard 模型放 GPU,并给出延迟与租用价格参考;还比较了俄罗斯与西方产品,并梳理 FSTEC 第 117 号令等监管要求。

相关论文
阅读原文habr.com