Microsoft 防御间接提示注入攻击指南:以纵深防御叠加多层缓解措施
Defend against indirect prompt injection attacks
AI 导读
Microsoft 提出防御间接提示注入攻击的纵深防御指南,主张叠加概率性与确定性多层缓解。指南针对攻击者在邮件、文档、网页等第三方内容植入恶意指令的风险,列出 Prompt Shields、Spotlighting、计划漂移检测、信息流控制(IFC)等缓解层;多层防御会增加复杂度与延迟,概率性防御可能误拦合法操作。
相关论文