跳到正文
原文
Microsoft·本站收录· 原文发表日期未标· 防御 →· 扫描记录里的位置 →

Microsoft 防御间接提示注入攻击指南:以纵深防御叠加多层缓解措施

Defend against indirect prompt injection attacks

AI 导读

Microsoft 提出防御间接提示注入攻击的纵深防御指南,主张叠加概率性与确定性多层缓解。指南针对攻击者在邮件、文档、网页等第三方内容植入恶意指令的风险,列出 Prompt Shields、Spotlighting、计划漂移检测、信息流控制(IFC)等缓解层;多层防御会增加复杂度与延迟,概率性防御可能误拦合法操作。

相关论文
阅读原文learn.microsoft.com