跳到正文
原文
Microsoft Community Hub·本站收录· 原文发表· 防御 →

Microsoft 如何为 M365 Copilot 构建信任感知控制,差异化处理不可信内容

AI 导读

Microsoft 为 M365 Copilot 加入推理时确定性强制层,在工具输出与主 LLM 之间设信任边界,按确定性信号把内容分为可信与不可信,如组织外部邮件。不可信内容经隔离、能力受限的路径转换为去掉恶意内容、保留有用信息的结构化表示并附加来源标记。该层补充分类器过滤与系统提示加固,但无法阻止每一次间接提示注入。

相关论文
阅读原文techcommunity.microsoft.com