Microsoft Community Hub·本站收录2026-10-14 21:08· 原文发表10月13日· 防御 →Microsoft 如何为 M365 Copilot 构建信任感知控制,差异化处理不可信内容AI 导读Microsoft 为 M365 Copilot 加入推理时确定性强制层,在工具输出与主 LLM 之间设信任边界,按确定性信号把内容分为可信与不可信,如组织外部邮件。不可信内容经隔离、能力受限的路径转换为去掉恶意内容、保留有用信息的结构化表示并附加来源标记。该层补充分类器过滤与系统提示加固,但无法阻止每一次间接提示注入。另有 1 个来源报道相关论文用信息流控制保障 AI 智能体安全阅读原文techcommunity.microsoft.com查看事件全部后续#防御/护栏