TechCrunch AI、The Verge AI 等 4 个来源TechCrunch AI 等 4 个来源 · 4篇报道 · 微软 Nadella 呼吁 AI 设人类可控紧急刹车
2026年10月11日，微软 CEO Satya Nadella 在 X 发长文并配博文，主张重新审视 AI 信任架构：不能把超级智能当作只能被动接受或拒绝的嵌套黑箱，应把模型与编排其工作的 harness 分离、将控制与护栏外置，为每个有实质影响的模型动作留下防篡改、人类可读的证据，并让授权人员始终能在任务中途暂停或关闭模型。他称必须假定模型已被攻陷并从一开始就加以遏制，就像紧急刹车，并提出模型多样性、持续系统测试、独立控制与可审计性、隔离、事件披露等可观测性原则，主张更先进模型需要更先进的遏制技术并加以标准化。The Decoder 认为其改用「Super Intelligence」措辞有商业策略动因，意在削弱对 OpenAI 和 Anthropic 的信任，微软已在 Office 中用更便宜的自研模型替换。