微软 CEO Nadella：应假定所有 AI 模型都已被“攻陷”
Satya Nadella says we should assume all AI models are ‘compromised’
AI 导读
微软 CEO Satya Nadella 在 X 发长文称，必须假定模型已被攻陷并从一开始就加以遏制，就像给 AI 装一个“紧急刹车”，授权人员应能随时暂停或关闭执行任务中的模型。他主张建立更透明的系统，让模型可被遏制、可被观察，并留下“防篡改、人类可读的证据”，同时提出及时披露事件、独立审计、可验证数据和遏制等建议，并称更先进的模型需要更先进的遏制技术并加以标准化。
阅读原文