微软 CEO Nadella 呼吁为 AI 系统配备人类可控的“紧急刹车”
Microsoft's Nadella says AI needs an ‘emergency brake’ that humans control
AI 导读
微软 CEO Satya Nadella 称先进 AI 系统应内置隔离机制、独立控制与“紧急刹车”，让授权人员能在模型执行任务中途暂停或关闭它。他提出系统应围绕可观测性原则设计，包括模型多样性、人类可读的行为痕迹、持续系统测试、独立控制与可审计性、隔离以及事件披露，并将前沿闭源与开放权重模型视为内部风险来管理。
阅读原文