加州州长纽森提议强制监督前沿AI并赋予州官员关停权
Newsom schlägt verpflichtende Aufsicht über Frontier-KI und Befugnisse zur Abschaltung vor
AI 导读
加州州长纽森2026年11月18日发布立法建议,拟对大型前沿AI模型开发者实施持续独立监督,并授权州官员在模型构成迫在眉睫的灾难性危险或严重失控、开发者拒绝遏制时下令立即关停。建议以加州政府运营署11月16日发布的《AI安全2026及未来》报告为基础,供议员12月复会时参考,目前尚无约束力。开发者须经认可的独立验证机构(IVO)持续审计,维持覆盖算力、智能体、内部访问与部署的风险缓解协议,并测试模型复制权重等关停失败情景;开放权重开发者的义务仅限其控制的部署。多数关键事件上报期限拟从15天缩短至48小时,企图窃取模型权重、失控与未遂事件均须报告,能引发灾难性危险的模型即使训练算力低于10^26也按前沿模型上报。自动化AI研发企业还须按季度报告算力分配,递归自我改进(RSI)拟设可定期复审的预防性上限。
阅读原文