跳到正文
原文
iThome(台湾)· 李建興·本站收录· 原文发表· 治理 →· 扫描记录里的位置 →

加州拟强化AI安全监管,政府可紧急停用模型并限制研发算力

加州擬強化AI安全監管,政府可緊急停用模型並限制研發算力

AI 导读

美国加州州长Gavin Newsom公布新一轮AI安全监管建议,研议赋予州政府紧急关闭高风险AI模型的权力,并建立限制AI递归式自我改进的机制,相关措施仍须经立法实施。根据《AI Safety in 2026 and Beyond》报告,大型先进AI开发商须事先制定停止智能体运作、撤销系统访问权限等紧急应变措施,若模型可能立即引发灾难性事故或严重失控、业者又无法或拒绝处理且其他措施不足以排除危险,州政府可命令紧急停止相关系统。针对递归式自我改进(RSI),业者须揭露AI参与模型研发的程度及投入自动化研发的算力,若自动化研发进展超过安全措施及评估能力并有灾难性危害的实质风险,州政府将有权限制投入自动化研发的算力比例。报告还建议由独立验证机构持续评估开发商,多数重大事件通报期限拟由现行15天缩短至48小时,迫切灾难性风险事件维持24小时。

阅读原文ithome.com.tw