加州与犹他州推进AI第三方评估制度建设

犹他州商务部下设的 AI 政策办公室已与六家独立机构签署协议，对在该州 AI Learning Laboratory 中测试 AI 的公司进行独立审查，避免仅依赖企业自报的绩效。协议分三类：临床与技术评估可在试点获批前检查临床错误、不安全行为与隐私保障，并在试点运行期间抽样审计 AI 实际活动；评估者网络允许机构从合作项目中认定第三方评估者；运行时存证要求企业每次执行指定安全检查时生成防篡改数字回执，回执只证明检查已运行，不代表 AI 安全或企业守法。被评估企业直接向评估者付费，州政府不承担评估费用，存证回执对企业免费。评估者须证明评估独立、向该办公室报告任何患者安全关切，并接受其审计；认证结果与实际发现不符可导致试点暂停、回滚或终止。协议均为与该办公室的谅解备忘录，期限 12 个月，多数逐年续签。

加州正率先为 AI 评估者建立制度框架，州长 Newsom 上月签署一项为独立验证机构设立标准的法律，另一项建立评估者注册名录，并组建专家组，将于 11 月就是否要求评估者进驻最强 AI 系统开发公司、以及何为合格 AI 审计给出建议。推动立法的州参议员 Jerry McNerney 呼吁各国和 Anthropic、Google 等前沿公司设立标准委员会。争议集中在评估者与受评企业签约带来的利益冲突，以及企业可能把测试做成表演性动作；有研究者建议由企业和政府共同出资、评估者公开结果，并让多个评估组获得与公司内部安全员工同等的访问权限。国际层面，一份呼吁独立 AI 评估的联合声明获近 30 个国家支持，芬兰外交部与加拿大驻联合国大使均表示加州与中小国家合作可形成合力。