美议员 Ro Khanna 拟提出《人类控制 AI 法案》，禁止自我改进模型

美国加州民主党众议员 Ro Khanna 计划提出《人类控制 AI 法案》，在联邦护栏到位并由机构批准前，禁止递归自我改进、自行更改核心目标或关停控制的 AI 模型。法案将设立一个联邦机构，监管 OpenAI、Anthropic、Google DeepMind 和 xAI 的模型，负责制定安全规则、许可模型训练与部署、审计前沿模型并设定测试与人类控制标准；独立审计员将进驻每家前沿实验室并直接向该机构汇报。法案还要求制定沙箱测试环境、气隙隔离和关停开关标准，管控实验室使用的先进芯片，并对关闭安全措施、关停开关、日志或隔离系统以及明知故犯部署未授权系统的员工追究刑事责任，部署会摧毁平民人口的模型将被定为反人类罪，AI 公司发布模型前需购买高额责任保险。他还致信 DeepSeek、阿里和月之暗面，索要其超智能与递归自我改进工作的文件，并向国家情报总监询问实验室失控时的应对。