Ro Khanna 提出《人类控制 AI 法案》，禁止自我改进 AI 并设立前沿模型监管机构

美国加州民主党众议员 Ro Khanna 提出《人类控制 AI 法案》，拟在联邦政府建立安全护栏并由指定机构批准前，禁止具备递归自我改进能力或可自主修改自身核心目标的 AI 模型。法案将设立一个新的联邦机构，对 OpenAI、Anthropic、Google DeepMind、xAI 等前沿 AI 开发者行使监管权，职责包括模型训练与部署的许可制度、前沿 AI 系统审计，以及维持持续测试与人类监督的安全要求。法案要求每家前沿实验室配备向该机构直接汇报的驻场独立审计员，并制定隔离测试环境、断网协议、紧急关停机制和模型实验室围栏等要求，同时对该机构对前沿实验室使用先进芯片拥有监控或限制权限。法案还呼吁政府推动可执行的国际协议和有针对性的出口管制。