美国众议员 Khanna 提出 Human Control Over AI Act，拟禁止递归自我改进模型
Khanna to introduce AI safety bill with ban on 'recursive' technology until safeguards exist
AI 导读
美国加州民主党众议员 Ro Khanna 将提出名为 Human Control Over AI Act 的 AI 监管法案，在联邦护栏建立并由专门机构批准前，禁止递归自我改进或自主修改自身核心目标、约束与关停控制的模型。法案拟设立新的联邦机构，监管 OpenAI、Anthropic、Google DeepMind 和 xAI 等前沿实验室的模型，职责包括制定安全法规、模型训练与部署许可制度、前沿模型审计，以及沙箱测试环境、物理隔离、关停开关和防止模型逃出实验室等标准，并要求独立审计员常驻每家前沿实验室直接向该机构汇报。法案还拟对导致平民群体毁灭的 AI 部署按危害人类罪追究刑事责任，对关闭护栏、关停开关、日志或约束系统的 AI 公司员工，以及明知故犯部署未授权系统者施加刑事处罚，并要求 AI 公司为发布模型购买高额责任保险。