Ro Khanna 拟推《人类控制 AI 法案》，禁止递归自我改进并强制人类控制
Ro Khanna Takes Aim at AI’s Biggest Safety Risk With New Bill — Would Ban ‘Recursive’ Self-Improvement and Force Human Control: Report
AI 导读
美国加州民主党众议员 Ro Khanna 据报正准备提出《人类控制 AI 法案》，对高级 AI 施加严格责任规则，并禁止递归自我改进的 AI，直到政府建立安全标准。法案拟禁止模型自行升级或更改自身安全与关停设置，直至联邦规则出台且政府机构批准该技术。法案还计划设立新的联邦机构，专门监管 OpenAI、Anthropic、Google DeepMind 等公司开发的高级模型，负责制定安全规则、模型训练与发布的许可流程、前沿模型审计，以及确保人类监督和持续测试的严格安全要求。该机构还将在每家高级 AI 实验室派驻第三方审查人员，直接向机构报告，并规定离线隔离测试沙箱、kill switch 等紧急切断机制，以及防止模型流出实验室扩散到网络的防护措施，同时监管头部开发者使用的 AI 芯片。Khanna 在 CNBC 采访中称存在文明灭绝风险、失控风险与滥用风险，三者都需严肃对待。