MIRI 表态支持 2026 年禁止人工超级智能法案

MIRI 发文支持《2026 年禁止人工超级智能法案》，认为这是其二十多年来所见首份有机会阻止超级智能灭绝威胁的立法，并逐条评述其可取与不足之处。法案要求模型出现可自动化 AI 研发、规避人类关停等前兆特征时暂停训练，并设置训练算力阈值，超过阈值需取得许可；MIRI 认可阈值可随算法与数据效率提升而调整，但建议调整频率高于每年一次。MIRI 还赞赏法案呼吁国际解决方案，并主张美国的政策应是阻止全球范围内开发人工超级智能。不足之处包括法案未对 AI 芯片进行追踪与监控，也未对某些研究设限；MIRI 认为生物武器设计能力提升等前兆与 ASI 并非直接相关，或需另一套规则，长期可考虑在 ASI 禁令生效后设置例外。