跳到正文
原文
论文追踪· arXiv:2610.01716· Simon Chesterman·本站收录· 原文发表

无架构师的架构?分裂世界中的全球 AI 治理

Architecture Without an Architect? Global Governance of Artificial Intelligence in a Divided World

论文速读

其他

据论文 PDF 整理(AI 生成),以原文为准

书评认为全球人工智能治理不是缺少架构师,而是多类行动者权力不同、激励分歧且无共同计划。

问题
人工智能发展快、易跨境,塑造它的行动者能力可能比肩国家,国际回应却碎片、代表性不均且多无约束力。书评追问谁有能力与激励去创建、执行并调整规则。
方法
作者评述Maas的三条透镜:社会技术变迁、治理中断、制度复合体,以及常规、军事、先进模型三条轨道。书评则把制度设计放回国家权力与少数私人公司对前沿决策的控制。
实验与结果
书评没有做模型实验。它援引联合国2024年估计:七项最重要倡议仅7个G7国家参加,另有100国一项未参加。作者另称书中we多于400次,且600页以上的书未出现architect。
局限与可以继续做的
书评没有局限或未来工作专节。脚注43承认本文也可能被指同样忽略全球南方。参与度数字引自联合国2024年报告第9页,七项倡议名称论文未列出;论文未报告编码方案或第二编码者。
AI 导读针对全球 AI 治理规则碎片化、代表性不均且多为非约束性的困境,Simon Chesterman 在评论 Matthijs Maas《Architectures of Global AI Governance》时指出,制度设计无法与权力分配分离。Maas 以社会技术变迁、治理中断与机制复杂性为框架,反对技术决定论和单一制度蓝图;但 Chesterman 认为其常提的"我们"掩盖了国家、国际机构与科技公司间的差异,前沿 AI 的关键决策集中于少数私营公司,全球 AI 治理更像是多方权力与激励分歧下形成的架构。

针对全球 AI 治理规则碎片化、代表性不均且多为非约束性的困境,Simon Chesterman 在评论 Matthijs Maas《Architectures of Global AI Governance》时指出,制度设计无法与权力分配分离。Maas 以社会技术变迁、治理中断与机制复杂性为框架,反对技术决定论和单一制度蓝图;但 Chesterman 认为其常提的"我们"掩盖了国家、国际机构与科技公司间的差异,前沿 AI 的关键决策集中于少数私营公司,全球 AI 治理更像是多方权力与激励分歧下形成的架构。

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    作者认为难题是多类行动者权力不同、激励分歧,而不是缺一张制度蓝图。

    核心问题是谁有能力、也有激励,去创建、执行并调整全球人工智能治理。

    • 出现的场景:作者称人工智能发展快、易跨境,塑造它的行动者在资源与能力上可能比肩国家;国际回应却碎片化、代表性不均,且绝大多数不具约束力。因此难点不只是找出规则或机构。
    • 既有做法的不足:作者称行动过快会抑制创新或把活动赶到更宽松的法域,过慢则让公民承受风险;即便行动,回应也常是反应式、碎片化,并浅层类比旧技术或旧机构。公司在理论上日益接受某种监管,实践中则反对具体提案。
    • 核心观察:作者认为Maas拒绝“认知与政治上的悲观”,要用社会技术变迁、治理中断和制度复合体来理解治理,但不给单一制度蓝图。作者同时认为,书中的“we”把国家、国际机构与科技公司写成了同一个集体主语。
    • 本文的判断:这是对Maas《Architectures of Global AI Governance》(2025)的书评。作者认为中心问题不是“没有架构师的架构”,而是正在形成的架构由多类行动者塑造:权力形态不同、激励分歧,且没有一套共同计划。
  2. 有哪些相关研究?

    书评把Maas放进制度类比、制度复合体、三条治理轨道和私人权力讨论。

    书评没有单列文献综述,相关讨论散在引言和正文。

    制度类比

    • IAEA、CERN与IPCC式机构:书评称常见候选包括国际原子能机构、欧洲核子研究组织,以及政府间气候变化专门委员会式机构,并引Chesterman(2021)、Rüland(2025)、Bak-Coleman等(2023)。作者写道,2024年联合国未来峰会具体讨论时,没有意愿,资金也更少,去做架构上大动作。
    • 危机与制度:作者认为全球秩序的重大制度变化需要危机,并以国际联盟、联合国、IAEA、化学武器禁忌和《蒙特利尔议定书》为例;气候危机被写成科学共识较清楚、行动仍然困难的对照。

    社会技术变迁与制度复合体

    • Collingridge(1980):书评转述Maas用它讨论何时行动:早期行动容易但不确定,延迟后风险更清楚,纠正成本也更高。
    • 制度复合体:书评提到Raustiala与Victor(2004)、Orsini、Morin与Young(2013),以及Alter与Meunier(2009)、Acharya(2016)关于多中心治理可试验、并反映多元世界的论点。作者称,在他援引的Hathaway与Shapiro(2025)所写的情境下,国际法正当性可能处于低谷,Maas的读法偏于乐观。

    三条轨道上的既有努力

    • 军事:书评写道,约2009年国际机器人军控委员会成立,2013年特别报告员呼吁暂停,2014年进入《特定常规武器公约》议程,政府专家组自2017年起每年开会。作者称进展停顿,定义之争卡住讨论;Maas称之为crossroads(第191页)。
    • 常规民用:书评写道,约2016年后进入主流;UNESCO于2021年11月23日通过无约束力伦理建议。条约努力包括2024年9月5日于维尔纽斯做成的欧洲委员会框架公约,但作者称硬法规多数仍在国家层面,最突出的是欧盟人工智能法案。
    • 先进模型:书评写道,更认真的考虑约在2022年ChatGPT出现后展开;联合国高级别咨询机构于2023、2024年发布报告,部分建议进入《全球数字契约》。

    私人权力

    • 企业偏好:Tallberg、Lundgren与Geith(2024)被用来说明,公司理论上接受某种监管,实践中反对具体提案。
    • 规范如何落到企业:书评引Ruggie(2011)工商企业与人权指导原则,对照国家通过的规范难以直接约束私营部门。
    • 集中:书评引Narechania与Sitaraman(2024)、Hao(2025)、Korinek与Vipra(2025)、Muldoon、Valdivia与Badger(2026),用来写前沿人工智能的供给与市场结构集中。

    作者把本文与Maas的区别写成:Maas提供探索性视角和工具,而不是简单、确定的政策蓝图;书评则认为制度设计离不开权力分配,而Maas对权力从公共部门转向私人手中讨论很少。

  3. 论文如何解决这个问题?

    书评先复述Maas的三条透镜和工具箱,再用公私权力重写架构问题。

    这是书评,不是新算法。作者先按Maas的三部分复述其分析工具,再把架构问题改写成权力与激励问题。

    三部分与三条透镜

    • 全书结构:书评写道,第一部分写挑战、为何需要全球回应,以及迄今倡议何以不够;第二部分从三条透镜吸取教训;第三部分提出frameworks for choice,希望新兴体制在最好情况下有效、有韧性、连贯。
    • 社会技术变迁:书评转述,这一透镜用来把有限注意力分给社会扰乱最大的技术(第371页),并比较上游(模型开发者)与下游(部署者、用户等)。时机上借助Collingridge。
    • 治理中断:书评转述,Maas没有夸大。与太空旅行或网络空间早期不同,人工智能多数时候加速的仍是能对应传统管辖的活动(第392页)。速度、自主性和日益增加的不透明带来实践困难和一些概念困难。书评举船舶曾被定义为配员船舶、交通法禁止车辆无人看管等缺口,但认为据此说人工智能要求彻底重写治理观念,说过了头。
    • 制度复合体:书评转述,这是多个全球治理机制授权重叠、相互影响。多中心安排允许试验和机构间学习,也反映多元、多极世界。作者称这一读法偏乐观。

    能力、红线与工具箱

    • 不禁技术本身:书评转述,Maas怀疑禁止人工智能技术,因为技术或是两用,或不能整齐对应可识别的危害(第530页)。红线或禁令历史上更有效,但要写清所避免的危害;军事人工智能用于核指挥与控制,被写成正在获得牵引力(第529页)。
    • 转向能力:他提议关注能力。军事讨论包括防务界如何构想人工智能,应用在多大程度上regulation-tolerant或regulation-resistant(第504页),以及与以往军控的比较。这些努力被写成同时给出乐观和悲观的理由(第518页)。
    • 小群体定规范:书评转述,认识共同体把新兴创新重述为后来成为合作与制度化基础的全球规范;这要求容忍更小、非正式、志同道合的群体确定规范,即使制度复合体因此更碎片(第524页)。
    • 策略节的自我限制:书评转述,Maas不提供单一路线图,甚至不讨论体制的实质价值或目标,因为它们可能随时间变化(第581页)。他要给的是治理选项工具箱,以及评估效力、韧性与连贯性的办法。书评称他在第600页写自己未能按理想深度探讨议题,并在第581页写到future work。

    三个领域

    • 划分:书评转述,Maas把讨论分成三块(第120页)。Conventional是民用领域最普遍的人工智能,通常是近期治理的焦点。Military是国际安全维度。Advanced指向误用、失误,以及各类人工智能安全倡议追踪的系统性风险。
    • 集体行动:书评转述,Maas特别关心其中的全球部分,把它写成集体行动问题:合作可降低监管不确定性和套利,并与互联网治理、核不扩散比较(第162–165页)。全球公共品 mainly 被写成行为标准和约束不良行为者(第165–168页)。

    书评如何改写问题

    • 集体主语:作者认为we从分析简写变成行动号召,却没有解释实际掌权者为何要建立这种治理。问题不是无人有权,而是有权者的权力形态不同,且未必有激励朝共同目的行使。
    • 决策落在公司内部:作者认为国家仍能监管市场、控制战略投入、施加成本;前沿人工智能中造什么、多快、有何防护、何时发布,则在私人公司内部决定。他列出的扼要点是compute、cloud、模型开发与部署,集中于少数企业、少数法域和少数人。
    • Maas的处理:书评转述,Maas承认有strong private sector dynamic(第564页),但主要从参与国家主导的机构来看;regulatory capture只有简短讨论(第567–568页)。作者认为这没有处理他所看重的障碍。
  4. 论文做了哪些实验?

    没有模型实验;正文里的定量说法是7国、100国,以及we多于400次。

    实验设置

    • 体裁:书评,不是模型评测。作者没有报告被测模型、评审模型、攻击成功率或重复次数。
    • 文本对象:Matthijs M. Maas,Architectures of Global AI Governance(Oxford University Press,2025)。书评称全书600页以上、脚注3000条以上;底本是2021年完成的哥本哈根大学法学院博士论文,后增补2022年末ChatGPT之后的大规模采用,以及2025年对agentic AI的热度。
    • 作者位置:脚注写明,联合国人工智能咨询机构报告起草时,书评作者担任principal researcher。
    • 定量来源:参与度数字来自UN AI Advisory Body,Governing AI for Humanity: Final Report(2024年9月)第9页。书评未列出这七项最重要倡议的名称。
    • 作者自己的检索:对Maas全书检索we。论文未报告检索是否计入脚注、标题或参考文献。
    • 对照:没有作为实验基线运行的模型或检测器。讨论对象是Maas的框架,以及书评援引的机构与文献。

    主结果

    论文没有编号结果表或图。下表数字出自正文转述,不是模型得分。

    说法数字出处
    参加七项最重要倡议的国家7,均为G7富裕工业化成员正文引联合国2024年报告第9页
    上述倡议一项都未参加的国家100同上
    书中we出现次数多于400作者对全书的检索
    篇幅与脚注600页以上;脚注3000条以上正文
    • 作者称文件算不上全球性的:参加国是富裕工业化的G7成员,大量国家不在其中。对只坐在扶手椅上的监管者来说,全球回应的需要是不证自明的;技术不理会边界,公司还会做监管套利。
    • 集体代词:作者用该词的出现说明,分析简写很快变成行动号召,却没有解释掌权者为何要去建立治理。
    • 架构师:作者称这种写法的问题不是无人有权;他并称,一本讨论全球人工智能治理架构的书没有一处提到architect。

    治理轨道上的进展与停顿

    • 军事:书评写道,全球规制约从2009年ICRAC开始,2013年特别报告员Christof Heyns呼吁暂停,2014年进入CCW,GGE自2017年起每年开会。进展受lethal autonomous weapon system与meaningful human control的定义之争拖住。作者称,即便无约束力承诺,推进意愿也往往与部署能力成反比。Maas称当前处于crossroads(第191页)。
    • 常规与先进模型:书评写道,常规治理约2016年后进入主流;UNESCO 2021年建议无约束力。欧盟人工智能法案2021年提案,三年后正式通过,即2024年6月13日的Regulation (EU) 2024/1689。对先进模型的更认真考虑约在ChatGPT之后;《全球数字契约》设立Global Policy Dialogues,以及一个International Scientific Panel,书评称其2026年7月召开第一次会议。
    • 作者的解读:作者称Maas的长处之一是连接这些分离的认识共同体。五角大楼与Anthropic围绕通用Claude用于军事应用的公开争执,被用来说明界限可能进一步变模糊;书评写到,其CEO Dario Amodei要求该模型不用于致命决策或大规模国内监视。作者同时称,全球层面绝大多数规范运动不具约束力;他并不把这本身看成坏事,并援引人权规范先扩大参与、再加深义务的路径。

    谁握有前沿决策

    • 承诺用语的差别:作者认为结构性障碍不是国家不再重要,而是权威与最要紧的权力来源不再整齐对应。《全球数字契约》里,成员国承诺到2030年使相关立法符合包括国际人权法在内的国际法;对公司和开发者则只是call on其尊重国际人权与原则。
    • 国家仍有的杠杆:书评写道,美国对先进半导体的出口管制显示,至少部分国家仍能限制前沿系统所需的compute。拜登政府2025年1月进一步管制某些先进闭源模型的权重;后任政府不执行AI Diffusion Rule并着手撤销,同时保留并调整芯片管制。成文时,网络安全关切促使特朗普政府对前沿模型作发布前审查,但是自愿的,基准过程保密。
    • 作者的解读:作者认为Maas对私人部门的处理,没有充分面对compute、cloud、模型开发与部署集中在少数企业、少数法域和少数人手中这一点。他并称,在经济的很大部分依赖这些公司成功时,strong dynamic是偏轻的说法。

    代表性与反应不一致

    • 包容性:作者称国际讨论under-inclusive(第223页)。全球南方只有一个实质段落(第224页),中国只有数页(第211–213页)。作者写道,轮到印度举办下一轮人工智能安全峰会时,印方强调影响以及利益在国家间的分配。
    • 反应不一致:作者认为“我们”的反应方式也不一致。尽管对致命自主武器系统常态化有广泛担忧,乌克兰的使用仍被许多政府安静地容忍,原因是对其抗击俄罗斯侵略的同情。布莱切利公园2023年人工智能安全峰会之后,多洲设立Safety Institutes;两年后,其中最突出的英国和美国机构已改名,2025年会议放弃AI Safety,改称AI Action。
    • 问题是否看得见:作者称,Maas回避简单方案,有时让人难以看出他要解决的问题。作者自己把全球缺口写成缺少红线,尤其针对不可控、不可遏制、可能超出人类缓解能力的人工智能,并加上最低限度的可归因规则,使系统的行为能追溯到人、公司或国家;偏见与安全则可通过既有人权规范和产品责任来落实。

    其他消融与分析

    • 论文未报告消融、超参数、查询次数或重复实验。
    • 书评转述,Maas在第600页称未能按理想深度探讨议题,第581页写到future work;这是对原书的转述,不是书评自己的实验。
  5. 有什么可以进一步探索的点?

    书评无局限专节,仅在脚注承认也可能被指忽略全球南方。

    作者指出的局限与后续方向

    论文未专门讨论局限,也没有Future Work专节列出书评自身的后续方向。

    • 同样的省略:脚注43作者承认,这篇书评也可能被指责犯有同样的省略。该注针对的是前文所说全球南方只有一个实质段落。作者在注中改引其他文献,但没有把这写成后续研究设计。

    实验覆盖范围

    • 文本对象是Maas 2025年《Architectures of Global AI Governance》;书评说明其源自2021年哥本哈根大学法学院博士论文,后增补ChatGPT与agentic AI。
    • 参与度数字引自UN AI Advisory Body 2024年9月最终报告第9页;书评未写出那七项倡议的名称。
    • 讨论的安排包括G7、G20、OECD、Global Partnership on AI、欧盟人工智能法案、UNESCO 2021年建议、CCW及其GGE、《全球数字契约》,以及美国对先进半导体和部分闭源权重的管制。
    • 作者披露,该联合国报告起草时其本人担任principal researcher。
    • 论文未报告倡议清单的入选规则、国家样本框、编码方案或第二编码者。
  6. 总结一下论文的主要内容

    书评认为形成中的架构由多类行动者塑造,但没有共同计划。

    这是Simon Chesterman对Maas 2025年一书的书评,争论全球人工智能治理由谁来建,而不是提出攻击方法或新基准。

    • 问题:作者称技术发展快、易跨境,塑造它的行动者能力可能比肩国家;国际回应碎片、代表性不均,且绝大多数不具约束力。要问的是谁有能力与激励去创建、执行并调整规则。
    • Maas的框架:三条透镜是社会技术变迁、治理中断、制度复合体;三个领域是常规民用、军事、先进模型。他拒绝认知与政治上的悲观,不提供单一政策蓝图,也不讨论可能变化的实质价值。工具箱按效力、韧性、连贯性评估,并把焦点放在能力,而不是一概禁止技术。
    • 书评的改写:作者认为we掩盖了国家、国际机构与公司的差别。国家仍能管市场、战略投入并施加成本,但前沿系统造什么、多快、有何防护、何时发布,决策在少数私人公司内部。他点名的扼要点是compute、cloud、模型开发与部署。
    • 书评使用的数字:联合国2024年估计中,七项最重要倡议只有7个国家参加,且都是G7;另有100个国家一项都未参加。作者检索到we多于400次,并称600页以上的书没有出现architect。2024年未来峰会被写成没有意愿,资金也更少。
    • 作者的结论:全球人工智能治理不是空白页,而是已经在形成的碎片、重叠架构,由技术、法律与制度选择相互作用塑造。作者认为更难的问题是谁能在上面继续建造;结果不一定是没有架构师的架构,而可能是建造者和其他人都没有掌握计划。
阅读原文arxiv.org