Skip to content

Translation in progress Some entries still include text in the original language.

论文追踪· arXiv:2609.16260· Ho Ting Hung, Angelica Chowdhury, James Teague, Simon Mylius, Spencer Michaels, Peter Slattery, Alexander Saeri, Neil Thompson·Indexed by this site · Originally published

研究对照美国联邦 AI 治理覆盖与行业脆弱性评估

Mapping U.S. Federal AI Governance Against Sector Vulnerability

Quick read

Other

Based on 论文 PDF (AI 生成); refer to the original

684份联邦文件对照272名专家评定:金融脆弱性高,但AI专门文件提及偏低。

Questions
美国联邦AI治理是否按部门脆弱性分配文件注意力,并不清楚。作者引述的关切是治理跟不上AI,且各方对风险缺少共享理解。本文对照684份联邦文件与272名专家的脆弱性评定。
Methods
从AGORA筛出684份美国联邦文件(2020年1月至2026年1月20日)。Claude Sonnet 4.5按14个部门、24个风险子域打1–3分。广度看提及比例,深度看良好覆盖比例,再与272名专家的脆弱性算偏离。
Experiments and results
作者称公共行政在每个风险域都超过半数相关文件提及。部门13与14的深度为68.6%和68.0%(Table 2)。金融在17/24个子域中位数脆弱性为5.0,任一风险域提及低于30%。没有子域深度超过50%;6.3的良好覆盖为0/16。
Limitations and future work
作者指出语料不含未点名AI的一般法律,分类来自LLM且未纳入不确定性,只覆盖联邦,深度不等于实效,文件未按重要性加权。正文未给出各格AD与IGD的具体数值。
Experimental setupAGORA、MIT AI Risk Domain Taxonomy et al. · breadth、depth et al.
Benchmarks
AGORAMIT AI Risk Domain TaxonomyNAICS 14 sectors2025 AI Risk Prioritization Delphi Study
Metrics
breadthdepthsector sharecomposite attention divergence (AD)composite integrated governance divergence (IGD)vulnerability score
AI summary一项研究评估了 684 份美国联邦 AI 治理文件对 14 个行业和 24 类 AI 风险的覆盖情况,并以广度和深度两个维度衡量。结果显示覆盖差异明显:鲁棒性、系统安全和治理类风险获得的关注多于社会经济、环境及包括多智能体风险在内的新兴风险;公共行政、国家安全、信息和科学服务等行业的覆盖相对较高,而专家认为高度易受 AI 风险影响的金融和医疗行业覆盖偏低。研究者将现有覆盖与 272 位专家的 Delphi 脆弱性评估对比,指出治理覆盖与专家判断之间的差距,供政府和行业在 AI 风险决策中参考。

一项研究评估了 684 份美国联邦 AI 治理文件对 14 个行业和 24 类 AI 风险的覆盖情况,并以广度和深度两个维度衡量。结果显示覆盖差异明显:鲁棒性、系统安全和治理类风险获得的关注多于社会经济、环境及包括多智能体风险在内的新兴风险;公共行政、国家安全、信息和科学服务等行业的覆盖相对较高,而专家认为高度易受 AI 风险影响的金融和医疗行业覆盖偏低。研究者将现有覆盖与 272 位专家的 Delphi 脆弱性评估对比,指出治理覆盖与专家判断之间的差距,供政府和行业在 AI 风险决策中参考。

Paper analysis

6 questions; open one to read the full answer

  1. What problem does this paper attempt to solve?

    作者要看联邦AI文件的覆盖是否与专家的部门脆弱性一致。

    美国联邦AI专门治理文件对部门和风险的覆盖,是否与专家评定的部门脆弱性一致。

    • 问题从何而来:作者引述既有文献的关切:治理跟不上AI发展,且对风险缺少共享理解,机构和辖区的做法因此不同。美国措施分散在行政行动、立法、法规、机构指南、标准和其他政策工具中。
    • 对照的理由:作者称,把集体覆盖与某种既定预期放在一起评估,可以识别治理相对集中或相对缺少之处。这里的预期是专家的部门脆弱性。
    • 既有研究的侧重点:作者称,美国AI治理研究多写政策轨迹、制度安排和治理理念,较少把文件覆盖与部门脆弱性放在同一框架里比较。
    • 本文要回答的问题:风险覆盖在联邦AI文件的部门与风险子域上如何分布,以及这一分布与专家评定的部门脆弱性如何对照。
    • 本文做了什么:在Governance Mapping与2025年德尔菲研究之上,对684份文件同时量广度与深度,再用偏离指数做相对排序。作者称这是诊断,用来标出值得继续调查的部门与风险,而不是认定监管缺位。
  2. What related research exists?

    上游是治理图谱与德尔菲评定,对照的是文件覆盖与部门脆弱性。

    引言没有独立的Related Work。作者在引言里把本文放在三类文献旁边,并说明语料与对照来自何处。

    治理节奏与风险理解

    • 跟不上发展的关切:Bengio等(2025)与Wirtz等(2022)被作者用来支撑“治理跟不上AI发展”这一既有关切。
    • 缺少共享理解:Monteiro与Singh(2025)、Perboli等(2025)、Saeri等(2025)、Slattery等(2026)、Taeihagh(2025)、Zaidan与Ibrahim(2024)。作者称,这会带来机构和辖区之间治理做法的差异,以及潜在监督上的差别。
    • 美国的工具形态:Davtyan(2025)写美国措施并存于行政行动、立法、法规、机构指南、标准和其他政策工具。

    作者用来定位本文的美国治理研究

    • 政策轨迹与制度:Davtyan(2025)、Kalnina等(2025)、Mallinson等(2025)。作者称这些工作主要讨论政策轨迹、制度安排和治理理念。作者把本文写成补充:看文件在部门与风险上如何分布,并与专家脆弱性对照。

    直接依托的两项研究

    • AI Governance Mapping:Mylius等(2025, 2026)。将CSET的AGORA中1000余份AI相关法律、标准和其他文件,按风险、部门、行动者等维度分类。
    • 2025 Delphi:Saeri等(2026)。272名专家、三轮,评定风险严重性与发生概率、部门与行动者脆弱性、行动者责任和总体关切。本文只用其中的部门脆弱性。

    语料与对照

    • 语料:AGORA(Arnold等, 2024, 2026)。只收直接、实质讨论AI开发、部署或使用的文件,包括为AI改写的一般法律;通常不收仅对AI有间接含义的一般适用法律。覆盖2020年以来大多数已颁布和提案的联邦法律与法规、大多数行政命令,以及其他受关注的机构文件。
    • 对照:德尔菲的五分部门脆弱性,不是模型性能基线。论文未设分类准确率或攻击成功率一类的基线。

    作者称,本文的位置是在单一联邦、单一时期的AI专门文件上同时给出广度与深度,并把与专家脆弱性的偏离当作诊断,而不是替代上述制度研究,也不把偏离写成监管已经失败。

  3. How does the paper address this problem?

    用1–3分覆盖、广度、深度和RMS偏离指数对照脆弱性。

    整体做法是把AI Governance Mapping的1–3分覆盖,与Delphi的部门脆弱性合成两类偏离指数,描述684份美国联邦AI文件。

    语料与覆盖分

    • 筛选:只保留适用于美国、由联邦机构提出、最后一次主要活动(如提案或颁布)在2020年1月至2026年1月20日的AGORA文件,N=684。含已颁布与提案。作者称因此主要测的是文件注意力。
    • 分类:Mapping项目先用六份、来自若干美国辖区的文件比较LLM与人类。作者报告Claude Sonnet 4.5在所测模型中表现最好,再用它做全量分类。本文未给出该比较的一致性数字。
    • 量表:24个风险子域(7个风险域)与14个NAICS部门各打1–3分(Table 1)。1为未提及;2为不超过数句、且没有具体缓解或治理措施;3为良好覆盖。风险侧通常至少一段并写清程序;部门侧通常为数句,写明措施、控制或义务。
    • 不计为覆盖的情形:子域必须讨论风险本身。只写一般治理结构,并不计入6.5 Governance failure,除非写明这些结构如何失败或失效。

    广度、深度与专家参照

    • 广度:684份中提及该部门或该子域的比例。
    • 深度:提及者当中达到分数3的比例。作者提醒,广度很低时,深度对个别文件很敏感。
    • 脆弱性:272名专家,2025年末,三轮匿名德尔菲,五分量表(1=Not at all vulnerable,5=Extremely vulnerable)。本文使用部门脆弱性,不用同一研究中的严重性、概率或行动者责任。
    • 共识:回答落在中位数±1以内的比例≥90%,且恰好等于中位数的比例≥60%。附录C注明该标记只在子域层提供。

    两类偏离指数

    • 标准化与AD:脆弱性先写成 vnorm,i,j=(vscore,i,j−1)/4。子域i、部门j的注意力偏离为 ADi,j=vnorm,i,j−SectorSharei,j。SectorShare是提及子域i的文件里同时提及部门j的比例。正值表示标准化脆弱性高于该份额。
    • 综合AD:对24个子域取均方根。偏离集中在少数子域时,分数高于平均偏离相近但更分散的部门。
    • IGD:用SectorShare与调整后深度的几何平均当作覆盖值,再从v_norm减去。调整深度为d0+(1-d0)D,主分析d0=0.1。D是提及该部门–子域组合的文件中良好覆盖的比例。地板用来避免全部只有最低覆盖时几何平均变成0。几何平均会压低“份额高但写得浅”或“写得深但文件少”的组合。
    • 怎么读:作者称两套分数只做部门间的相对排序,不是缺口的绝对大小,也不把SectorShare=1当作应有基线。脆弱性多高于2.5,全语料100%覆盖在结构上不太可能,所以多数组合按构造为正。高分不等于监管不足,高覆盖也不保证实践有效。

    稳健性设置

    • 深度地板:附录D.1另测d0=0.05。
    • 去掉从未被提及的子域:附录D.2从综合分中排除7.5 AI welfare and rights。作者称它会把全部标准化脆弱性计入每个部门的RMS,抬高所有综合分,并可能改变相对名次。
  4. What experiments did the paper conduct?

    作者称公共行政、国家安全较深,金融与医疗偏离较大。

    实验设置

    • 语料:684份美国联邦AI治理文件,主要活动在2020年1月至2026年1月20日;取自AGORA,含已颁布与提案。覆盖分析被作者定义为文件注意力。
    • 分类:Claude Sonnet 4.5。试点还比较过其他LLM与人类评审;那些模型的名称,以及一致性数值,本文未报告。本文也未报告全量分类的重复次数。
    • 部门:14个,按NAICS归并,从01农业、采矿、建筑与制造到14国家安全。13为不含国家安全的公共行政。
    • 风险:24个子域。作者称广度份额高于30%的只有2.2、6.4、6.5、7.3;Table 2的提及数分别为332、251、267、261。
    • 专家参照:272名专家,2025年末,三轮德尔菲;部门脆弱性1–5。严重性、概率、行动者责任未进入主比较。
    • 指标:广度、深度、sector share、composite AD、composite IGD(d0=0.1)。良好覆盖的门槛见Table 1。

    主结果

    Swipe horizontally to read the table

    部门提及数良好覆盖深度
    14 National Security41528268.0%
    13 Public Administration excl. National Security39226968.6%
    07 Scientific Services39216141.1%
    03 Information31013944.8%
    10 Health Care and Social Assistance1706739.4%
    04 Finance and Insurance933638.7%
    08 Management, Administrative, and Support Services3600.0%
    12 Accommodation, Food, and Other Services3326.1%

    据Table 2。表内保留提及最多的部门,以及深度为0、提及很少的08与12。省略01、02、05、06、09、11。

    • 部门:作者称公共行政在每个风险域都出现在超过一半的相关文件中(Figure 2)。据正文与Table 2,只有13与14的深度超过60%,其余部门低于50%。作者称08与12的覆盖份额低于10%。
    • 风险:没有任何子域的深度份额高于50%。Table 2最高为1.2的44.7%(17/38)。2.2提及332篇,深度22.0%;6.4提及251篇,深度16.3%;6.5为40.1%(107/267)。6.3良好覆盖为0/16;7.5为0/0。
    • 作者的对照:作者称金融与保险的脆弱性–广度偏离在各部门中最大(Figure 3)。该部门在17/24个子域的中位数脆弱性为5.0,除两个子域外达成共识;任一风险域的提及比例低于30%。对子域4.2,提及该子域的文件中只有20%同时写到该部门。

    覆盖与专家脆弱性

    • 测了什么:Figure 3把部门的标准化平均脆弱性与平均sector share画成哑铃图。作者称线越长,脆弱性与注意力的偏离越大。子域层份额见图B.1,正文只写出少数格子。
    • 结果:专家共识认为国家安全是对子域3.1最脆弱的部门之一,但提及3.1的文件中只有44%同时写到国家安全。公共行政提及数为392,多数子域脆弱性较低,只有三个风险的中位数超过4.0,广度偏离是较小者之一。
    • 作者的解读:覆盖广度与专家脆弱性并不均匀对应。作者另注,部分国家安全文件可能因保密未进入AGORA,但该部门仍是覆盖较多的部门之一。

    综合治理偏离

    • 测了什么:IGD把广度与深度合成覆盖值,再与脆弱性比较(Figure 4;热图Figure D.2)。正文未给出各格IGD数值。
    • 结果:作者称04金融与保险、10医疗与社会救助的IGD最高。计入深度后,03信息与14国家安全的覆盖–脆弱性偏离比只看广度时更大。作者称03、10、04、14在多项风险上被评为比其他部门更脆弱,Figure 4中的连线对应的覆盖既不广也不深。
    • 作者的解读:被提及不等于被详细处理。作者同时称,金融与医疗在一般监管上往往较重,AGORA可能排除了未点名AI的一般规则;即便如此,作者认为这些场景中的AI仍可能带来一般规则未完全处理的风险,该偏离仍值得关注。

    稳健性

    • d0=0.05(Figure D.3):作者称10与14的位置对调,总体排序格局仍在。
    • 去掉子域7.5(Figure D.4、D.5):AD上只有相邻的02与03对调,金融仍是脆弱性–广度偏离最大的部门。IGD上相邻的03与14对调,二者偏离仍相对较宽;图底部有轻度重排,正文未点名那些部门。
    • 作者的解读:作者称正文里的主要结论在这两项检查下仍然成立。对调前后的指数数值,正文未列出。

    其他消融与分析

    • 低深度子域(Table 2):6.6为5.3%(2/38),6.1为4.8%(1/21),7.6为11.1%(1/9),6.3为0.0%(0/16),7.5无提及。
    • 作者称,广度高的子域里,除6.5外,2.2、6.4、7.3的良好覆盖比例都低于30%;6.4低于20%(Table 2为16.3%)。
    • 未列入主表的部门深度(Table 2):01为30.2%(51/169),02为38.6%(56/145),09为23.6%(52/220),11为25.5%(12/47),05为16.7%(8/48),06为14.1%(27/192)。
    • 讨论中的时间例子:若干已颁布文件从提案到颁布超过一年,最长664天;另两例为445天与435天。作者用来对照模型发布间隔,并称GPT-5与5.1的间隔少于100天。
    • 作者对薄覆盖的解释是推测:Domain 6中的6.1、6.2、6.3、6.6偏规范或分配问题,利益相关者难以形成共识;7.6新兴且技术性强,合同义务与问责仍不成熟。08、11、12很少被写到,作者认为可能与数字化成熟度和AI采纳较低有关,并引用OECD(2025)称住宿与食品业中小企业采纳较少。
  5. What are some points that can be further explored?

    作者列出语料范围、LLM分类、仅联邦、深度含义和文档等权五项后续问题。

    作者指出的局限与后续方向

    • 语料范围(5.1):分析依赖AGORA,只收直接讨论AI的文件,排除许多未点名AI、但可能约束AI活动的一般法律。作者认为更广的治理环境可能与这里看到的模式相差很大;AI专门规则与一般规则也可能重叠、互补或彼此不一致。后续可研究这些形式如何互动。作者并称,2026年1月20日截止之后联邦政策仍在变,定期更新会有价值。
    • 分类(5.1):覆盖分来自Governance Mapping的LLM分类。后续可做更充分的验证,并把分类不确定性纳入下游估计。
    • 辖区(5.1):只看美国联邦文件,没有系统纳入州或地方。作者建议后续看州与地方的覆盖,以及各层框架如何重叠或矛盾。
    • 深度的含义(5.1):深度只表示文件里治理措施写得细不细,不表示这些措施在技术上可行、在实践中有效。
    • 文档等权(5.1):观察单位是文件,不按质量加权。狭窄文件与重大行政行动在计数里相同。作者称,后续若能量化不同文件的相对贡献会有帮助。

    实验覆盖范围

    • 语料为684份美国联邦文件,主要活动窗口为2020年1月至2026年1月20日,含已颁布与提案;作者称覆盖测的是文件注意力(第2节)。
    • 分类维度为14个NAICS部门与24个风险子域;专家参照为272人、三轮、2025年末的部门脆弱性1–5分。同一德尔菲中的严重性、概率和行动者评分未进入主比较(第2节)。
    • 全量分类由Claude Sonnet 4.5完成;试点为六份文件。本文未报告试点的一致性数值,也未报告全量分类的重复次数。
    • 主指数使用d0=0.1;另做d0=0.05,以及从RMS中去掉子域7.5(附录D)。正文写出的子域–部门份额包括金融在4.2的20%、国家安全在3.1的44%;Figure B.1、D.1、D.2的其余格点数值未在正文列出。
    • 共识规则为±1内≥90%且恰好等于中位数≥60%,标记只在子域层提供(第3节脚注与附录C)。综合分被定义为部门间的相对排序,不是缺口的绝对大小(第2.2.2节)。
  6. Summarize the main content of the paper

    684份联邦文件的覆盖与专家脆弱性不一致,且多数风险只被简短提及。

    这项研究把684份美国联邦AI专门治理文件的覆盖,拿去对照272名专家的部门脆弱性,用来标出注意力与脆弱性的相对偏离。

    • 问题:作者要看联邦文件把注意力放在哪些部门、哪些风险上,以及这和专家评定差在哪里。比较被写成诊断,不是认定某处没有监管。
    • 做法:文件来自AGORA,最后一次主要活动落在2020年1月至2026年1月20日,含已颁布与提案。Claude Sonnet 4.5按14个部门、24个风险子域打1–3分。广度是提及比例,深度是提及文件中达到良好覆盖的比例。AD只比较标准化脆弱性与sector share;IGD再用几何平均纳入深度,主分析的深度地板为0.1。部门分是24个子域的均方根。
    • 部门结果:Table 2中,13公共行政的深度为68.6%(269/392),14国家安全为68.0%(282/415)。作者称公共行政在每个风险域的相关文件中出现比例都超过一半(Figure 2)。04金融在17/24个子域的中位数脆弱性为5.0,但任一风险域的提及比例低于30%,对子域4.2为20%;作者称其广度偏离最大。作者称04与10的综合治理偏离最高。
    • 风险结果:没有任何风险子域的深度超过50%(Table 2最高44.7%,子域1.2,17/38)。6.3的良好覆盖为0/16,7.5未被任何文件提及。系统安全、鲁棒性和治理类风险被写到的次数,多于多数社会经济、环境与多智能体风险。
    • 作者的结论:文件注意力与专家脆弱性有偏离,多数提及只有数句,很少写到明确的治理措施。作者认为简短可能来自对监管灵活性的偏好,也可能是承认风险但未写成可执行条款;仅凭篇幅不能区分二者。这些差异可供政策研究继续查证,但不等于相关风险没有被一般法律、行业规则、州与地方措施或私人标准所处理。
Read originalarxiv.org