研究对照美国联邦 AI 治理覆盖与行业脆弱性评估
Mapping U.S. Federal AI Governance Against Sector Vulnerability
684份联邦文件对照272名专家评定:金融脆弱性高,但AI专门文件提及偏低。
- 美国联邦AI治理是否按部门脆弱性分配文件注意力,并不清楚。作者引述的关切是治理跟不上AI,且各方对风险缺少共享理解。本文对照684份联邦文件与272名专家的脆弱性评定。
- 从AGORA筛出684份美国联邦文件(2020年1月至2026年1月20日)。Claude Sonnet 4.5按14个部门、24个风险子域打1–3分。广度看提及比例,深度看良好覆盖比例,再与272名专家的脆弱性算偏离。
- 作者称公共行政在每个风险域都超过半数相关文件提及。部门13与14的深度为68.6%和68.0%(Table 2)。金融在17/24个子域中位数脆弱性为5.0,任一风险域提及低于30%。没有子域深度超过50%;6.3的良好覆盖为0/16。
- 作者指出语料不含未点名AI的一般法律,分类来自LLM且未纳入不确定性,只覆盖联邦,深度不等于实效,文件未按重要性加权。正文未给出各格AD与IGD的具体数值。
- 基准
- AGORAMIT AI Risk Domain TaxonomyNAICS 14 sectors2025 AI Risk Prioritization Delphi Study
- 指标
- breadthdepthsector sharecomposite attention divergence (AD)composite integrated governance divergence (IGD)vulnerability score
一项研究评估了 684 份美国联邦 AI 治理文件对 14 个行业和 24 类 AI 风险的覆盖情况,并以广度和深度两个维度衡量。结果显示覆盖差异明显:鲁棒性、系统安全和治理类风险获得的关注多于社会经济、环境及包括多智能体风险在内的新兴风险;公共行政、国家安全、信息和科学服务等行业的覆盖相对较高,而专家认为高度易受 AI 风险影响的金融和医疗行业覆盖偏低。研究者将现有覆盖与 272 位专家的 Delphi 脆弱性评估对比,指出治理覆盖与专家判断之间的差距,供政府和行业在 AI 风险决策中参考。
深度解读
这篇论文试图解决什么问题?
作者要看联邦AI文件的覆盖是否与专家的部门脆弱性一致。
美国联邦AI专门治理文件对部门和风险的覆盖,是否与专家评定的部门脆弱性一致。
- 问题从何而来:作者引述既有文献的关切:治理跟不上AI发展,且对风险缺少共享理解,机构和辖区的做法因此不同。美国措施分散在行政行动、立法、法规、机构指南、标准和其他政策工具中。
- 对照的理由:作者称,把集体覆盖与某种既定预期放在一起评估,可以识别治理相对集中或相对缺少之处。这里的预期是专家的部门脆弱性。
- 既有研究的侧重点:作者称,美国AI治理研究多写政策轨迹、制度安排和治理理念,较少把文件覆盖与部门脆弱性放在同一框架里比较。
- 本文要回答的问题:风险覆盖在联邦AI文件的部门与风险子域上如何分布,以及这一分布与专家评定的部门脆弱性如何对照。
- 本文做了什么:在Governance Mapping与2025年德尔菲研究之上,对684份文件同时量广度与深度,再用偏离指数做相对排序。作者称这是诊断,用来标出值得继续调查的部门与风险,而不是认定监管缺位。
有哪些相关研究?
上游是治理图谱与德尔菲评定,对照的是文件覆盖与部门脆弱性。
引言没有独立的Related Work。作者在引言里把本文放在三类文献旁边,并说明语料与对照来自何处。
治理节奏与风险理解
- 跟不上发展的关切:Bengio等(2025)与Wirtz等(2022)被作者用来支撑“治理跟不上AI发展”这一既有关切。
- 缺少共享理解:Monteiro与Singh(2025)、Perboli等(2025)、Saeri等(2025)、Slattery等(2026)、Taeihagh(2025)、Zaidan与Ibrahim(2024)。作者称,这会带来机构和辖区之间治理做法的差异,以及潜在监督上的差别。
- 美国的工具形态:Davtyan(2025)写美国措施并存于行政行动、立法、法规、机构指南、标准和其他政策工具。
作者用来定位本文的美国治理研究
- 政策轨迹与制度:Davtyan(2025)、Kalnina等(2025)、Mallinson等(2025)。作者称这些工作主要讨论政策轨迹、制度安排和治理理念。作者把本文写成补充:看文件在部门与风险上如何分布,并与专家脆弱性对照。
直接依托的两项研究
- AI Governance Mapping:Mylius等(2025, 2026)。将CSET的AGORA中1000余份AI相关法律、标准和其他文件,按风险、部门、行动者等维度分类。
- 2025 Delphi:Saeri等(2026)。272名专家、三轮,评定风险严重性与发生概率、部门与行动者脆弱性、行动者责任和总体关切。本文只用其中的部门脆弱性。
语料与对照
- 语料:AGORA(Arnold等, 2024, 2026)。只收直接、实质讨论AI开发、部署或使用的文件,包括为AI改写的一般法律;通常不收仅对AI有间接含义的一般适用法律。覆盖2020年以来大多数已颁布和提案的联邦法律与法规、大多数行政命令,以及其他受关注的机构文件。
- 对照:德尔菲的五分部门脆弱性,不是模型性能基线。论文未设分类准确率或攻击成功率一类的基线。
作者称,本文的位置是在单一联邦、单一时期的AI专门文件上同时给出广度与深度,并把与专家脆弱性的偏离当作诊断,而不是替代上述制度研究,也不把偏离写成监管已经失败。
论文如何解决这个问题?
用1–3分覆盖、广度、深度和RMS偏离指数对照脆弱性。
整体做法是把AI Governance Mapping的1–3分覆盖,与Delphi的部门脆弱性合成两类偏离指数,描述684份美国联邦AI文件。
语料与覆盖分
- 筛选:只保留适用于美国、由联邦机构提出、最后一次主要活动(如提案或颁布)在2020年1月至2026年1月20日的AGORA文件,N=684。含已颁布与提案。作者称因此主要测的是文件注意力。
- 分类:Mapping项目先用六份、来自若干美国辖区的文件比较LLM与人类。作者报告Claude Sonnet 4.5在所测模型中表现最好,再用它做全量分类。本文未给出该比较的一致性数字。
- 量表:24个风险子域(7个风险域)与14个NAICS部门各打1–3分(Table 1)。1为未提及;2为不超过数句、且没有具体缓解或治理措施;3为良好覆盖。风险侧通常至少一段并写清程序;部门侧通常为数句,写明措施、控制或义务。
- 不计为覆盖的情形:子域必须讨论风险本身。只写一般治理结构,并不计入6.5 Governance failure,除非写明这些结构如何失败或失效。
广度、深度与专家参照
- 广度:684份中提及该部门或该子域的比例。
- 深度:提及者当中达到分数3的比例。作者提醒,广度很低时,深度对个别文件很敏感。
- 脆弱性:272名专家,2025年末,三轮匿名德尔菲,五分量表(1=Not at all vulnerable,5=Extremely vulnerable)。本文使用部门脆弱性,不用同一研究中的严重性、概率或行动者责任。
- 共识:回答落在中位数±1以内的比例≥90%,且恰好等于中位数的比例≥60%。附录C注明该标记只在子域层提供。
两类偏离指数
- 标准化与AD:脆弱性先写成 vnorm,i,j=(vscore,i,j−1)/4。子域i、部门j的注意力偏离为 ADi,j=vnorm,i,j−SectorSharei,j。SectorShare是提及子域i的文件里同时提及部门j的比例。正值表示标准化脆弱性高于该份额。
- 综合AD:对24个子域取均方根。偏离集中在少数子域时,分数高于平均偏离相近但更分散的部门。
- IGD:用SectorShare与调整后深度的几何平均当作覆盖值,再从v_norm减去。调整深度为d0+(1-d0)D,主分析d0=0.1。D是提及该部门–子域组合的文件中良好覆盖的比例。地板用来避免全部只有最低覆盖时几何平均变成0。几何平均会压低“份额高但写得浅”或“写得深但文件少”的组合。
- 怎么读:作者称两套分数只做部门间的相对排序,不是缺口的绝对大小,也不把SectorShare=1当作应有基线。脆弱性多高于2.5,全语料100%覆盖在结构上不太可能,所以多数组合按构造为正。高分不等于监管不足,高覆盖也不保证实践有效。
稳健性设置
- 深度地板:附录D.1另测d0=0.05。
- 去掉从未被提及的子域:附录D.2从综合分中排除7.5 AI welfare and rights。作者称它会把全部标准化脆弱性计入每个部门的RMS,抬高所有综合分,并可能改变相对名次。
论文做了哪些实验?
作者称公共行政、国家安全较深,金融与医疗偏离较大。
实验设置
- 语料:684份美国联邦AI治理文件,主要活动在2020年1月至2026年1月20日;取自AGORA,含已颁布与提案。覆盖分析被作者定义为文件注意力。
- 分类:Claude Sonnet 4.5。试点还比较过其他LLM与人类评审;那些模型的名称,以及一致性数值,本文未报告。本文也未报告全量分类的重复次数。
- 部门:14个,按NAICS归并,从01农业、采矿、建筑与制造到14国家安全。13为不含国家安全的公共行政。
- 风险:24个子域。作者称广度份额高于30%的只有2.2、6.4、6.5、7.3;Table 2的提及数分别为332、251、267、261。
- 专家参照:272名专家,2025年末,三轮德尔菲;部门脆弱性1–5。严重性、概率、行动者责任未进入主比较。
- 指标:广度、深度、sector share、composite AD、composite IGD(d0=0.1)。良好覆盖的门槛见Table 1。
主结果
表格较宽,可左右滑动
部门 提及数 良好覆盖 深度 14 National Security 415 282 68.0% 13 Public Administration excl. National Security 392 269 68.6% 07 Scientific Services 392 161 41.1% 03 Information 310 139 44.8% 10 Health Care and Social Assistance 170 67 39.4% 04 Finance and Insurance 93 36 38.7% 08 Management, Administrative, and Support Services 36 0 0.0% 12 Accommodation, Food, and Other Services 33 2 6.1% 据Table 2。表内保留提及最多的部门,以及深度为0、提及很少的08与12。省略01、02、05、06、09、11。
- 部门:作者称公共行政在每个风险域都出现在超过一半的相关文件中(Figure 2)。据正文与Table 2,只有13与14的深度超过60%,其余部门低于50%。作者称08与12的覆盖份额低于10%。
- 风险:没有任何子域的深度份额高于50%。Table 2最高为1.2的44.7%(17/38)。2.2提及332篇,深度22.0%;6.4提及251篇,深度16.3%;6.5为40.1%(107/267)。6.3良好覆盖为0/16;7.5为0/0。
- 作者的对照:作者称金融与保险的脆弱性–广度偏离在各部门中最大(Figure 3)。该部门在17/24个子域的中位数脆弱性为5.0,除两个子域外达成共识;任一风险域的提及比例低于30%。对子域4.2,提及该子域的文件中只有20%同时写到该部门。
覆盖与专家脆弱性
- 测了什么:Figure 3把部门的标准化平均脆弱性与平均sector share画成哑铃图。作者称线越长,脆弱性与注意力的偏离越大。子域层份额见图B.1,正文只写出少数格子。
- 结果:专家共识认为国家安全是对子域3.1最脆弱的部门之一,但提及3.1的文件中只有44%同时写到国家安全。公共行政提及数为392,多数子域脆弱性较低,只有三个风险的中位数超过4.0,广度偏离是较小者之一。
- 作者的解读:覆盖广度与专家脆弱性并不均匀对应。作者另注,部分国家安全文件可能因保密未进入AGORA,但该部门仍是覆盖较多的部门之一。
综合治理偏离
- 测了什么:IGD把广度与深度合成覆盖值,再与脆弱性比较(Figure 4;热图Figure D.2)。正文未给出各格IGD数值。
- 结果:作者称04金融与保险、10医疗与社会救助的IGD最高。计入深度后,03信息与14国家安全的覆盖–脆弱性偏离比只看广度时更大。作者称03、10、04、14在多项风险上被评为比其他部门更脆弱,Figure 4中的连线对应的覆盖既不广也不深。
- 作者的解读:被提及不等于被详细处理。作者同时称,金融与医疗在一般监管上往往较重,AGORA可能排除了未点名AI的一般规则;即便如此,作者认为这些场景中的AI仍可能带来一般规则未完全处理的风险,该偏离仍值得关注。
稳健性
- d0=0.05(Figure D.3):作者称10与14的位置对调,总体排序格局仍在。
- 去掉子域7.5(Figure D.4、D.5):AD上只有相邻的02与03对调,金融仍是脆弱性–广度偏离最大的部门。IGD上相邻的03与14对调,二者偏离仍相对较宽;图底部有轻度重排,正文未点名那些部门。
- 作者的解读:作者称正文里的主要结论在这两项检查下仍然成立。对调前后的指数数值,正文未列出。
其他消融与分析
- 低深度子域(Table 2):6.6为5.3%(2/38),6.1为4.8%(1/21),7.6为11.1%(1/9),6.3为0.0%(0/16),7.5无提及。
- 作者称,广度高的子域里,除6.5外,2.2、6.4、7.3的良好覆盖比例都低于30%;6.4低于20%(Table 2为16.3%)。
- 未列入主表的部门深度(Table 2):01为30.2%(51/169),02为38.6%(56/145),09为23.6%(52/220),11为25.5%(12/47),05为16.7%(8/48),06为14.1%(27/192)。
- 讨论中的时间例子:若干已颁布文件从提案到颁布超过一年,最长664天;另两例为445天与435天。作者用来对照模型发布间隔,并称GPT-5与5.1的间隔少于100天。
- 作者对薄覆盖的解释是推测:Domain 6中的6.1、6.2、6.3、6.6偏规范或分配问题,利益相关者难以形成共识;7.6新兴且技术性强,合同义务与问责仍不成熟。08、11、12很少被写到,作者认为可能与数字化成熟度和AI采纳较低有关,并引用OECD(2025)称住宿与食品业中小企业采纳较少。
有什么可以进一步探索的点?
作者列出语料范围、LLM分类、仅联邦、深度含义和文档等权五项后续问题。
作者指出的局限与后续方向
- 语料范围(5.1):分析依赖AGORA,只收直接讨论AI的文件,排除许多未点名AI、但可能约束AI活动的一般法律。作者认为更广的治理环境可能与这里看到的模式相差很大;AI专门规则与一般规则也可能重叠、互补或彼此不一致。后续可研究这些形式如何互动。作者并称,2026年1月20日截止之后联邦政策仍在变,定期更新会有价值。
- 分类(5.1):覆盖分来自Governance Mapping的LLM分类。后续可做更充分的验证,并把分类不确定性纳入下游估计。
- 辖区(5.1):只看美国联邦文件,没有系统纳入州或地方。作者建议后续看州与地方的覆盖,以及各层框架如何重叠或矛盾。
- 深度的含义(5.1):深度只表示文件里治理措施写得细不细,不表示这些措施在技术上可行、在实践中有效。
- 文档等权(5.1):观察单位是文件,不按质量加权。狭窄文件与重大行政行动在计数里相同。作者称,后续若能量化不同文件的相对贡献会有帮助。
实验覆盖范围
- 语料为684份美国联邦文件,主要活动窗口为2020年1月至2026年1月20日,含已颁布与提案;作者称覆盖测的是文件注意力(第2节)。
- 分类维度为14个NAICS部门与24个风险子域;专家参照为272人、三轮、2025年末的部门脆弱性1–5分。同一德尔菲中的严重性、概率和行动者评分未进入主比较(第2节)。
- 全量分类由Claude Sonnet 4.5完成;试点为六份文件。本文未报告试点的一致性数值,也未报告全量分类的重复次数。
- 主指数使用d0=0.1;另做d0=0.05,以及从RMS中去掉子域7.5(附录D)。正文写出的子域–部门份额包括金融在4.2的20%、国家安全在3.1的44%;Figure B.1、D.1、D.2的其余格点数值未在正文列出。
- 共识规则为±1内≥90%且恰好等于中位数≥60%,标记只在子域层提供(第3节脚注与附录C)。综合分被定义为部门间的相对排序,不是缺口的绝对大小(第2.2.2节)。
总结一下论文的主要内容
684份联邦文件的覆盖与专家脆弱性不一致,且多数风险只被简短提及。
这项研究把684份美国联邦AI专门治理文件的覆盖,拿去对照272名专家的部门脆弱性,用来标出注意力与脆弱性的相对偏离。
- 问题:作者要看联邦文件把注意力放在哪些部门、哪些风险上,以及这和专家评定差在哪里。比较被写成诊断,不是认定某处没有监管。
- 做法:文件来自AGORA,最后一次主要活动落在2020年1月至2026年1月20日,含已颁布与提案。Claude Sonnet 4.5按14个部门、24个风险子域打1–3分。广度是提及比例,深度是提及文件中达到良好覆盖的比例。AD只比较标准化脆弱性与sector share;IGD再用几何平均纳入深度,主分析的深度地板为0.1。部门分是24个子域的均方根。
- 部门结果:Table 2中,13公共行政的深度为68.6%(269/392),14国家安全为68.0%(282/415)。作者称公共行政在每个风险域的相关文件中出现比例都超过一半(Figure 2)。04金融在17/24个子域的中位数脆弱性为5.0,但任一风险域的提及比例低于30%,对子域4.2为20%;作者称其广度偏离最大。作者称04与10的综合治理偏离最高。
- 风险结果:没有任何风险子域的深度超过50%(Table 2最高44.7%,子域1.2,17/38)。6.3的良好覆盖为0/16,7.5未被任何文件提及。系统安全、鲁棒性和治理类风险被写到的次数,多于多数社会经济、环境与多智能体风险。
- 作者的结论:文件注意力与专家脆弱性有偏离,多数提及只有数句,很少写到明确的治理措施。作者认为简短可能来自对监管灵活性的偏好,也可能是承认风险但未写成可执行条款;仅凭篇幅不能区分二者。这些差异可供政策研究继续查证,但不等于相关风险没有被一般法律、行业规则、州与地方措施或私人标准所处理。