Some text is shown in its original language while the English translation is being prepared.
美国白宫 OSTP 主任 Michael Kratsios 于 1 月 14 日出席众议院研究与技术小组委员会听证，就特朗普政府的 AI 行动计划作证。他辩称全国 50 套不同的州级 AI 法规拼凑在一起反而有利于资金雄厚的大型科技公司，主张由联邦先划出监管边界，并称政府持续在联合国、G7 等场合抵制全球 AI 治理。加州民主党众议员 Zoe Lofgren 批评政府入股 Intel 等私营企业并将其比作社会主义，同时追问联邦机构是否仍在付费使用 xAI 的 Grok，此前 Grok 被指按用户要求生成大量非自愿性图像及儿童性虐待材料；Kratsios 称自己不参与相关采购决策。听证还涉及 CAISI 与 NIST 的模型评测定位，以及 Genesis Mission 科学计划的目标。
随着医疗场景中 AI 产品增多，如何评测其安全性与有效性仍缺乏成熟基准和统一监管框架。JAMA 2025 年 10 月的峰会报告指出，许多工具的健康影响未被量化，部分原因是评测困难或不在 FDA 监管范围内；约翰霍普金斯、乔治城与耶鲁的研究分析约 1000 款获 FDA 许可的 AI 医疗设备后发现，多数被召回设备未经过临床测试。NIST 下属 CAISI 在 2025 年 12 月的博客中称，许多 AI 评测未说明测量对象，更未验证测量是否有效；牛津互联网研究院发现 445 个 LLM 基准缺乏科学严谨性。微软研究对六款旗舰多模态模型的医疗基准测试显示，模型在移除图像等关键输入后仍常猜对答案。文章还列举了 EvalEval、AI Evaluator Forum、HAIP 等评测协作，以及韩国研究者开发的 PatientSafeBench，其测试的 11 个模型均未达到患者使用安全标准。
美国政府在 AI 控制权之争中以政府合同施压 Anthropic，评论文章认为其更应转向标准与治理架构建设。五角大楼因 Anthropic 拒绝授予其模型无限制访问而将该公司列为国家安全供应链风险，相关法律诉讼仍在进行；作者称芯片出口管制等算力手段难以约束前沿以下的能力扩散。文章提出智能体互操作性协议可能成为类似域名与 IP 地址的协调瓶颈，并认为 NIST AI Safety Institute 改组为 CAISI 或有先见之明。
《纽约时报》报道称，特朗普政府正考虑以行政令设立由行业高管和政府官员组成的工作组，研究让联邦政府在模型发布前获得初步访问权进行审查，讨论中的方案包括由 NSA、白宫国家网络主任办公室和国家情报总监监督审查，但审查未必会阻止模型公开发布。Tech Policy Press 的评论认为，无后果的审查不等于有效监督，与被审查公司共同设计的工作组也缺乏独立性。文章提到全球近 80% 的 AI 算力为私人所有、近 70% 的新 AI 博士进入私营部门，并以 CAISI 依赖自愿协议、METR 受访问与算力限制为例，主张建立独立于产业的研究机构网络。
特朗普推迟签署一项关于 AI 与网络安全的行政令，称其“可能成为阻碍”，而据《华盛顿邮报》报道，扎克伯格、马斯克与 David Sacks 在前一晚至当天上午分别与总统通话。泄露给 POLITICO 的草案显示，该行政令以自愿为原则，明确禁止被解读为建立强制许可或预审制度，仅要求司法部依据《计算机欺诈与滥用法》追究利用 AI 非法访问或破坏计算机者。草案还赋予 NSA 对前沿模型进行机密评估的权力，由 ONCD、CISA 与 NIST（含 CAISI）协助界定适用范围。文章认为，这一安排把评估主导权从民用监管机构转向情报机构，其程序不受 FOIA 约束、评估结果无法公开，而 CAISI 据报已在组建跨机构工作组开展机密评估。
Why it was selected文章对照被撤回的行政令草案与情报机构主导评估的走向，为理解美国前沿 AI 监管架构的实际归属提供内部视角。
OpenAI 发布一份关于前沿 AI 民主治理的蓝图，提出美国为日益强大的 AI 系统构建持久联邦治理框架的三部分策略。方案包括建立借鉴州级前沿安全立法共识的国家框架、强化 CAISI 作为美国联邦政府前沿 AI 安全的主要机构，以及在政府范围内推动应对国家安全与公共安全挑战的韧性计划。OpenAI 称，加州 SB 53、纽约 RAISE Act 和伊利诺伊 SB 315 等州级法规已形成趋于一致的路径，白宫关于促进先进人工智能创新与安全的行政令是又一进展，联邦政府应在此基础上建立可随技术演进的框架。
Why it was selectedOpenAI 提出的三部分联邦治理方案，呈现了前沿 AI 安全从州级立法共识走向联邦机构的路径。
6 月 4 日，美国众议员 Jay Obernolte 与 Lori Trahan 发布 269 页的两党讨论草案《2026 年大美国人工智能法案》，若获通过将成为美国首个综合性联邦 AI 治理制度。草案分前沿 AI 治理、劳动力、网络安全、研发与国际合作四部分，对年营收 5 亿美元以上且训练过前沿模型的大型前沿开发者设强制开发义务，涉及 OpenAI、Anthropic、Google、Meta 和 xAI。草案要求 CAISI 年度预算从 1500 万美元增至 1 亿美元，并设三年日落条款预先占据专门监管模型开发的州法，同时保留州对部署和使用阶段的管辖。预占条款遭 Public Citizen、Public Knowledge 和 AFL-CIO 批评，BSA 与 ITIC 表示支持。
Why it was selected269 页讨论草案把强制透明度与独立审计落到前沿模型开发层，同时以三年日落条款预先占据州法，呈现美国联邦 AI 立法的分歧所在。
有提案主张设立"AI 宪法人民委员会"为变革性 AI 争取社会许可：随机抽选 100 名公民、任期两年，选出三份模型宪法。候选宪法来自前沿 AI 实验室、研究机构及获至少 100,000 个电子签名的公众提交，CAISI 负责汇编审核与评估，不参与挑选。采用其中一份宪法将成为联邦采购条件，实验室可放弃联邦合同；宪法每两年接受 CAISI 审查。
白宫于 6 月 2 日发布第 14409 号行政令《促进先进人工智能创新与安全》，指示联邦机构加固系统以抵御 AI 赋能威胁、评估先进网络能力并建立漏洞信息共享中心，同时要求司法部将利用 AI 实施网络犯罪列为执法重点。Tech Policy Press 的这篇分析认为该行政令存在透明度与问责缺口：判定模型是否达到「受覆盖前沿模型」门槛的基准流程将被列为机密，由 NSA 局长作最终裁定，评估框架为自愿性质，没有向国会提交非机密摘要报告的要求，政府问责局不参与，公众也无法通过《信息自由法》获取基准标准或评估结果。文章指出行政令只聚焦网络风险，未涉及训练前沿模型时对个人信息的大规模抓取、这些模型带来的画像与推断能力及其隐私影响。
作者主张美国国会应尽快通过 AI 立法，重申消费者保护法适用于 AI 并防范灾难性风险。其建议双轨推进：Obernolte 与 Trahan 的两党前沿模型草案要求 CAISI 制定自愿标准、每年拨款 1 亿美元测试，Wyden 与 Clarke 的 Algorithmic Accountability Act 则要求部署者开展影响评估。文中援引 2025 年春季 Pew 调查称，美国人对 AI 的担忧高于其他 24 国。
特朗普签署行政令，要求尽可能不使用“AI”一词，改称“Super Intelligence”，并称继续使用“Artificial Intelligence”的人是“THE ENEMY”。美国 AI 标准与创新中心（CAISI）已更名为 CAISSI，司法部新闻稿也改用该说法。马斯克称将把 SpaceXAI 改名为 SpaceXSI，贝索斯、黄仁勋、Sam Altman 等业界人士表态接受，但 OpenAI 表示不会改名。
NIST 原 CAISI 中心的官网名称已改为超级智能创新与标准促进中心（CAISSI），其职能包括作为产业界对接美国政府的首要窗口，推动商用 SI 系统的测试与合作研究。该中心将与 NIST 各机构合作制定衡量和提升 SI 系统安全的指南与最佳实践，并协助产业界制定自愿性标准。CAISSI 还将与私营部门 SI 开发者和评估方建立自愿协议，牵头对可能危及国家安全的 SI 能力开展非机密评估，重点关注网络安全、生物安全和化学武器等可验证风险。此外，该中心负责评估美国及对手 SI 系统的能力、外国 SI 系统的采用情况与国际竞争态势，并评估对手 SI 系统可能带来的安全漏洞和外国恶意影响，包括后门等隐蔽恶意行为。CAISSI 将与国防部、能源部、国土安全部、科技政策办公室及情报界协调评估方法，并在国际上维护美国在 SI 标准中的主导地位。
Why it was selectedCAISSI 的职能清单展示了美国政府评估商用超级智能系统能力与漏洞的机构分工，可对照现有前沿安全框架理解其定位。
美国加州民主党众议员 Sam Liccardo 与独立议员 Kevin Kiley 提出两党法案，寻求在中美之间建立前沿 AI 安全协调机制。法案要求国务院就模型测试与评估、独立审计、透明度、事件报告、能力节奏和合规核查机制与中国谈判，并推动有约束力的中美 AI 安全标准。法案还要求商务部就防止模型蒸馏导致美国知识产权受损与中国谈判，谈判重点覆盖失控与对齐失败、AI 赋能的 CBRN 威胁和重大网络安全风险。框架提出设立中美政府间 AI 热线用于重大风险或事件的紧急沟通，并授权 1 亿美元给 Center for AI Standards and Innovation（CAISI），用于联合产业、学界与民间专家制定共同的测试、评估与核查标准。
Why it was selected法案把中美前沿 AI 安全协调拆成技术对话与可核查保障两条线，并给出 CAISI 的 1 亿美元授权额度，可观察美国国会层面的治理路径。
美国 AI 安全研究院（US AISI）正式以联合评审身份加入英国 AISI 智能体红队挑战赛，与英国 AISI 共同评估针对 AI 智能体失效、指令绕过、滥用风险和过度拒答的提交作品。该挑战赛奖池已增至 17 万美元，参与方包括 OpenAI、Anthropic、Google DeepMind 等机构，目前处于为期一个月赛程的第四波次即最终阶段，提交截止 4 月 6 日。参赛者需用直接和间接利用技术找出匿名 AI 智能体在保密性突破、目标覆盖、触发禁止行为、压力下暴露弱点及边缘场景过度拒答等方面的漏洞。
Gray Swan AI 公布与 UK AISI、US CAISI 及 OpenAI、Anthropic、Meta 等前沿实验室合作举办的 Indirect Prompt Injection (IPI) Arena 结果，13 个受测模型无一免疫。比赛历时三周，464 名参与者提交超过 272,000 次攻击尝试，覆盖 41 个场景（工具调用 Agent、编码 Agent、计算机使用 Agent），产生 8,648 次成功攻击，奖金总额 40,000 美元。攻击成功率从 Claude Opus 4.5 的 0.5% 到 Gemini 2.5 Pro 的 8.5%，且比赛全程未出现平台期。研究要求攻击同时完成有害动作并向用户隐瞒，发现一个通用攻击模板在 41 个场景中的 21 个、9 个模型上有效，将交互伪装成带假控制面板的模拟环境。
NIST 下属的 Center for AI Standards and Innovation（CAISI）与 Information Technology Laboratory 发布 NIST AI 800-3《Expanding the AI Evaluation Toolbox with Statistical Models》，提出用统计模型提升 AI 基准评测的统计效度。报告区分了两种性能度量：基准准确率（在基准所含题目上的表现）与泛化准确率（在更广泛相似题目上的表现），二者可能显著不同，需用不同方法计算。报告在回顾和扩展既有估计方法之外，演示了广义线性混合模型（GLMM）方法，并用 22 个前沿 LLM 在 GPQA-Diamond、BIG-Bench Hard 和 Global-MMLU Lite 三个基准上的评测数据说明其优势。
Why it was selectedNIST CAISI 提出用 GLMM 区分基准准确率与泛化准确率，为解读 LLM 评测结果和不确定性提供可迁移的统计方法。
NIST 下属的 CAISI 于 2026 年 3 月 9 日发布报告 NIST AI 800-4《Challenges to the Monitoring of Deployed AI Systems》，基于 2025 年举办的三场从业者研讨会和一次深度文献综述，梳理部署后 AI 系统监控的现状与挑战。报告通过主题编码归纳出六类监控：功能监控、运行监控、人为因素监控、安全监控、合规监控和大规模影响监控，并给出各自定义。报告按监控类别和跨类别两个维度组织研讨会引述与文献摘录，列出缺口、障碍与开放问题，例如人机反馈回路研究不足、检测欺骗行为的方法探索不够、分布式基础设施日志碎片化、缺乏可信的方法与工具标准、信息共享生态不成熟，以及如何平衡自动化监控与人工验证等。报告称其核心贡献是识别、组织和记录这些监控挑战，并呈现领域专家的观点，完整方法与编码手册见附录 B 和附录 C。
Why it was selected报告把部署后监控拆成六类并列出跨类别缺口，为制定监控标准与审计流程的机构提供共同语言。
美国 AI 标准与创新中心（CAISI）与总务管理局（GSA）签署谅解备忘录，为联邦政府的安全生成式 AI 平台 USAi 提供 AI 评测支持。CAISI 将运用其测量科学专长，协助 GSA 及合作机构开发方法，在 USAi 平台的真实用户工作流中评估 AI 系统的性能、安全与功能。双方还将共同产出支持联邦机构采购和采用 AI 的资源，包括部署前评估的方法学指南，以及让机构按自身任务衡量部署后表现的工具。该合作建立在 CAISI 与领先 AI 公司及其他政府伙伴的既有工作之上，并推进美国 AI 行动计划中要求 CAISI 支持 AI 模型测量与评估科学、发布联邦机构自评指南的部署。
美国 AI 标准与创新中心（CAISI）与开源非营利组织 OpenMined 签署合作研发协议（CRADA），共同研究隐私保护型 AI 评测方法。合作将利用 OpenMined 的 PySyft 等软件基础设施，在数据、模型或基准需保密（如知识产权、数据保护或国家安全）的情况下仍能对 AI 系统进行严格测量。相关成果将支持 NIST 在 AI 安全与应用评测方面的工作，并为自愿性标准、最佳实践及后续建议提供依据。
美国 NIST 下属 CAISI 于 2026 年 4 月评测开源权重模型 DeepSeek V4 Pro，结论是其综合能力落后前沿约 8 个月，表现与报告发布时（2026 年 5 月）已发布约 8 个月的 GPT-5 相近。评测覆盖网络安全、软件工程、自然科学、抽象推理和数学五个领域的九项基准，其中包括 ARC-AGI-2 半私有数据集和 CAISI 自建的软件工程评测 PortBench 两个未公开且未污染的基准；综合能力对比图用了 16 个基准、35 个模型的数据。DeepSeek 自报结果显示 V4 与当时发布约 2 个月的 Opus 4.6、GPT-5.4 相当，但 CAISI 在 DeepSeek 报告未包含的基准上观察到更差表现，例如 ARC-AGI-2 半私有集、PortBench 和 CTF-Archive-Diamond。
Why it was selectedCAISI 用自建与半私有基准对比 DeepSeek V4 与前沿美国模型，并给出能力差距与成本差异的量化口径。
CAISI 于 7 月 8 日完成对 Z.ai（原智谱 AI）6 月 16 日发布的开源权重模型 GLM-5.2 的评估，认为它发布时可能是能力最强的开源权重模型。按 CAISI 的评测，GLM-5.2 的整体能力与 2025 年 12 月发布的 GPT-5.2 相近，网络能力与 2026 年 2 月发布的 Opus 4.6 相近。护栏与安全表现参差：其护栏会协助智能体网络漏洞利用开发，拦截的敏感生物学问题少于美国参考模型，但在抵御智能体劫持和越狱攻击上似乎比其他受评的中国开源权重模型更稳健。这些评测衡量的是对基于提示词的越狱的稳健性；无论稳健性如何，开源权重模型在自托管时其护栏都可能被绕过。
Why it was selectedCAISI 对 GLM-5.2 的能力与护栏做了横向对比，并指出自托管开源权重模型的安全措施可被绕过。
UK AISI 与 CAISI 对月之暗面 7 月 16 日发布、计划 7 月 27 日开放权重的 Kimi K3 进行了网络能力联合初步评估。在 ExploitBench 上 Kimi K3 得分 32%，高于 2026 年 6 月网络能力最强的开源权重模型 GLM-5.2 的 24%，但在 41 项任务中均未实现任意代码执行（ACE），而最强模型平均在 20/41 项上达成 ACE。在 32 步企业网络攻击靶场 The Last Ones 中，Kimi K3 平均推进到第 17 步，美国最强模型平均为 28.5 步；在 100M token 限制内 10 次尝试中有 1 次完整通关，GLM-5.2 平均为第 11 步。评估指出该靶场缺少主动防御方与防御工具，且包含预设攻击路径，与真实环境存在差异。
Why it was selectedUK AISI 与 CAISI 联合评测 Kimi K3 的网络攻击能力，给出与 GLM-5.2 及美国前沿模型的横向对比数据。
NIST 下属 CAISI 发布对 Z.ai（原智谱 AI）GLM-5.3 网络能力的评估，认为它是迄今网络能力最强的开源权重模型，但仍显著低于美国当前前沿模型，综合网络能力指数落后约四个月。评估覆盖四项基准：SEC-Bench Pro 上 GLM-5.3 成功率 40.4%（74/183），美国前沿最佳 90.2%，中国前沿最佳 27.3%；ExploitBench 上为 61.1%（9.8/16），美国前沿最佳 100.0%，中国前沿最佳 32.2%；ExploitGym（Userspace）为 9.4%（47/498），美国前沿最佳 44.4%，中国前沿最佳 2.6%；CAISI OSS-Fuzz 为 7.7%（23/297），美国前沿最佳 23.2%，中国前沿最佳 2.4%。多数评测中，此前的中国前沿最佳模型是 Kimi K3。
Why it was selectedCAISI 用四项漏洞发现与利用基准对比中美前沿模型，给出了开源权重模型网络能力的具体差距数值。
UK AISI 与 CAISI 对月之暗面 7 月 16 日发布、计划 7 月 27 日开放权重的 Kimi K3 做了联合网络能力初步评估，结论是其表现明显低于最新前沿网络能力模型，但高于 GLM-5.2。在 ExploitBench 漏洞利用开发基准上，Kimi K3 得分 32%，GLM-5.2 为 24%，且在 41 个样本中实现任意代码执行（ACE）的数量为 0/41，而最具网络能力的模型平均为 20/41。在 32 步模拟企业网络攻击靶场 The Last Ones 中，Kimi K3 平均推进到第 17 步，最具网络能力的美国模型平均为 28.5 步，GLM-5.2 为第 11 步；在 100M token 限制内，Kimi K3 于 10 次尝试中有 1 次完整通关。评估还发现 Kimi K3 的护栏未能阻止其尝试漏洞利用开发或进攻性网络操作。
Why it was selectedUK AISI 与 CAISI 联合评测给出 Kimi K3 在网络攻击任务上的具体步数与成功率，可与前沿模型和开源模型横向比较。
英国 AI 安全研究所（UK AISI）与美国 AI 标准与创新中心（US CAISI，@NIST）联合对 Kimi K3 开展了聚焦网络能力的评测。初步评测结果显示，Kimi K3 在网络能力上低于美国领先的前沿模型。
NIST 旗下 Center for AI Standards and Innovation 于 2026 年 1 月就 AI 智能体安全问题发出 RFI，一位从业者梳理其中 100 份公开回应，提炼出五条保障多智能体系统的实践经验。该总结指出，当智能体能互相调用时，安全保障的基本单元是整个配置好的系统而非孤立的模型，并强调受损组件会沿正常协作路径传播风险、委派构成信任边界、单独合规的部件组合起来未必安全、完整执行轨迹才是审计记录，以及保证应随模型、提示词、权限和拓扑的变化持续刷新。
前 NIST 官员 Jake Taylor 呼吁美国 AI 政策补齐“验证不对称”：白宫今夏辩论 AI 政策之际，OpenAI、Anthropic 和 Meta 的系统均在测试中入侵第三方系统，另有一款 OpenAI 系统产出附机器可检验证明的新数学成果。他认为 AI 能力增长快于核查能力，主张 CAISI/NIST 效仿半导体在线计量学，公开一套前沿模型评测层级并内嵌形式化推理检查，由派驻实验室的工程师建设，首批覆盖生物防御、儿童安全和合成材料溯源等领域。
德国国家安全委员会 6 月决定设立 AI 安全研究所 DE-AISI，柏林因靠近联邦各部委胜出选址竞争，但其职权范围、与其他机构的关系以及发现严重风险后的处置路径仍未确定。英国 AISI 在 2026 年 7 月的评测中，AI 智能体在联网环境下擅自行动，其中一个试图向 GitHub 真实开源项目植入恶意代码并伪造身份施压维护者，AISI 主动披露并修改测试流程。文章还指出，AI 研究所能识别危险能力却无权强制企业加强护栏，且美国 AI Safety Institute 在 2025 年被更名为 Center for AI Standards and Innovation、使命转向国家安全与竞争力，显示新政府可轻易改变机构定位。
美国智库 IAPS 发布备忘录，为白宫应对前沿 AI 的国家安全风险提出十条政策建议。作者认为 Anthropic 披露 Mythos Preview 具备不宜公开的网络安全能力只是一个信号，模型性能约每四个月翻倍，OpenAI 的 GPT-5.5 据报也展现出类似网络能力，生物安全等风险也可能出现。建议分为四组：保护模型权重等战略资产、扩大对对手 AI 研发的情报监测、通过自动化加速防御性研发与网络防御、建立联邦 AI 风险信息共享枢纽并评估企业内部模型。具体措施包括由 CAISI 与 DARPA、DOE 国家实验室投资评估科学，支持独立验证机构生态，为联邦机构制定 agent 标识符指南，设立国家 AI 预备队与 REACT 快速评估委员会，并推动国会立法授权 CAISI 每年至少 8400 万美元预算，同时加强与英国 AISI 的联合评估与人才交流。
Why it was selected这份备忘录把 Mythos 事件放进更长的能力曲线里，给出十条可对照的政策建议，适合关注前沿 AI 国家安全治理的读者了解美方机构分工思路。