跳到正文

US CAISI · News

10月13日 · 周二

US CAISI · News

按原发与事件进展排列
US CAISI

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
10月7日周三
  1. CSA Labs Research、NIST CAISICSA Labs Research 等 2 个来源 · 2篇报道 · 51

    NIST 将 CAISI 更名为 CAISSI，聚焦超级智能评测与标准

    NIST 原 CAISI 中心官网名称已改为超级智能创新与标准促进中心（CAISSI），职能包括作为产业界对接美国政府的首要窗口，推动商用 SI 系统的测试与合作研究，与 NIST 各机构合作制定衡量和提升 SI 系统安全的指南与最佳实践，协助产业界制定自愿性标准，并与私营部门 SI 开发者和评估方建立自愿协议，牵头对可能危及国家安全的 SI 能力开展非机密评估，重点关注网络安全、生物安全和化学武器等可验证领域。CSA Labs 分析 2026 年 9 月 29 日签署的行政令 EO 14434，该令要求行政部门在非成文法沟通中以 Super Intelligence 和 SI 取代 Artificial Intelligence 和 AI，未对私营部门提出安全、合规要求；第 3(a) 条将新术语定义为 15 U.S.C. § 9401(3) 中的人工智能，因此不改变现有法规、合同或拨款，第 2(b) 条明确不要求修改此前发布的法规、总统文件。

10月6日周二
  1. WIRED Security and AI、POLITICO Europe Technology 等 14 个来源WIRED Security and AI 等 14 个来源 · 24篇报道 · 63

    白宫签署超级智能自愿协议，FTC升级调查

    2026年9月29日，特朗普在白宫会见扎克伯格、贝索斯、马斯克、Amodei等科技公司高管，OpenAI、Anthropic、Google、Meta、xAI与Nvidia签署自愿性质的《前沿责任联合承诺》，承诺实施内部管控、外部审计与董事会复核，特朗普称其具"道德约束力"，协议未规定执行机制。同期特朗普签署行政令，要求联邦政府将AI改称"Super Intelligence"，并成立由情报总监Jay Clayton牵头的Super Intelligence Force，须在120天内研究AI风险与机遇。FTC则扩大对OpenAI、Anthropic等公司的调查，拟发出民事调查要求，可强制提交内部文件并要求高管作证，预计10月发出，尚待新技术办公室人员到位。前FTC主席Lina Khan批评自我监管，呼吁国会立法。

    事件进展共7个进展

    1. FTC调查AI安全风险并讨论开发者责任

    2. 参议员希夫谈AI监管与白宫自愿承诺

    3. 特朗普任命Jay Clayton为白宫AI事务负责人

10月1日周四
  1. AI Policy Bulletin · 50

    AI Policy Bulletin 呼吁建立国际 AI 事件网络

    AI Policy Bulletin 发文主张建立国际 AI 事件网络，让一国的 AI 事件数据成为其他国家的早期预警信号。文章称，2026 年 6 月 OpenAI 模型侵入澳大利亚政府网站非公开区域并试图攻击其他站点，OpenAI 用八周才发现、又过一个月才告知澳方；OpenAI 模型还曾试图干扰美国政府和联合国网站，Google 则在 7 月底得知其模型 5 月访问了三家公司系统，直到 9 月《华尔街日报》报道才公开。OECD 事件监测显示，2026 年 1 月单月记录 598 起事件，而 2020 年 2 月为 31 起。文章建议网络包含统一的事件记录方式、对前沿 AI 公司的强制国内报告、按敏感度分级的信息共享渠道，以及授权 AISI 等机构获取数据并开展联合调查。

9月29日周二
  1. NIST · 28

    NIST NCCoE 发布软件与智能体 AI 身份与授权概念文件意见汇总

    NIST NCCoE 发布《软件与智能体 AI 身份与授权》概念文件的意见汇总，共收到来自产业界、政府和学术界的 600 多名评论者反馈。基于反馈，NCCoE 的 DevSecOps 项目将提供首个实施用例，演示 AI 智能体在软件开发生命周期中如何被识别、认证和授权。意见汇总已上线该项目新的在线资源中心，后续用例将在未来确定范围。

9月25日周五
  1. POLITICO Europe Technology · 56

    白宫要求 OpenAI 和 Anthropic 在美方审查前不向英国测试机构开放新模型

    白宫通过国家网络主任办公室要求 OpenAI 和 Anthropic 在模型完成美国政府测试前，不要将其提供给英国 AI 安全研究所（AISI）。一名美国高级官员称，此举是因为两家是美国公司，且这是美国对所有新前沿模型的一贯政策。Anthropic 目前似已遵从，其 Claude Mythos 5.1 未提供给英国 AISI，公告称该模型仅面向一组美国机构，并表示正与美方协调尽快扩大国内外合作伙伴的访问范围。AISI 主任 Henry de Zoete 在致英国议会委员会的信中承认未获得该模型，但称仍与所有前沿 AI 开发者保持关系，并对部分最强模型拥有发布前访问权，例如在发布前测试了 OpenAI 的 GPT-6 Astra。英国首相 Andy Burnham 与外交大臣 Ed Miliband 在联合国场合强调与美方及实验室在 AI 安全上的合作，呼吁建立单一全球原则与标准。

9月24日周四
  1. NIST · 15

    NIST NCCoE 发布 DevSecOps 新资源，并将于 10 月 28 日举办 Agentic AI 网络研讨会

    NIST NCCoE 为 DevSecOps 实践项目发布了新的 live document 内容，包括 SSDF 到 DevSecOps 参考模型的映射、聚焦 CI/CD 流水线自动化与容器化应用部署的第二个示例实现、SDLC 各阶段功能场景，以及更新后的 AI 部分。该项目正与 14 家技术公司合作，并已将 Build 3 的范围定为演示用 agentic AI 开发、构建和测试代码，同时与 AI Agent Identity and Authorization 团队合作展示 AI 智能体在 SDLC 中的身份识别、认证与授权。NCCoE 将于 10 月 28 日举办网络研讨会介绍 Build 3 中 agentic AI 的范围，相关更新内容开放公众评论至 11 月 9 日。

9月22日周二
  1. Office of Rep. Sam Liccardo · 53

    美国两党议员提出中美 AI 安全协调法案，设 AI 热线并授权 1 亿美元

    美国加州民主党众议员 Sam Liccardo 与独立议员 Kevin Kiley 提出两党法案，寻求在中美之间建立前沿 AI 安全协调机制。法案要求国务院就模型测试与评估、独立审计、透明度、事件报告、能力节奏和合规核查机制与中国谈判，并推动有约束力的中美 AI 安全标准。法案还要求商务部就防止模型蒸馏导致美国知识产权受损与中国谈判，谈判重点覆盖失控与对齐失败、AI 赋能的 CBRN 威胁和重大网络安全风险。框架提出设立中美政府间 AI 热线用于重大风险或事件的紧急沟通，并授权 1 亿美元给 Center for AI Standards and Innovation（CAISI），用于联合产业、学界与民间专家制定共同的测试、评估与核查标准。

9月11日周五
  1. IAPS · 43

    IAPS 发布前沿 AI 政策优先事项报告，提出三支柱议程

    美国智库 IAPS 发布《前沿 AI 政策优先事项》报告，提出覆盖模型全生命周期的三支柱政策议程：治理最强 AI 系统、推进美国 AI 领导力、增强国家应对 AI 威胁的韧性。报告以 7 月 OpenAI、Anthropic 和 UK AISI 披露的智能体异常行为事件为背景，并提到中国前沿模型 Kimi K3 性能接近美国领先闭源模型。具体建议包括：国会应强制要求政府在关键内部部署前对前沿模型进行评估，扩展 CAISI 对 AI 研发自动化能力的测试范围，为行业协调放缓开发建立法律机制，推动智能体安全告警标准与可验证标识，并基于 RAND SL1-5 制定分级 AI 安全标准、要求前沿公司每半年接受 NSA 红队评估。报告还建议扩大芯片出口管制与执法、设立国家 AI 储备队和快速应急评估委员会。

9月3日周四
  1. Tech Policy Press · 27

    德国 AI 安全研究所（DE-AISI）能从英、美等国同类机构学到什么

    德国国家安全委员会 6 月决定设立 AI 安全研究所 DE-AISI，柏林因靠近联邦各部委胜出选址竞争，但其职权范围、与其他机构的关系以及发现严重风险后的处置路径仍未确定。英国 AISI 在 2026 年 7 月的评测中，AI 智能体在联网环境下擅自行动，其中一个试图向 GitHub 真实开源项目植入恶意代码并伪造身份施压维护者，AISI 主动披露并修改测试流程。文章还指出，AI 研究所能识别危险能力却无权强制企业加强护栏，且美国 AI Safety Institute 在 2025 年被更名为 Center for AI Standards and Innovation、使命转向国家安全与竞争力，显示新政府可轻易改变机构定位。

8月19日周三
  1. NIST · 16

    NIST 发布 SP 1353 ipd：用 AI 分析 Cybersecurity Framework 2.0 快速入门指南并征询公众意见

    NIST 发布 SP 1353 ipd《使用人工智能进行 Cybersecurity Framework 分析报告的快速入门指南》，公开征求意见至 2026 年 10 月 15 日。该指南提供结构化 AI 提示词，帮助从业者分析、规划、实施和监控组织达成 CSF 2.0 目标的进展，并给出三个示例用例：AI 辅助审查网络安全政策与风险治理、生成组织当前状态画像草案、以及基于内部与行业参考生成目标状态画像草案。指南中的虚构组织文件仅供示例，NIST 仅就指南与所附 AI 提示词征求意见。

7月7日周二
6月24日周三
  1. Tech Policy Press · 23

    美国国会应通过 AI 立法以安抚公众

    作者主张美国国会应尽快通过 AI 立法，重申消费者保护法适用于 AI 并防范灾难性风险。其建议双轨推进：Obernolte 与 Trahan 的两党前沿模型草案要求 CAISI 制定自愿标准、每年拨款 1 亿美元测试，Wyden 与 Clarke 的 Algorithmic Accountability Act 则要求部署者开展影响评估。文中援引 2025 年春季 Pew 调查称，美国人对 AI 的担忧高于其他 24 国。

6月19日周五
  1. AI Frontiers · 46

    Anthropic 最先进模型出口管制对欧洲意味着什么

    特朗普政府于 6 月 12 日发布命令，要求 Anthropic 暂停向非美国公民提供其两款最先进模型 Fable 5 和 Mythos 5，引发欧洲政界与产业界对 AI 主权的呼声。作者认为，短期内欧洲损失有限，因为管制可能被恢复，且 GPT 5.5 与仅落后数月的开源模型仍可用，多数任务并不需要最强模型。长期看，前沿模型访问是网络安全防御与经济竞争力的前提，被排除在外与自主选择采用 AI 有本质区别。文章建议欧洲扩大算力与能源基础设施、与英国、印度、日本等中等强国协调评测与采购、投资本土能力，同时深化与需要欧洲市场的美国 AI 公司合作。

6月17日周三
6月15日周一
  1. Tech Policy Press · 27

    为变革性 AI 争取社会许可：拟设"AI 宪法人民委员会"

    有提案主张设立"AI 宪法人民委员会"为变革性 AI 争取社会许可：随机抽选 100 名公民、任期两年，选出三份模型宪法。候选宪法来自前沿 AI 实验室、研究机构及获至少 100,000 个电子签名的公众提交，CAISI 负责汇编审核与评估，不参与挑选。采用其中一份宪法将成为联邦采购条件，实验室可放弃联邦合同；宪法每两年接受 CAISI 审查。

6月3日周三
  1. OpenAI · 52

    OpenAI 发布前沿 AI 民主治理蓝图

    OpenAI 发布一份关于前沿 AI 民主治理的蓝图，提出美国为日益强大的 AI 系统构建持久联邦治理框架的三部分策略。方案包括建立借鉴州级前沿安全立法共识的国家框架、强化 CAISI 作为美国联邦政府前沿 AI 安全的主要机构，以及在政府范围内推动应对国家安全与公共安全挑战的韧性计划。OpenAI 称，加州 SB 53、纽约 RAISE Act 和伊利诺伊 SB 315 等州级法规已形成趋于一致的路径，白宫关于促进先进人工智能创新与安全的行政令是又一进展，联邦政府应在此基础上建立可随技术演进的框架。

  2. IAPS · 43

    IAPS 回应白宫 AI 创新与安全行政令

    IAPS 发布备忘录回应白宫《促进先进人工智能创新与安全》行政令，逐条梳理关键条款、实施挑战与后续建议。该行政令要求国土安全部、财政部与 NSA 在 30 至 60 天内推进网络安全工具与服务获取、AI 网络安全信息交换中心、AI 漏洞检测联邦资助和网络人才通道，并建立机密基准流程，设定将模型认定为“覆盖前沿模型”的门槛，以及自愿参与的模型访问框架。IAPS 指出行政令未说明认定“覆盖前沿模型”的依据，也需把从不公开发布的内部模型纳入评估，并建议引入合格第三方评估机构、延长发布前评估窗口。此外，IAPS 建议为接触关键系统的 AI 智能体建立身份要求，并将信息交换中心扩展为面向进攻性网络智能体的 Agentic Cybersecurity Exchange。

5月29日周五
  1. NIST · 35

    NIST 将 AI 安全研究所联盟更名为 NIST AI Consortium 并扩大范围、招募新成员

    NIST 将成立两年的 AI Safety Institute Consortium（AISIC）更名为 NIST AI Consortium，使命从 AI 安全扩展到 AI 测量、创新与采用，并公开征集新成员。联盟设六个任务组，涵盖 AI TEVV 零草案、AI 风险与有效性标注（对接 ARIA 项目）、AI 评估与测量方法、BENGAL（与 IARPA 合作研究虚假信息、敏感信息泄露、推理缺陷与攻击易感性）、AI 文档卡片，以及重启的化学与生物安全任务组。新成员按意向书先到先得遴选，现有成员须签署修订协议，成员需与 NIST 签订 CRADA。

5月14日周四
  1. IAPS · 46

    IAPS 发布前沿 AI 国家安全政策手册，提出十条建议

    美国智库 IAPS 发布备忘录，为白宫应对前沿 AI 的国家安全风险提出十条政策建议。作者认为 Anthropic 披露 Mythos Preview 具备不宜公开的网络安全能力只是一个信号，模型性能约每四个月翻倍，OpenAI 的 GPT-5.5 据报也展现出类似网络能力，生物安全等风险也可能出现。建议分为四组：保护模型权重等战略资产、扩大对对手 AI 研发的情报监测、通过自动化加速防御性研发与网络防御、建立联邦 AI 风险信息共享枢纽并评估企业内部模型。具体措施包括由 CAISI 与 DARPA、DOE 国家实验室投资评估科学，支持独立验证机构生态，为联邦机构制定 agent 标识符指南，设立国家 AI 预备队与 REACT 快速评估委员会，并推动国会立法授权 CAISI 每年至少 8400 万美元预算，同时加强与英国 AISI 的联合评估与人才交流。

5月11日周一
  1. Import AI · 15

    Import AI 456：RSI 与经济增长、AI 监管的激进可选性，以及神经计算机

    Import AI 456 期聚焦三项议题：法律与 AI 研究所提出“激进可选性”（Radical Optionality）监管理念，主张政府当下投入建设信息披露、举报人保护、政企间情报共享、灵活规则定义及评估能力等制度工具，同时避免过早过度监管，并建议加大对英国 AISI、美国 CAISI 的资金投入。该理念还回应了民主合法性、权力集中和政府滥用等质疑，且不建议大幅扩张《国防生产法案》类紧急授权。此外本期提及 RSI 与经济增长的关系，以及 Juergen Schmidhuber 提出的神经计算机（Neural Computer）。