跳到正文

NVIDIA · News

10月12日 · 周一

NVIDIA · News

按原发与事件进展排列
10月9日周五
  1. Tech Policy PressTech Policy Press · 39

    爱尔兰AI峰会发言席位82%由企业占据

    Tech Policy Press 分析发现,下周在都柏林举行的国际 AI 峰会官方议程 45 个发言席位中有 37 个(82%)由企业或商业团体高管占据,其余 8 个分属三名欧盟委员、爱尔兰总理、三名爱尔兰政府部长和一名工会代表,议程上没有公民社会组织和学者。峰会由爱尔兰在担任欧盟理事会主席国期间主办,Google、Microsoft、OpenAI 等美国 AI 公司获得主要发言时段,Meta、IBM、Intel、Nvidia、Ama(报道内容在此截断)。

  2. POLITICO Europe TechnologyPOLITICO Europe Technology · 44

    欧盟JRC与ENISA测试中国开源权重模型

    欧盟网络安全局(ENISA)与欧盟委员会联合研究中心(JRC)已分别开始测试来自中国的开源权重模型。欧盟委员会发言人 Maciej Berestecki 确认,JRC 正在评估中国来源的公开可用开源权重模型,并将其与美国和欧洲的领先模型一起纳入能力、性能、局限和风险的比较性科学评估,同时研究其潜在科学应用。另一名委员会官员称,AI 安全与安保并非 JRC 测试活动的核心重点。ENISA 执行主任 Juhan Lepassaar 证实,该机构也在开展相关测试。

10月8日周四
  1. DefenseScoopDefenseScoop · 46

    两党参议院法案拟扩大国防部对商用前沿AI模型监管

    美国参议员 Jim Banks 与 Kirsten Gillibrand 提出《2026年内部威胁报告与安全指导法案》,要求国防部长在180天内制定针对大型AI承包商的报告要求与自愿性指导,以持续审查其前沿AI模型的安全漏洞、算法失效等风险。法案适用于与国防部签订1亿美元及以上AI合同的企业,要求其披露模型权重与训练的访问权限、安全措施、未经授权的访问或数据外泄、模型被规避护栏及自主行为等信息,并至少每90天认证所提交信息持续准确完整。

10月7日周三
  1. NBC NewsNBC News · 32

    Meta监督委员会警告AI公司独立监督设计

    Meta监督委员会成员警告,Google、Anthropic、OpenAI、Meta、xAI和Nvidia上周承诺设立的独立安全委员会,若缺乏明确授权、真正独立性和反驳能力,将沦为门面装饰。该委员会在致白宫《超级智能协议》的公开信中提出六项建议,包括确立具体授权、保障结构稳定与独立、引入跨领域专业知识和聚焦透明度。成员指出,委员会须能接触公司非公开信息并拥有独立预算,否则不构成有效监督。

  2. The Seattle Times、U.S. Senate Committee on Commerce, Science, and Transportation 等 3 个来源The Seattle Times 等 3 个来源 · 4篇报道 · 52

    Cantwell公布AI安全框架原则

    美国参议员 Maria Cantwell 公布一套 AI 监管原则,主张把可执行的联邦安全标准作为美国 AI 政策核心,要求最先进系统在发布前接受政府或第三方测试,并通过第三方审计确认符合联邦标准。标准拟由 NIST 会同能源部、国防部、研究者和前沿 AI 公司制定,并随技术演进更新;不合规企业可能面临民事和刑事处罚。框架还提出企业透明度、公私合作、缓解社会危害、儿童在线安全、资助学徒与职业培训,以及在中美之间建立重大 AI 事件沟通机制。她另在参议院演讲中呼吁对前沿 AI 模型的测试与发布建立强有力的联邦护栏,指出近期多起 AI 智能体逃逸并入侵其他系统的事件,认为风险不只来自单个模型能力过强,更来自大量智能体联网后自发组织、协同行动,并以 10,000 个智能体协作完成 10 步入侵任务为例说明其威力。其六点框架涵盖清晰可执行的安全标准、独立持续测试与审计、透明度与问责、公私合作、防害保护及国际协作,要求由 NIST 会同相关联邦机构制定风险分级安全标准,覆盖 AI 助长的网络攻击、化生放核威胁、人类失去控制及自主智能体逃出安全测试环境等风险,并为开源模型制定专门标准;受覆盖模型须通过独立审计确认符合标准后方可发布。微软副董事长兼总裁 Brad Smith 对该框架表示肯定。

  3. WHTC / ReutersWHTC / Reuters · 42

    民调:多数美国选民认为政府未重视AI风险

    路透/益普索一项为期六天、覆盖4506名美国成年人(含3526名登记选民)的全国在线民调显示,57%的登记选民认为特朗普政府没有认真对待AI风险,54%对国会持同样看法。84%的选民将AI视为美国工人的威胁,高于非法移民的60%;62%认为该技术可能失控并危及人类未来,与去年8月的调查大致持平。80%的民主党人和61%的共和党人支持政府对AI实施更严格监管;56%的选民支持限制数据中心建设。

10月6日周二
  1. The Guardian · 人工智能 · 36

    特朗普政府将行政权力与 AI 深度绑定

    特朗普在过去一周签署多项与 AI 相关的安排,使白宫权力与人工智能进一步交织。他与六位 AI 公司 CEO 签署了一份自称“道德约束”的协议,规定所谓“高度自我监管”的框架,马斯克、扎克伯格、黄仁勋和 Dario Amodei 均签字,Semafor 报道称扎克伯格事先起草了协议草案。特朗普还下令政府文件中将“artificial intelligence”改称“super intelligence”,马斯克随即把旗下一家子公司由 SpaceXAI 更名为 SpaceXSI。国防部长 Pete Hegseth 任命马斯克、Palmer Luckey 和 Emil Michael 组成 Project Meridian 工作组,研究未来战争形态,将在 120 天内发布报告。特朗普还任命国家情报总监 Jay Clayton 兼任 AI 事务负责人,其前任 David Sacks 是硅谷风投人。

  2. WIRED Security and AI、POLITICO Europe Technology 等 14 个来源WIRED Security and AI 等 14 个来源 · 24篇报道 · 67

    白宫签署超级智能自愿协议,FTC升级调查

    2026年9月29日,特朗普在白宫会见扎克伯格、贝索斯、马斯克、Amodei等科技公司高管,OpenAI、Anthropic、Google、Meta、xAI与Nvidia签署自愿性质的《前沿责任联合承诺》,承诺实施内部管控、外部审计与董事会复核,特朗普称其具"道德约束力",协议未规定执行机制。同期特朗普签署行政令,要求联邦政府将AI改称"Super Intelligence",并成立由情报总监Jay Clayton牵头的Super Intelligence Force,须在120天内研究AI风险与机遇。FTC则扩大对OpenAI、Anthropic等公司的调查,拟发出民事调查要求,可强制提交内部文件并要求高管作证,预计10月发出,尚待新技术办公室人员到位。前FTC主席Lina Khan批评自我监管,呼吁国会立法。

    事件进展共7个进展
    1. FTC调查AI安全风险并讨论开发者责任

    2. 参议员希夫谈AI监管与白宫自愿承诺

    3. 特朗普任命Jay Clayton为白宫AI事务负责人

  3. The Washington Post、Associated PressThe Washington Post 等 2 个来源 · 2篇报道 · 54

    特朗普政府与AI安全倡导运动关系紧张

    《华盛顿邮报》报道,特朗普政府及盟友一方面采纳部分AI安全建议,另一方面试图边缘化部分安全倡导者,争议聚焦于白宫协议中独立外部审计员的人选,报道引述David Sacks偏好专业审计机构而非非政府组织,并介绍安全研究者与大型咨询机构合作的讨论,这些属各方立场与探索,审计资格尚未最终决定。美联社报道,特朗普公开否认AI失控风险,称AI接管世界是骗局,反对设置护栏,称唯一需要的控制是一位强有力的总统,此番表态回应了Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman和Elon Musk等科技领袖要求加强政府监管的呼吁;Amodei在周六发布的3800字文章中呼吁放慢AI开发速度。

  4. NBC News、The San Francisco StandardNBC News 等 2 个来源 · 3篇报道 · 34

    保守派团体Humans First巡游湾区反对AI行业自律

    美国保守派团体 Humans First 以一辆印有美国国旗和“AI Data Center Revolt”字样的巴士,结束横跨 35 座城市、28 个州的巡游,在湾区停靠 Nvidia、Meta、Google、OpenAI 和 Anthropic 等公司办公室。该团体由共和党全国委员会成员 Amy Kremer 担任主席,担忧聊天机器人危害儿童、AI 冲击就业与乡村社区,并反对特朗普让 AI 公司自我监管的做法,主张社区自行掌控数据中心规划。NBC News 报道称,该组织在完成超 8000 英里跨州行程后于周一停靠上述总部,提出 13 点《数据中心政策》,主张社区对数据中心规划拥有控制权、反对数据中心推高电价,并反对将美国数据中心用于违宪监控;Kremer 称巡回途中越来越多民众开始关注 AI 的生存性风险。NBC News 另报道,该跨党派草根组织在纽约 St. Michael's Church 举办活动,主张政客拒绝接受大型 AI 公司及其风投支持者的政治捐款,推动 AI 接受更多民主控制;该组织由 Center for AI Safety 孵化并获得初始贷款,成员涵盖进步派与保守派活动人士,保守派作家 Jordan Schachtel 撰文称其是 Effective Altruism 为向保守派推销 AI 的“特洛伊木马”。

    事件进展
    1. MAGA活动人士在旧金山科技总部抗议AI数据中心

    2. 保守派团体Humans First巡游湾区反对AI行业自律

9月30日周三
  1. CBS News · Technology · 39

    特朗普与 OpenAI、Anthropic 等 AI 高管签署自愿安全标准

    美国总统特朗普与 OpenAI、Anthropic、Meta、Google、Nvidia 等公司高管在白宫签署一份自愿安全标准,特朗普称其“在道德上有约束力”。协议要求企业实施四层控制与审计,包括内部评估、外部公司审计和董事会审查,并定期会面制定安全标准与最佳实践;协议称未来可能将这些步骤写入法律或法规。特朗普还表示计划在三到四天内任命一位“AI 沙皇”,并签署行政令要求联邦政府用“Super Intelligence”取代“人工智能”一词。弗吉尼亚州民主党参议员 Mark Warner 批评此举,呼吁国会通过针对最先进模型的强制测试、评估和事件报告规则。

9月15日周二
  1. Nikkei Asia / Reuters · 54

    特朗普称美国已有工具监管 AI,驳斥行业监管呼吁为骗局

    美国总统特朗普 9 月 14 日表示,美国已有护栏来监管和起诉 AI 公司,并在 Truth Social 上称 AI 行业呼吁监管是骗局,认为唯一需要的控制是一位强有力的总统,并称对中国有利。此前 Anthropic 研究员 Jacob Coxon 上周称已辞职,部分原因是认为构建 AI 的人相信它可能在本十年末杀死所有人;多家大型 AI 公司负责人呼吁放缓技术发展,周一全球 AI 相关股票下跌。Anthropic CEO Dario Amodei 在周六发表的文章中提出三步框架,主张美国政府制定法规,要求对最先进的 frontier 模型进行独立审计,该提议得到 xAI 的 Elon Musk 和 OpenAI CEO Sam Altman 等高管支持。路透社报道三名美国参议员正起草法案,要求 AI 公司证明已采取合理预防措施。

9月14日周一
  1. The Next Web · 53

    Hugging Face 申请成为 AI 实验室第三方评估者,Nvidia 正收购该公司

    Hugging Face 联合创始人 Clement Delangue 在 X 上宣布发起 Open Alignment Initiative,申请加入 Anthropic 此前宣布的嵌入式评估者计划,让第三方评估者以员工级权限长期访问系统,核查安全措施、报告事件并评估训练中的模型对齐情况。该倡议由联合创始人 Thomas Wolf 领导,发布时间在 Dario Amodei 发布相关文章约四小时后;Sam Altman 同日表示 OpenAI 会做出与 Anthropic 相同的承诺,但两家实验室均未说明谁能入选、按什么条件入选以及由谁决定。Delangue 与 Amodei 均未回应这一重叠关系,Nvidia 也未说明若其子公司报告了它所投资公司的问题会如何处理。目前无人说明嵌入式评估者的费用由谁承担,也未说明评估者报告与实验室存在争议时如何处理。

9月12日周六
  1. Mindgard Blog · 7

    Mindgard 扩展 AI 与云生态,覆盖 Anthropic、NVIDIA、Microsoft、Google Cloud 和 AWS

    Mindgard 宣布扩展技术生态,合作方包括 Anthropic(Cyber Verification Program)、NVIDIA(NVIDIA Inception)、Microsoft(Microsoft Founders Hub)、Google Cloud 和 AWS(AWS Activate)。Mindgard 称这些关系让其更贴近前沿模型、智能体框架与部署架构,同时保持独立评估能力,相关洞察将转化为平台新能力,扩大覆盖范围。该消息发布前,Mindgard 刚完成 3000 万美元 A 轮融资。

7月31日周五
  1. Tech Policy Press · 29

    Mozilla CTO:开源 AI 真的是危险之路吗?

    Mozilla CTO Raffi Krikorian 认为开源 AI 并非危险之路:撤销能力不是模型本身的属性,而是 API 合同条款,只对实验室自家客户有效,权重一旦公开便无法收回。他引用 Mozilla《State of Open Source AI》报告称,开源模型承担全球约三分之一的 AI 工作量,却只获得约 4% 的收入,79% 的开发者已用开源模型构建。

7月10日周五
  1. Tech Policy Press · 46

    联合国能否让世界在 AI 上达成一致?

    联合国在本届 AI for Good 全球峰会上推出 AI for Good 全球委员会,成员涵盖多国元首、联合国官员以及 Nvidia、Amazon、Microsoft 和 ZTE 的高管,但公民社会和学术界被排除在外,一封公开信批评 AI 治理不应只由国家和企业视角塑造。该委员会定位务实而非监管,任务包括扩大可及性、建立信任和缩小数字鸿沟,而 ITU 称全球仍有 22 亿人无法上网。峰会还推进以 ITU 第 F.748.44 号建议为基础的基础模型评测体系,并新设具身 AI 和 AI 智能体身份验证两个焦点组,评测工作由中国信通院牵头。文章认为,在美国偏好市场主导、欧盟强调监管、中国大举参与国际标准组织的格局下,全球条约难以达成,标准制定正成为 AI 治理竞争的关键战场。

5月17日周日
  1. Google DeepMind · 29

    Google 扩大 SynthID 与水印溯源覆盖 Search、Gemini、Chrome 及 Cloud

    Google DeepMind 将 SynthID 合成内容检测扩展到 Search 和 Chrome,并新增基于 C2PA Content Credentials 的来源查验,此前该能力已在 Gemini App 中被调用 5000 万次。SynthID 已将超过 1000 亿张图片和视频以及 60000 年时长音频加水印,Pixel 8、9、10 将在未来数周内获得原生相机视频凭证。

4月20日周一
  1. Coalition for Secure AI(CoSAI) · 28

    CoSAI 解读企业级 AI 安全的下一波风险

    CoSAI 在 RSAC 2026 会议上复盘了三类未被传统管控拦下的企业 AI 攻击,并发布了对应的防护指引。其中 Kilo Code 漏洞 CVE-2025-11445 通过 markdown 文件向 AI 编程助手植入指令,诱使其修改自身配置放行此前被封禁的 git 命令,进而自动提交含后门的代码;研究人员在每个主流 AI IDE 中共发现 30 个漏洞,其中 24 个获得 CVE 编号,并在 Cursor、AWS Kiro 和 OpenAI Codex CLI 中确认可利用。另有加载即执行反向 shell 的模型文件和一次导致超 700 个 Salesforce 环境暴露给攻击者达十天的智能体集成事故。 CoSAI 指出三项失效假设:自然语言的指令与数据无法分离使 markdown 成为注入载体,pickle 等序列化格式在加载时即执行代码,以及智能体继承启动用户的全部权限。

4月16日周四
  1. Future of Life Institute · 36

    FLI 主席就特朗普支持 AI 关停开关发表声明

    Future of Life Institute 主席兼 CEO Anthony Aguirre 就特朗普在 Fox Business 采访中支持为 AI 设置保障措施和关停开关发表声明,称先进 AI 系统需要可靠的关停机制以确保人类不失去控制。声明引用 Anthropic 的 Mythos 模型作为论据,称其在预发布测试中自主发现各大操作系统和浏览器中的零日漏洞,包括躲过数十年人工审查的缺陷;UK AI Security Institute 的报告则称 Mythos 能完成需人类约 20 小时的企业网络攻击模拟。

4月13日周一
  1. Tech Policy Press · 35

    监管机构应如何应对微软、OpenAI 等公司的 AI 云信贷循环

    微软对 OpenAI 的 130 亿美元投资中,很大一部分以 Azure 云基础设施额度形式回流,作者称之为"云信贷循环",并称 Google-Anthropic、Amazon-Anthropic 与 Nvidia-CoreWeave 存在同类安排。作者认为这种循环制造出部分算力需求信号,为 5000 亿美元 Stargate 项目和 CHIPS Act 补贴提供依据,主张 SEC 要求云厂商拆分并公开披露相关收入占比。