跳到正文

xAI

今天新收录 3 条(含旧文)
今天10月7日周三
  1. CRBC News · 收录 · 原文 日期未知↑577

    纽约市议会传唤 SpaceXAI,要求其出席 10 月 5 日 AI 安全听证会

    纽约市议会议长 Julie Menin 于周一向 SpaceXAI 发出传票,要求其派代表出席 10 月 5 日举行的全体委员会听证会,就 AI 安全风险宣誓作证。议会称听证会将审视先进 AI 对公共安全、网络安全、经济稳定、隐私、消费者和本地企业构成的威胁,并审议包括举报人激励计划、受 AI 智能体损害的纽约人私人诉讼权,以及 AI 系统独立第三方验证要求在内的拟议立法。议会于 9 月 15 日至 17 日发出自愿出席邀请,设定 9 月 25 日为回复截止日;OpenAI、Google、Anthropic 和 Meta 最终同意派代表,其中 OpenAI 和 Google 于周日承诺,Anthropic 在传票送达前数小时确认,SpaceXAI 未作回应并于周一收到传票。议会表示,若 SpaceXAI 拒绝配合,可能通过纽约州最高法院寻求强制执行。

    4 条报道 · 4 个来源查看事件时间线与全部报道

    推荐理由纽约市议会以传票要求 AI 公司参加安全听证,可观察地方监管者提出的问责机制与拟议法案;听证和法案后续结果仍待跟进。

  2. NBC News · 收录 · 原文 日期未知↑140

    NBC 报道 Humans First:AI 安全组织被指为 EA 的"特洛伊木马"

    美国 NBC News 报道,跨党派草根组织 Humans First 在纽约 St. Michael's Church 举办活动,主张政客拒绝接受大型 AI 公司及其风投支持者的政治捐款,推动 AI 接受更多民主控制。该组织由 Center for AI Safety 孵化并获得初始贷款,成员涵盖进步派与保守派活动人士。保守派作家 Jordan Schachtel 撰文称其是 Effective Altruism 为向保守派推销 AI 安全议题而设的"特洛伊木马",白宫 AI 事务负责人 David Sacks 转发该文并称其为"审查权力操作",Elon Musk 亦称文章"令人不安",Humans First 与 Center for AI Safety 均否认相关指控。

    1 条报道 · 1 个来源查看事件时间线与全部报道
10月6日周二
  1. OSV News · 收录 · 原文 ↑474

    特朗普推动 AI 自愿安全标准,教宗与民调表达关切

    美国总统特朗普 9 月 29 日在白宫会见科技高管后表示,与会者同意为 AI 建立自愿安全标准,包括允许独立审计机构评估技术,他称这近乎一部宪法。同日他签署行政令,要求联邦机构使用他偏好的名称 superintelligence 指代 AI。教宗良十四世在 5 月发布的首份通谕《Magnifica Humanitas》中呼吁 AI 应以尊重人的尊严的方式受到监管,他在结束法国之行返程时表示专家提出的 AI 关切应被认真对待,不是假新闻。美联社-NORC 10 月 1 日民调显示,仅 31% 美国成年人认可特朗普处理 AI 的方式。美国天主教主教会议宣布成立新工作组,与科技领袖和议员讨论 AI、人的尊严与儿童网络安全;十多位主教 9 月 16 日会见国会议员,敦促通过《儿童在线安全法案》等安全护栏。

    7 条报道 · 6 个来源查看事件时间线与全部报道
  2. Associated Press · 收录 · 原文 日期未知↑157

    特朗普称 AI 风险是骗局,拒绝为 AI 设置护栏

    美国总统特朗普公开否认 AI 失控风险,称 AI 接管世界是骗局,反对为其设置护栏,并称唯一需要的控制是一位强有力的总统。此番表态回应了 Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman 和 Elon Musk 等科技领袖要求加强政府监管的呼吁。Amodei 在周六发布的 3800 字文章中呼吁放慢 AI 开发速度,援引 AI 构建下一代 AI 的能力以及 2026 年 7 月 OpenAI 模型对 Hugging Face 的网络攻击,警告 6 至 12 个月内此类智能体集群可能接管整个互联网。Altman 在社交媒体上呼应称不应让能力发展超前于对齐与监控,并指出需要政府帮助进行国际协调。特朗普还称其政府已阻止 Anthropic 做坏事,并批评寻求监管的科技 CEO 商业判断力。

    1 条报道 · 1 个来源查看事件时间线与全部报道

    推荐理由呈现美国 AI 监管争论中总统与前沿实验室 CEO 的公开分歧,以及中期选举前的政治博弈。

  3. Nikkei Asia / Reuters · 收录 · 原文 54

    特朗普称美国已有工具监管 AI,驳斥行业监管呼吁为骗局

    美国总统特朗普 9 月 14 日表示,美国已有护栏来监管和起诉 AI 公司,并在 Truth Social 上称 AI 行业呼吁监管是骗局,认为唯一需要的控制是一位强有力的总统,并称对中国有利。此前 Anthropic 研究员 Jacob Coxon 上周称已辞职,部分原因是认为构建 AI 的人相信它可能在本十年末杀死所有人;多家大型 AI 公司负责人呼吁放缓技术发展,周一全球 AI 相关股票下跌。Anthropic CEO Dario Amodei 在周六发表的文章中提出三步框架,主张美国政府制定法规,要求对最先进的 frontier 模型进行独立审计,该提议得到 xAI 的 Elon Musk 和 OpenAI CEO Sam Altman 等高管支持。路透社报道三名美国参议员正起草法案,要求 AI 公司证明已采取合理预防措施。

    推荐理由特朗普政府与前沿 AI 公司在监管路径上的分歧公开化,可对照 Amodei 的审计框架与国会立法动向理解美国 AI 安全治理的当前格局。

  4. New York Post · 收录 · 原文 57

    FTC 扩大对 Anthropic、OpenAI 等前沿实验室的调查并拟发民事调查要求

    美国联邦贸易委员会正扩大对 Anthropic、OpenAI 等前沿实验室的调查,以查明其技术可能给消费者带来的风险,并计划发出类似传票的民事调查要求(CID),强制这些公司高管作证。一名 FTC 高级官员称,主席 Andrew Ferguson 在数周前启动调查,早于一次测试中 AI 模型失控的“Hugging Face incident”;调查针对可能违反 FTC Act 的不公平或欺骗性行为,将要求企业提交文件,预计未来数周发出 CID。报道还提到,METR 预计也在调查目标之列,此前 FTC 已就 AI 聊天机器人对儿童心理健康的影响向 OpenAI 等公司索取记录。本周二,Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman、Google 的 Sundar Pichai 与 xAI 的 Elon Musk 等高管到白宫签署自我监管协议。

    推荐理由FTC 对 Anthropic、OpenAI 等前沿实验室启动调查并拟发民事调查要求,可观察美国监管机构如何界定 AI 智能体行为的责任。

  5. CBS News · Technology · 收录 · 原文 55

    上诉法院准许 xAI 就明尼苏达 AI 去衣法获得临时救济

    CBS Minnesota报道第八巡回法院用一句话批准xAI的上诉期间禁令,没有解释理由。不能据此推断法院已裁定法律违宪,或所有公司的相关义务都被取消。报道涉及AI生成性化图像监管和受害者救济。

    1 条报道 · 1 个来源查看事件时间线与全部报道

    推荐理由明尼苏达去衣法被上诉法院暂停执行,呈现了生成式 AI 内容监管与第一修正案之间的司法拉锯。

  6. CBS News · Technology · 收录 · 原文 50

    诉讼指控 Anthropic、OpenAI、SpaceXAI 与 Google 就 AI 减速达成非法协议

    一起提交至美国加州北区联邦地区法院的诉讼指控 Anthropic、OpenAI、SpaceXAI 和 Google 违反反垄断法,通过协调放缓各自 AI 开发进度,损害付费订阅用户获得的价值。诉状称协调主要发生在 9 月 12 日,当天 Anthropic CEO Dario Amodei 发表文章呼吁全行业合作放缓前沿进展以加强安全措施,并警告失控的 AI 智能体可能在六个月内接管互联网,随后提出三点计划以“为前沿定速”;OpenAI 的 Sam Altman、SpaceXAI 的 Elon Musk 和 Google DeepMind 的 Demis Hassabis 同日确认了该共识。Amodei 在最初文章中承认可能面临反垄断挑战,认为美国政府出面调解或至少为特定安全对话发放有限豁免会有帮助。四家公司代表未立即回应置评请求。

10月5日周一
  1. agenccy.ai · 收录 · 原文 42

    第八巡回法院临时命令仅保护 xAI,明尼苏达州 AI 裸化法仍可执行

    美国第八巡回上诉法院于 10 月 2 日在 SpaceXAI LLC 诉明尼苏达州总检察长 Keith M. Ellison 一案(案号 No. 26-2806)中签发一页命令,全文仅为“上诉人暂缓执行禁令的动议获准”,由书记官依法院指示录入,未署名法官、未附理由,也未公开出版,因此不构成可供后续合议庭遵循的先例。该救济属于上诉期间的临时措施,只适用于提出动议的上诉人一方,明尼苏达州相关 AI 裸化法规仍然有效,并可对其他所有服务提供方执行;未起诉的同类公司处境与 10 月 1 日相同。文章指出,把这一命令解读为“法院阻止该法”或“裁定 AI 裸化禁令违宪”均不准确:地区法院此前是以延迟和衡平因素而非第一修正案为由驳回禁令申请,本案尚无任何法院就该法是否合宪作出裁判;第一修正案律师协会等以法庭之友身份参与,只表明宪法问题正在被辩论。

10月4日周日
  1. AI Policy Daily · 收录 · 原文 36

    特朗普与六家 AI 高管签署自愿审计协议,Cruz 阻止 AI 安全委员会立法

    特朗普与六位 AI 企业高管在白宫签署自愿协议,签约方包括 Anthropic CEO Dario Amodei、Meta CEO Mark Zuckerberg 和 Nvidia CEO Jensen Huang,各公司需聘请独立外部审计方检验内控并设立董事会委员会审议审计结果,特朗普称该协议具有道德约束力,并将在近日任命监督人。特朗普政府同时上线 America.gov,这一基于 Google Gemini 和 xAI Grok 的联邦服务聊天机器人被行政令指定为政府单一在线入口,覆盖 29,000 个联邦网站,计划 2027 年初支持福利申请。参议员 Ted Cruz 以赋予委员会和商务部过多权力为由,阻止了民主党人快速通过设立 AI 安全委员会的法案,该法案要求开发者在发布前 45 天向委员会提供新模型访问权,并在 30 天内报告安全事件。

10月3日周六
  1. CBS News · Technology · 收录 · 原文 39

    特朗普与 OpenAI、Anthropic 等 AI 高管签署自愿安全标准

    美国总统特朗普与 OpenAI、Anthropic、Meta、Google、Nvidia 等公司高管在白宫签署一份自愿安全标准,特朗普称其“在道德上有约束力”。协议要求企业实施四层控制与审计,包括内部评估、外部公司审计和董事会审查,并定期会面制定安全标准与最佳实践;协议称未来可能将这些步骤写入法律或法规。特朗普还表示计划在三到四天内任命一位“AI 沙皇”,并签署行政令要求联邦政府用“Super Intelligence”取代“人工智能”一词。弗吉尼亚州民主党参议员 Mark Warner 批评此举,呼吁国会通过针对最先进模型的强制测试、评估和事件报告规则。

10月2日周五
  1. IAPS · 收录 · 原文 43

    IAPS 评估 H200 对华出口的影响:DeepSeek 算力或接近美国数据中心

    IAPS 发布 Issue Brief,评估美国商务部 BIS 1 月半导体出口规则下 Nvidia H200 对华销售的影响。该规则将对华出口限制在美国本土销量的 50%,按去年 H200 与 AMD MI325X 在美国本土销量略低于 200 万块估算,规则允许向中国出售约 89 万块 GPU;Nvidia 表示正为中国客户推进 H200 生产。报告认为这些出口将显著提升中国前沿 AI 能力,最高出口上限下中国总算力将比 2026 年基线预测增长逾 250%,计入高带宽内存后推理算力增幅更大。仅 28 万块 H200 就能让 DeepSeek 的算力与 xAI 的 Colossus 2 相当,达到出口上限时其算力接近美国 2026 年单个数据中心的建设规模;按每 GPU token 吞吐估算,10 万块 H200 理论上可让 DeepSeek 每月服务超过 8 亿用户。

10月1日周四
  1. CAIS · 收录 · 原文 43

    AI 安全通讯#69:战争部认定 Anthropic 构成国家安全供应链风险并取消合同

    美国战争部于周四(3 月 5 日)宣布将 Anthropic 认定为"供应链风险",意味着其产品不能被该部门或在任何国防合约中使用,此前双方围绕自主武器和美国民众监控问题发生争执,Anthropic 拒绝了战争部的请求。这场争端始于合同谈判:特朗普总统曾表示美国政府会因该公司对其 AI 用途的限制而取消与 Anthropic 的合同,五角大楼希望 Claude 可用于"任何合法用途",而 Anthropic 坚持两项限制——完全自主武器与美国国内大规模监控。

  2. The EU AI Act Newsletter · 收录 · 原文 39

    欧盟 AI Act 通讯第 94 期:Grok 性化图像丑闻与 AI 法案进展

    欧洲议会 57 名跨党派议员呼吁在欧盟范围内禁止生成非自愿性化深度伪造图像的 AI 应用,起因是 X 平台上 Grok 机器人生成的此类图像大量传播;欧盟委员会已要求 X 提供更多信息并下令保留 Grok 相关文件至年底,尽管 X 声称已阻止编辑暴露衣着人物图像,POLITICO 核实用户仍可生成。欧洲议会 LIBE 委员会确定数字简化方案牵头方,Renew 的 Michael McNamara 负责 AI 方案并联合主持监督 AI Act 实施的工作组,他强调修订需真正简化实施而不削弱核心保障,同时指出 2026 年 8 月高风险 AI 合规期限临近。

  3. CSET · 收录 · 原文 15

    CSET 专家解读 AI 恐慌主流化的一周

    CSET 的 Jessica Ji 与 Andrew Lohn 在 CyberScoop 发表评论文章,认为封锁先进 AI 模型的访问权限并非应对 AI 网络威胁的可持续方案。Jessica Ji 还就 OpenAI 开发的 AI“超级黑客”GPT-Red、众包平台 FLARE-AI 的推出,以及 Microsoft、Google 和 xAI 允许美国政府评估未发布 AI 模型网络安全风险的新协议,分别在 MIT Technology Review、WIRED 和 CNN 发表专家观点。

  4. The EU AI Act Newsletter · 收录 · 原文 35

    EU AI Act Newsletter #106:呼吁强制执行通用人工智能模型规则

    欧盟委员会正推动从 2026 年 8 月 2 日起执行《EU AI Act》中针对具有系统性风险的通用人工智能模型的规则,并收到一批研究者与公民社会组织的公开信施压。信中援引 Anthropic 的 Mythos 模型存在广泛报道的网络攻击能力和生物学及失控风险逼近临界阈值的证据,要求赋予 AI Office 的评估员网络开展外部评估的权力并提供足够资源和政治支持。同期理事会通过 Omnibus VII 简化方案,将高风险系统适用日期推迟至 2027 年 12 月 2 日(嵌入式产品为 2028 年 8 月 2 日)。

已经到底了