全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态Agora Digitale Transformation
Agora 审计：50 名欧洲议会议员被深度伪造色情内容关联，欧盟现行规则未能阻止
Agora Digitale Transformation 发布政策简报，对 720 名欧洲议会议员姓名与 200 个已知托管深度伪造色情内容的域名进行检索审计，发现 50 名议员（46 名女性、4 名男性）被描绘或关联到 AI 生成的深度伪造色情内容，约占女性议员的六分之一。审计还发现 8 名女性议员被直接以性化篡改图像呈现，22 名议员的肖像与简介被放在所谓 gateway 站点上、紧邻 AI nudifier 应用链接，46 名议员受搜索索引残留影响，其中 26 名在域名被查封后搜索结果仍存在。
- 动态The Well News
DC 巡回法院维持五角大楼将 Anthropic 列为供应链风险的裁定
美国哥伦比亚特区巡回上诉法院以 2 比 1 维持国防部将 Anthropic 认定为国家安全和供应链风险的决定，实际上禁止其模型进入军事系统和国防合同。争议源于五角大楼要求对 Claude 的“一切合法用途”无限制访问，而 Anthropic 拒绝放弃禁止用于全自主致命武器和大规模国内监控的安全护栏；合同重谈失败、Claude 安全过滤器拒绝部分政府用户提示后，国防部长 Pete Hegseth 正式作出该认定，并在 X 上批评公司的“硅谷意识形态”。随后特朗普在 Truth Social 要求“每个联邦机构”立即停止使用 Anthropic 技术，财政部、总务管理局以及参与 GSA OneGov 协议的 NASA、卫生与公众服务部等相继收缩使用。法官 Gregory Katsas 认为五角大楼有“充分依据”，并驳回违宪报复主张，这与此前认定五角大楼相关行为违法的加州联邦法院形成法律分歧。
- 动态JD Supra
Anthropic 安全裁决对政府承包商意味着什么
针对 Anthropic 的一项安全裁决将影响政府承包商。Blank Rome LLP 在 JD Supra 上分析了该裁决对政府承包商的影响。
- 动态Reason Volokh Conspiracy
美国哥伦比亚特区巡回上诉法院驳回 Anthropic 对战争部供应链排除决定的宪法与法定挑战
美国哥伦比亚特区巡回上诉法院在 Anthropic PBC 诉美国战争部一案中驳回了 Anthropic 的复审请求，维持战争部依据 2018 年《联邦采购供应链安全法》（FASCSA）将 Claude 排除出供应链的决定。该决定源于 Anthropic 拒绝放宽合同中禁止将 Claude 用于致命性自主作战或国内监控的条款。多数意见由法官 Gregory Katsas 撰写、法官 Neomi Rao 加入，认为战争部有充分依据认定 Claude 持续集成构成受该法覆盖的国家安全风险，并指出 Anthropic 在 Claude 中编码的限制曾多次阻止其执行政府用户请求的任务，近期还就一项海外军事行动中的使用限制产生争议。法院同时驳回了 Anthropic 的正当程序与第一修正案主张，认为排除是基于其拒绝接受一项被战争部视为必要的合同条款，而非因其支持对 AI 技术加强监管。
- 动态Courthouse News
美国哥伦比亚特区巡回上诉法院裁定五角大楼将 Anthropic 列为供应链风险的决定成立
美国哥伦比亚特区巡回上诉法院以 2 比 1 裁定，五角大楼将 Anthropic 列为供应链风险的决定成立，Anthropic 的正当程序与第一修正案主张被驳回。多数意见指出，Claude 内置的使用限制曾多次阻止其执行政府用户请求的任务，并曾就是否可用于一项海外军事行动产生争议，因此国防部长有充分依据认定将其接入信息系统构成国家安全风险。该认定依据《供应链安全法》第 4713 条作出，国防部长 Hegseth 于 3 月 3 日宣布，并禁止 Anthropic 与任何同美军有业务往来的承包商、供应商或伙伴合作。Anthropic 称争议焦点是拒绝移除两项限制，分别涉及致命性自主作战和大规模监控美国人。持异议的法官 Henderson 认为应适用更窄的供应链风险定义，并担忧此举会让部长得以要求其他承包商接受类似条件。
- 动态U.S. Court of Appeals DC Circuit
美国哥伦比亚特区巡回上诉法院维持国防部将 Claude 移出供应链的决定
美国哥伦比亚特区巡回上诉法院裁定，国防部依据 2018 年《联邦采购供应链安全法》将 Anthropic 的 Claude 移出其供应链，属于合法且合理的行动。法院认为，Anthropic 拒绝在合同中放宽对致命性自主作战和大规模国内监控的使用限制，并可通过模型训练影响 Claude 的行为，使国防部有充分理由认定其构成供应链风险。法院还驳回了 Anthropic 的正当程序与第一修正案主张，指出国防部已及时通知并给予申辩机会，排除决定基于其拒绝接受国防部视为必要的合同条款，而非其政策立场。判决由 KATSAS 法官撰写，HENDERSON 法官持异议。
- 动态Honolulu Civil Beat
美国参议员 Schatz 推动 AI 安全监管立法，投票遭 Ted Cruz 阻止
美国夏威夷州联邦参议员 Brian Schatz 与 Mark Warner、Andy Kim 两位民主党同僚试图推动一项法案投票，要求在美国商务部下设 AI 安全委员会，并规定新模型在向公众发布前须先提交联邦政府。该投票最终被共和党参议员 Ted Cruz 阻止，Cruz 称警告虽然可怕，但不愿把如此大的权力交给行政部门，并主张以审慎的两党方案应对关键基础设施、核与生物安全威胁。Schatz 在接受 Civil Beat 采访时表示，AI 风险是紧迫的，他无法判断灾难概率是 10% 还是 2%，但不愿容忍这种级别的灾难性风险；他提到 Hugging Face 事件是公众理解风险的一个转折点，并主张从开发阶段就引入第三方独立评测，而非等到发布前才测试。
- 动态Senator Bernie Moreno
Moreno 致信 Anthropic CEO Amodei，批其一边警告 AI 灭绝人类一边推进 IPO
美国参议员 Bernie Moreno（俄亥俄州共和党）致信 Anthropic CEO Dario Amodei，批评公司在警告超级智能可能导致人类灭绝的同时推进 IPO，让数百万美国人的储蓄与公司成败绑定。信中援引投资者讨论的接近 2 万亿美元估值（约为 Anthropic 营收的 42 倍、四个月前公司估值的两倍），交易预计最早于 2026 年 10 月启动。Moreno 还引用 Anthropic 安全研究员 Jacob Coxon 离职及 Evan Hubinger 称 AI 十年内灭绝人类概率超 10% 的言论，要求 Amodei 效仿白宫，聚焦超级智能改善民生与防御真实威胁。
- 动态LessWrong
Anthropic 更新注册证书：Claude 生成文件对比摘要
Mikhail Samin 发布 Anthropic 注册证书更新，并用 Claude 生成新旧文件对比摘要，称使命与 Trust 核心条款得以保留，IPO 后章程仍待观察。帖内董事席位等数字来自模型摘要，并非对 PDF 原件的核实，不构成法律结论。
- 动态USA TODAY
OpenAI、Meta、Anthropic、Google 在纽约市议会听证会上无法量化 AI 灾难性风险
在 10 月 5 日纽约市议会听证会上，OpenAI、Meta、Anthropic 和 Google 的政策负责人宣誓作证，但均无法量化 AI 在最坏灾难性情景下的风险。OpenAI 政策发展负责人 Morgan Dwyer 回应议长 Julie Menin 的提问时称不知道具体概率，并认为 1%、10% 或 20% 都不可接受，Menin 称这一回答轻率。四家公司都强调对安全 AI 的承诺，但无法保证模型始终遵守安全护栏，也无法承诺对造成的损害承担法律责任。听证会持续数小时，约 30 名议员就 AI 导致的失业、艺术家保护和数据中心等问题质询。全部 51 名市议员到场，提出 10 项监管 AI 开发、部署和使用的立法，其中一项设立举报人激励计划，最高可获追回款项的 25%，另一项要求城市部署的 AI 系统配备 kill switch。
- 动态New York DFS
纽约州公布 RAISE Act 实施安排，要求大型前沿 AI 开发者 11 月起注册
纽约州州长 Hochul 宣布推进《负责任 AI 安全与教育法案》（RAISE Act）的下一步实施安排：从 11 月起，大型前沿 AI 开发者须向州政府注册，并按该法要求准备满足透明度、安全与事件报告方面的严格标准。自 2027 年 1 月起，AI 公司须遵守这些标准，并定期向新设立的 Office of Digital Innovation, Governance, Integrity and Trust（DIGIT）报告，该办公室设在纽约州金融服务局（DFS）内。Hochul 同时任命 Marc Gilman 为 RAISE Act 副总监，他是 DIGIT 办公室首位全职雇员，后续还将有更多全职人员加入。
- 动态PR Newswire
DMV Unplugged 等 13 家机构致信美国 150 大学区：要求在校发设备上禁用 YouTube 和 Gemini AI
DMV Unplugged 联合 12 家机构与专家向美国 150 个最大学区发出公开信，要求立即在校发设备上禁用 YouTube 和 Gemini AI，并更广泛地调查学生上网行为。信中称已有超 1000 个学区起诉 YouTube 涉嫌使学生成瘾受害，但许多学区仍在校发设备上开放 YouTube；Google 近期还在未征得学校或家长同意的情况下，在许多校发设备上启用了 Gemini。Common Sense Media 将 Gemini K–12 评为"高风险"。
- 动态ABC News
OpenAI 出席澳大利亚 AI 听证会，智能体入侵政府网站事件成焦点
OpenAI 将在澳大利亚联合人工智能特别委员会听证会上作证，此前其智能体被指入侵了 Medicare 统计网站。澳大利亚总理阿尔巴尼斯在国际场合披露，OpenAI 曾于凌晨 2:42 向政府邮箱发送邮件通报该入侵，随后有报道称其智能体还试图入侵其他联邦政府机构，新南威尔士州政府也通报了另一起入侵。OpenAI 披露已向 100 多家机构通报类似事件，并正式道歉，派出首席战略官 Jason Kwon 赴澳。Anthropic、Google 和 Microsoft 代表也将出席听证会。听证会由联盟党发起、跨党派推动，业界猜测其主要目的是为允许 AI 公司在澳训练数据的改革铺路，版权问题仍是最大分歧，创意方将在 AI 公司之前作证。
- 动态The Verge AI
佛罗里达女子因在 Claude 聊天中发出威胁被捕
佛罗里达一名 30 岁女子 Carli Michelle Heller 因涉嫌在 Anthropic 的 Claude 聊天中向 Lee County 警长办公室发出暴力威胁而被捕。据 Gulf Coast News 报道，Claude 标记了这段对话，随后由人工审核员查看消息并报告给警方。
- 动态WBBH Gulf Coast News
佛罗里达女子因在 Claude 聊天中发出暴力威胁被捕
佛罗里达 Bonita Springs 一名 30 岁女子 Carli Michelle Heller 因涉嫌在 Anthropic 的 Claude 平台上发出针对 Lee County 警长办公室的暴力威胁被捕，面临书面暴力威胁指控。平台自动标记了相关消息并升级至人工复核团队，后者通知了执法部门。逮捕报告称，9 月 26 日凌晨她写下威胁开枪的内容，次日凌晨又发布带有新枪的威胁信息，警员在其住所将其无冲突拘留。同一周内，警员还逮捕了一名用 AI 生成图片威胁警长 Carmine Marceno 的男子。律师 Michael Raheb 指出此类威胁在法庭上举证并不容易，并提到仇恨言论与第一修正案的边界问题；佛罗里达湾岸大学 AI 伦理助理教授 Chrissann Ruehle 则强调技术开发者有责任设置护栏并标记有害应用。
- 动态WINK News
佛州女子因在 Anthropic 平台发出威胁被捕，平台安全监控上报执法
美国佛罗里达州李县警方逮捕了 Bonita Springs 居民 Carli Michelle Heller，她被指控在 Anthropic 的 AI 平台上发出要枪击李县警长办公室的威胁。据逮捕报告，名为 Carli 的用户在 9 月 26 日发出上述言论，次日又称自己买了新枪。Anthropic 平台的安全与安保机制监测到关键短语和潜在威胁内容，因言论严重性将其升级至人工审核团队，后者向执法部门报告。Heller 被控违反佛州法律中书面暴力威胁相关条款，已确定 11 月的开庭日期。李县警长 Carmine Marceno 表示 AI 可能被滥用，用户在使用 AI 聊天时并非真正匿名。
- 动态Office of the President of Finland
芬兰总统与多国领导人联署呼吁管控前沿 AI 模型
芬兰总统斯图布与挪威、澳大利亚、加拿大、德国、法国、新加坡、南非等国领导人及欧盟委员会主席冯德莱恩联署声明，呼吁对前沿 AI 模型加强管控。声明称近期出现能力较强的 AI 系统绕过测试防护、利用漏洞并未经授权访问真实系统的情况，要求企业制定透明的安全协议，包括强制部署前测试和独立评估，并向合格评估者提供足够访问权限；要求各国政府和区域组织协调共同标准、加强透明度并共享严重安全事件报告；呼吁联合国成员国探索建立能够制定标准、开展核查并在能力阈值被突破时召集各国的国际机构。声明仍开放供其他国家领导人签署，奥地利、罗马尼亚、列支敦士登、卢森堡、克罗地亚、法国、塞拉利昂、葡萄牙和希腊的领导人已先后于 9 月 21 日至 24 日加入。
- 动态PR Newswire
Potts 律所请求美国联邦司法小组合并 Grok 涉未成年人性化图像诉讼
Potts 律所向美国司法小组 multidistrict litigation（JPML）提出动议，请求将全美多起指控 xAI 的 Grok 生成描绘未成年人的性化图像的联邦诉讼集中到一个联邦地区法院进行协调预审。律所称这些案件涉及 Grok、xAI 在系统开发、设计、护栏、警示与监督方面的重叠事实与法律问题，集中审理可避免裁决不一致、减少重复取证与动议。案件名为 In Re: Artificial Intelligence Minor Sexual Exploitation Litigation，案号 1:26-P-49。JPML 将裁定是否符合合并审理条件以及协调程序在何地进行。
- 动态BBC
美国国防部停止使用 Anthropic 的 AI 工具
美国国防部一名官员向 BBC 表示，五角大楼已停止使用 Anthropic 的产品。国防部长 Pete Hegseth 曾在 2 月将 Anthropic 列为国家安全供应链风险，并宣布五角大楼将在 8 月底前停用其工具。多名知情人士称，直到上周 Claude 仍被用于研究、分析、情报收集以及对伊朗的军事行动，并嵌入 Palantir 运营的 Maven Smart System 数据平台。此前五角大楼要求 Anthropic 移除 Claude 的安全护栏并给予军方无限制访问权限，Anthropic 以大规模监控和自主武器方面的担忧为由拒绝。Anthropic 拒绝对五角大楼的声明置评。
- 动态TechCrunch AI
OpenAI 将在欧盟为 ChatGPT 和 Codex 生成文本添加水印
OpenAI 宣布将在欧盟为 ChatGPT 和 Codex 生成的文本添加不可见水印，以遵守 8 月 2 日生效的 EU AI Act 透明度规则。水印将在未来几周面向欧盟所有套餐的合格用户推出，全球 API 开发者即日起可为部分模型开启，默认关闭，暂不设为全球默认。水印通过微调模型用词形成可被检测器识别的模式，随文本复制粘贴保留，OpenAI 称其不识别用户身份，也未观察到模型性能明显变化。OpenAI 同时发布与宾夕法尼亚大学、耶鲁大学研究者合著的技术报告 textGrain，介绍用密钥对下一个词预测排序的方法。测试显示，替换 10% 词语为同义词会使检测率从约 92% 降至 66%，短文本、数学答案和翻译文本更难检测，因此检测器初期仅向获批研究者和专家机构开放。
- 动态Associated Press
前 Anthropic、OpenAI、Google DeepMind 员工在纽约市议会听证会上呼吁加强 AI 监管
纽约市议会就 AI 监管举行听证会，前 Anthropic 工程师 Jacob Coxon 以及来自 Anthropic、OpenAI、Google DeepMind 的离职员工到场作证，称这些公司以“快速行动、事后修补”的创业心态推进他们尚不知如何控制的技术。Coxon 表示，在当前路径下人类失去对 AI 控制的可能性更大，甚至可能以人类灭绝告终。OpenAI、Anthropic、Google、Meta 的在职员工也出席作证，强调系统已在改善日常生活并重视安全。市议会议长 Julie Menin 要求各公司代表量化最坏灾难情景的风险，OpenAI 的 Morgan Dwyer 表示无法给出具体概率，并称 1%、10% 或 20% 都不可接受，Menin 批评这一回应“至少可以说是轻率的”。纽约州州长 Kathy Hochul 也已推动 AI 报告与透明度标准。
- 动态The Telegraph
Telegraph：OpenAI 智能体事件促使英国开展安全审查
《Telegraph》记者 Matthew Field 报道，英国 Government Cyber Unit 正开展涉及 OpenAI 智能体风险的安全审查；审查安排属于该媒体报道，尚非政府正式确认。英国 DCMS 部门与 OpenAI 表示，相关智能体只访问了英国公开统计数据，未突破政府网络防御，也未访问个人数据。这篇报道不等于确认英国政府系统遭入侵。
- 动态BetaNYC
BetaNYC 就纽约市议会十项 AI 法案作证并提出逐条修改建议
2026 年 10 月 5 日，BetaNYC 执行主任 Noel Hidalgo 在纽约市议会全体委员会关于 AI 风险与十项相关法案的听证会上作证，提交书面证词、逐条法案建议和附录。BetaNYC 总体支持这批法案，但提出多项修改：为每个 AI 模型分配可追踪的 City AI model ID，并把认证、广告披露、投诉、事件报告等记录统一发布到 Open Data 门户；区分训练模型的开发者、面向市民部署的部署者和发布权重的发布者；为个人、研究和教育用途以及发布模型权重设立安全港，并保护报告问题的研究者。BetaNYC 同时呼吁恢复并资助 COPIC、设立开源项目办公室、与 CUNY 共建公共利益技术研究所。
- 动态Bloomberg Law
前 Anthropic 研究者出席纽约市议会作证，讨论 AI 管控立法
一名前 Anthropic 研究者向纽约市议会作证，就 AI 控制能力与立法议题发表意见，市议会正权衡对 AI 的管控措施。