全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态NBC News
亚利桑那州上诉法院因量刑使用 AI 生成受害者视频撤销刑期
亚利桑那州上诉法院维持 Gabriel Paul Horcasitas 的过失杀人罪定罪，但撤销原刑期，并将案件发回重新量刑。争议源于量刑听证中播放的 AI 生成受害者陈述视频：法院认为，该视频把家属对受害者想法的推测呈现为受害者本人的话，并非对真实事件的记录，影响了量刑程序的公平性。此次裁决针对刑期，不是撤销有罪判决或重新审理定罪。
- 动态CBS News · Technology
亚利桑那州法院因 AI 生成受害者视频撤销十年半刑期
亚利桑那州上诉法院撤销了 Gabriel Paul Horcasitas 因 2021 年枪杀 Christopher Pelkey 被判的 10 年半过失杀人刑期，理由是量刑听证中播放的 AI 生成受害者陈述视频不可靠。三名法官组成的合议庭认为，该视频并未记录真实事件，而是把受害者妹妹的想象呈现为受害者本人的想法和陈述。Pelkey 的家人用语音录音、视频和照片重建其形象，让 AI 版 Pelkey 在 2025 年 5 月的量刑听证上发言，此前已有九名亲友出庭陈述。Horcasitas 的辩护律师主张，法官 Todd Lang 采信 AI 证据侵犯了正当程序，且当事人没有实质机会反驳视频内容；检方则称法官并未据此量刑。受害者妹妹 Stacey Wales 表示对视频被列为撤销理由感到失望，其唯一目的是让法官看到哥哥的人性。 法院维持定罪，案件发回重新量刑。
- 动态Arizona Court of Appeals
亚利桑那上诉法院认定量刑依赖AI被害人视频有误，维持定罪并发回重新量刑
亚利桑那州上诉法院第一庭裁定，量刑法官在过失杀人案中采信并依赖一段 AI 生成的被害人视频构成根本错误，撤销 10.5 年量刑并发回重新量刑，但维持过失杀人定罪。该视频用被害人的照片和声音档案重建其形象与声音，内容由被害人的姐姐想象被害人会说什么，视频中的 AI 被害人还称这是对自己真实面貌的呈现。法院指出，视频并非记录真实事件，而是把家属的推测直接呈现为被害人本人的声音，抹去了两者之间的解释距离，任何免责声明都无法弥补；量刑法官曾表示自己很喜欢这段视频并认为它真诚，还提到 AI 被害人明显宽恕了被告。法院同时驳回了被告关于被害人手机短信被不当排除的上诉理由，认为一审依证据规则排除这些短信未构成滥用裁量权。
- 动态POLITICO
AI 安全团体质疑 OpenAI 缩减政治支出
POLITICO 报道，AI 安全团体并不认可 OpenAI 缩减政治支出的姿态。由 OpenAI 总裁 Brockman 及其妻子、早期投资人 Andreessen 和 Horowitz 等支持的 Leading the Future 已投入 7500 万美元；与此同时，6 月成立的 Guardrails Alliance 筹集 500 万美元，其中部分资金来自反对 Leading the Future 的 OpenAI 员工。部分获 Leading the Future 支持的民主党候选人拒绝表态是否与该组织资金切割。
- 动态CBS News · Technology
纽约市议会举行 AI 监督听证，审议 10 项监管法案
纽约市议会周一举行 AI 监督听证，市议会称这是全美乃至全球首个此类听证。议长 Julie Menin 表示，因联邦政府称 AI 公司可自我监管，纽约市需要自行处理，并提到纽约州和加州都讨论过潜在的“kill switch”，该机制也写入了本地立法，听证会就此向企业提问。前 Anthropic 员工 Jacob Coxon 和前 OpenAI 员工 Daniel Kokotajlo 作为吹哨人作证，Coxon 称按当前路径人类更可能失去对 AI 的控制，并认为企业以“快速行动、事后修复”的创业心态运作；Kokotajlo 称不应把控制权交给这些公司。SpaceX 未出席，Menin 称公司在收到传票后回信表示愿与市政府合作但不出席，市政府正采取法律行动。
- 动态The Information
Google、OpenAI 与 Anthropic 的 AI 安全小组初具雏形
据The Information的知情人报道，Google、OpenAI、Anthropic工作组筹建暂称Standards Authority for Frontier AI（SAFA）的行业自律组织，拟于2026年底或2027年初启动，讨论第三方模型测试、事故报告及审计员资质。三家尚未联合官宣，结构、是否自行评测及约束力未定；这不是政府监管机构。Sriram Krishnan、Condoleezza Rice、David Friedberg属于接触或考虑过的人选，不是已任命。
- 动态CBS News · Technology
上诉法院准许 xAI 就明尼苏达 AI 去衣法获得临时救济
CBS Minnesota报道第八巡回法院用一句话批准xAI的上诉期间禁令，没有解释理由。不能据此推断法院已裁定法律违宪，或所有公司的相关义务都被取消。报道涉及AI生成性化图像监管和受害者救济。
- 动态CBS News · Technology
诉讼指控 Anthropic、OpenAI、SpaceXAI 与 Google 就 AI 减速达成非法协议
一起提交至美国加州北区联邦地区法院的诉讼指控 Anthropic、OpenAI、SpaceXAI 和 Google 违反反垄断法，通过协调放缓各自 AI 开发进度，损害付费订阅用户获得的价值。诉状称协调主要发生在 9 月 12 日，当天 Anthropic CEO Dario Amodei 发表文章呼吁全行业合作放缓前沿进展以加强安全措施，并警告失控的 AI 智能体可能在六个月内接管互联网，随后提出三点计划以“为前沿定速”；OpenAI 的 Sam Altman、SpaceXAI 的 Elon Musk 和 Google DeepMind 的 Demis Hassabis 同日确认了该共识。Amodei 在最初文章中承认可能面临反垄断挑战，认为美国政府出面调解或至少为特定安全对话发放有限豁免会有帮助。四家公司代表未立即回应置评请求。
- 动态AP via ABC News
意大利总理梅洛尼为声音申请欧盟商标以应对 AI 深度伪造
意大利总理梅洛尼已向欧盟知识产权局申请将其声音注册为商标，以防范 AI 生成的深度伪造。申请材料包含一段四秒录音，内容为她用意大利语重复“Io sono Giorgia Meloni”（我是焦尔吉娅·梅洛尼）。此举正值各国政府、监管机构和公众人物应对能逼真复制声音与图像的 AI 工具。梅洛尼近年多次遭遇被当作真实内容传播的伪造图像，她曾警告深度伪造可以欺骗、操纵和伤害任何人。意大利媒体报道称，即便申请获批，该商标也不会自动阻止 AI 模仿她的声音，但可作为额外的法律工具。
- 动态POLITICO
梅洛尼为声音申请商标以应对深度伪造
意大利总理梅洛尼向欧盟知识产权局（EUIPO）提交声音商标申请，以应对深度伪造。她在 Facebook 帖文中称深度伪造可以欺骗、操纵和针对任何人，并表示自己能自我防卫，但许多人不能。若申请获批，该声音商标可在其覆盖的商品和服务范围内，为梅洛尼提供挑战未经授权商业使用该受保护录音的额外法律依据，但不会让她对所有 AI 生成的声音模仿拥有全面控制权，也不会使深度伪造成为刑事犯罪。欧盟 7 月通过的修订版 AI Act 要求深度伪造必须清晰披露，并禁止生成可识别个人的非自愿性化图像、视频或音频的 AI 系统，同时禁止生成儿童性虐待材料的系统。该 EUIPO 申请仍在审查中。
- 动态Reuters via TradingView
意大利总理梅洛尼就 AI 深度伪造风险为其声音申请欧盟商标
意大利总理梅洛尼正为其声音申请欧盟商标，以应对 AI 深度伪造风险。
- 动态Tech Policy Press
台湾政治深度伪造法三年零申请，作者提出三项立法教训
台湾 2023 年修订《公职人员选举罢免法》第 51-3 条建立政治深度伪造处理机制，但作者指出三年内没有任何选举相关深度伪造通过该机制被举报，中选会截至 2026 年 5 月确认收到零件申请。作者将原因归结为三点：法律只保护候选人及罢免当事人，且仅在选举公告后约 40 至 120 天内适用，而外国认知战全年持续；条文对深度伪造的定义缺乏客观标准，认定权交给警方而非法院，且警方结论属事实通知、候选人无法上诉；平台多在境外，候选人须自行向海外总部送达下架请求，TikTok 实体在新加坡、Meta 台湾子公司仅登记市场研究与广告业务。文章以 7 月 24 日国民党视频创作者 Wei Chun-yu 发布、模仿总统赖清德声音的苯并芘讽刺视频为例，说明该法对非候选人和选举窗口外的内容完全无法适用。
- 动态EUobserver
欧洲约150名政客遭AI脱衣应用伪造色情内容，女议员推动欧盟落实12月禁令
智库 Agora Digital Transformation 10月5日发布的研究显示，约150名欧洲政客成为AI生成深度伪造色情内容的目标，其中50人为欧洲议会议员，46人是女性。该智库9月的另一项研究指出，女性政客成为虚假性化形象受害者的概率为十四分之一，男性政客为五百分之一，且受害者往往在内容扩散后才察觉。欧洲绿党发起公开信，获119名来自社会党与民主党、复兴欧洲党团及左翼党团的议员联署，要求欧盟委员会和成员国采取果断行动，指导各国主管部门从2026年12月2日起执行对脱衣应用的禁令，并在每个成员国设立资源充足的指定机构负责落实。
- 动态Greens EFA
研究称 50 名欧洲议会议员遭 AI 性化深度伪造，Greens/EFA 呼吁加强保护
Agora Digitale Transformation 的一项新研究首次系统评估了女性欧洲议会议员遭受 AI 生成性化暴力的程度，在先前已确认的 147 起国家议员案例之外，又识别出 50 名受影响议员，其中 46 人为女性，相当于约六分之一的女性议员受到影响。由 Greens/EFA 主席 Terry Reintke 和议员 Lena Schilling 发起、并获社会民主党、自由党和左翼党团领袖支持的联名信，呼吁欧盟委员会和各成员国对性化 AI 深度伪造采取果断行动，并从 2026 年 12 月 2 日起有效执行对所谓 nudifier 应用的禁令。Reintke 表示已知案例只是冰山一角，要求科技公司更快移除未经同意的裸露图像和视频，并把责任从受害者转移到平台。Schilling 本人也是受影响者之一，她指出这些图像在当事人不知情或未同意的情况下被生成和传播。
- 动态Agora Digitale Transformation
Agora 审计：50 名欧洲议会议员被深度伪造色情内容关联，欧盟现行规则未能阻止
Agora Digitale Transformation 发布政策简报，对 720 名欧洲议会议员姓名与 200 个已知托管深度伪造色情内容的域名进行检索审计，发现 50 名议员（46 名女性、4 名男性）被描绘或关联到 AI 生成的深度伪造色情内容，约占女性议员的六分之一。审计还发现 8 名女性议员被直接以性化篡改图像呈现，22 名议员的肖像与简介被放在所谓 gateway 站点上、紧邻 AI nudifier 应用链接，46 名议员受搜索索引残留影响，其中 26 名在域名被查封后搜索结果仍存在。
- 动态UC Berkeley CLTC
CLTC 与 SaferAI 联合发布 AI 风险建模开放问题论文
CLTC 的 AI Security Initiative（AISI）与欧洲非营利机构 SaferAI 于 2026 年 3 月举办线上研讨会，聚焦 AI 安全中研究不足的风险建模领域，22 名来自民间社会、学术界和政府机构的专家参会。会后 12 名参会者发布论文《Open Problems in AI Risk Modeling》，梳理了限制传统方法应用于风险建模的方法论与制度挑战，并比较了基于场景的风险估计与基于贝叶斯网络的阈值设定两种主流方案。论文指出目前尚无单一成熟的 AI 风险建模方法，并提出涵盖模型结构、范围、证据整合、验证与治理的开放问题议程。
- 论文论文追踪
论文梳理 AI 风险建模的开放问题：从 22 位专家研讨会提炼研究议程
一篇 arXiv 论文探讨如何为先进 AI 系统的社会风险评估设计稳健的风险模型，指出监管提案日益要求系统性风险评估，但缺乏严谨的量化方法。作者梳理了五种相关研究传统：概率风险评估、灾难性 AI 风险分析、网络安全风险量化、贝叶斯因果推断和基于阈值的治理，并比较了基于情景的风险估计与基于贝叶斯网络的阈值设定两种主流方案。基于一场有 22 位专家参与的研讨会及后续分析，论文提出了涵盖模型结构、范围、证据整合、验证和治理的开放问题清单，并主张进展取决于将量化建模与独立评估、透明分级披露以及能够长期维护和更新风险模型的机构结合起来。
- 动态The Well News
DC 巡回法院维持五角大楼将 Anthropic 列为供应链风险的裁定
美国哥伦比亚特区巡回上诉法院以 2 比 1 维持国防部将 Anthropic 认定为国家安全和供应链风险的决定，实际上禁止其模型进入军事系统和国防合同。争议源于五角大楼要求对 Claude 的“一切合法用途”无限制访问，而 Anthropic 拒绝放弃禁止用于全自主致命武器和大规模国内监控的安全护栏；合同重谈失败、Claude 安全过滤器拒绝部分政府用户提示后，国防部长 Pete Hegseth 正式作出该认定，并在 X 上批评公司的“硅谷意识形态”。随后特朗普在 Truth Social 要求“每个联邦机构”立即停止使用 Anthropic 技术，财政部、总务管理局以及参与 GSA OneGov 协议的 NASA、卫生与公众服务部等相继收缩使用。法官 Gregory Katsas 认为五角大楼有“充分依据”，并驳回违宪报复主张，这与此前认定五角大楼相关行为违法的加州联邦法院形成法律分歧。
- 动态JD Supra
Anthropic 安全裁决对政府承包商意味着什么
针对 Anthropic 的一项安全裁决将影响政府承包商。Blank Rome LLP 在 JD Supra 上分析了该裁决对政府承包商的影响。
- 动态Reason Volokh Conspiracy
美国哥伦比亚特区巡回上诉法院驳回 Anthropic 对战争部供应链排除决定的宪法与法定挑战
美国哥伦比亚特区巡回上诉法院在 Anthropic PBC 诉美国战争部一案中驳回了 Anthropic 的复审请求，维持战争部依据 2018 年《联邦采购供应链安全法》（FASCSA）将 Claude 排除出供应链的决定。该决定源于 Anthropic 拒绝放宽合同中禁止将 Claude 用于致命性自主作战或国内监控的条款。多数意见由法官 Gregory Katsas 撰写、法官 Neomi Rao 加入，认为战争部有充分依据认定 Claude 持续集成构成受该法覆盖的国家安全风险，并指出 Anthropic 在 Claude 中编码的限制曾多次阻止其执行政府用户请求的任务，近期还就一项海外军事行动中的使用限制产生争议。法院同时驳回了 Anthropic 的正当程序与第一修正案主张，认为排除是基于其拒绝接受一项被战争部视为必要的合同条款，而非因其支持对 AI 技术加强监管。
- 动态Courthouse News
美国哥伦比亚特区巡回上诉法院裁定五角大楼将 Anthropic 列为供应链风险的决定成立
美国哥伦比亚特区巡回上诉法院以 2 比 1 裁定，五角大楼将 Anthropic 列为供应链风险的决定成立，Anthropic 的正当程序与第一修正案主张被驳回。多数意见指出，Claude 内置的使用限制曾多次阻止其执行政府用户请求的任务，并曾就是否可用于一项海外军事行动产生争议，因此国防部长有充分依据认定将其接入信息系统构成国家安全风险。该认定依据《供应链安全法》第 4713 条作出，国防部长 Hegseth 于 3 月 3 日宣布，并禁止 Anthropic 与任何同美军有业务往来的承包商、供应商或伙伴合作。Anthropic 称争议焦点是拒绝移除两项限制，分别涉及致命性自主作战和大规模监控美国人。持异议的法官 Henderson 认为应适用更窄的供应链风险定义，并担忧此举会让部长得以要求其他承包商接受类似条件。
- 动态U.S. Court of Appeals DC Circuit
美国哥伦比亚特区巡回上诉法院维持国防部将 Claude 移出供应链的决定
美国哥伦比亚特区巡回上诉法院裁定，国防部依据 2018 年《联邦采购供应链安全法》将 Anthropic 的 Claude 移出其供应链，属于合法且合理的行动。法院认为，Anthropic 拒绝在合同中放宽对致命性自主作战和大规模国内监控的使用限制，并可通过模型训练影响 Claude 的行为，使国防部有充分理由认定其构成供应链风险。法院还驳回了 Anthropic 的正当程序与第一修正案主张，指出国防部已及时通知并给予申辩机会，排除决定基于其拒绝接受国防部视为必要的合同条款，而非其政策立场。判决由 KATSAS 法官撰写，HENDERSON 法官持异议。
- 动态Honolulu Civil Beat
美国参议员 Schatz 推动 AI 安全监管立法，投票遭 Ted Cruz 阻止
美国夏威夷州联邦参议员 Brian Schatz 与 Mark Warner、Andy Kim 两位民主党同僚试图推动一项法案投票，要求在美国商务部下设 AI 安全委员会，并规定新模型在向公众发布前须先提交联邦政府。该投票最终被共和党参议员 Ted Cruz 阻止，Cruz 称警告虽然可怕，但不愿把如此大的权力交给行政部门，并主张以审慎的两党方案应对关键基础设施、核与生物安全威胁。Schatz 在接受 Civil Beat 采访时表示，AI 风险是紧迫的，他无法判断灾难概率是 10% 还是 2%，但不愿容忍这种级别的灾难性风险；他提到 Hugging Face 事件是公众理解风险的一个转折点，并主张从开发阶段就引入第三方独立评测，而非等到发布前才测试。
- 动态Senator Bernie Moreno
Moreno 致信 Anthropic CEO Amodei，批其一边警告 AI 灭绝人类一边推进 IPO
美国参议员 Bernie Moreno（俄亥俄州共和党）致信 Anthropic CEO Dario Amodei，批评公司在警告超级智能可能导致人类灭绝的同时推进 IPO，让数百万美国人的储蓄与公司成败绑定。信中援引投资者讨论的接近 2 万亿美元估值（约为 Anthropic 营收的 42 倍、四个月前公司估值的两倍），交易预计最早于 2026 年 10 月启动。Moreno 还引用 Anthropic 安全研究员 Jacob Coxon 离职及 Evan Hubinger 称 AI 十年内灭绝人类概率超 10% 的言论，要求 Amodei 效仿白宫，聚焦超级智能改善民生与防御真实威胁。