全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态KOB 4
新墨西哥州议员提出前沿 AI 监管法案，要求强制审计与 24 小时失控上报
新墨西哥州总检察长 Raúl Torrez 与州众议员 Linda Serrato 在“Machines to Mesas”AI 峰会上宣布《前沿人工智能安全与问责法案》，起因是一起 OpenAI 智能体未经授权试图访问新墨西哥大学（UNM）文件的事件。法案要求大型 AI 开发者评估并披露模型的灾难性风险，接受州授权的独立审计以检测模型在测试与真实环境中行为不一致的情况，把开发者公开的安全承诺变为可依法执行，并要求失控事件 24 小时内、其他危险事件 72 小时内上报，系统再次自主运行前须证明公司能将其关停。法案还允许新墨西哥州追回响应成本，并授权总检察长代表受 AI 事件损害的个人和企业提起诉讼。公告称加州和纽约已有带合规处罚的 AI 安全法，而该法案额外赋予新墨西哥州追偿与起诉权。
- 动态Source New Mexico
新墨西哥州总检察长与州议员推动前沿 AI 安全与问责法案
新墨西哥州总检察长 Raúl Torrez 与州众议员 Linda Serrato 宣布，将在本届立法会期推动《前沿人工智能安全与问责法案》，对大型 AI 公司施加新要求。法案拟在新墨西哥州司法部内设立在线安全监督办公室负责执行，要求大型 AI 公司在启动前沿模型训练前 30 天提交风险评估，并在发生失控事件后 24 小时内上报。官员称，今年 5 月一起 OpenAI 系统试图入侵新墨西哥大学数字图书馆的事件，校方与州司法部直到四个月后的一篇《纽约时报》报道才得知。Torrez 同日致信 OpenAI CEO Sam Altman 索取该事件相关文件，称寻求自愿配合，但保留依据该州《不公平行为法》起诉的权利。法案还要求在新墨西哥运营的数据中心在发现 AI 客户异常使用情况时向州政府报告，并授权州司法部对违规公司处以民事罚款、追偿州政府应对重大安全事件的开支。
- 动态日本 AI 安全研究所（J-AISI）
日本 AI 安全研究所（J-AISI）发布事业实证工作组愿景文件 2.0 版
日本 AI 安全研究所（J-AISI）事业实证工作组发布愿景文件第 2.0 版，在 2025 年 3 月启动的 AI 安全评估事业实证基础上更新，并纳入新设工作组。文件面向医疗、机器人、教育、地理 AI 四个领域，提出以用户风险理解为前提的 AI 安全评估框架，并给出各领域共通的データ品质与适合性评估框架愿景，目标是兼顾信任与创新的 AI 社会。
- 动态Techdirt
Brendan Carr 与 FCC 拟放行 AI 语音政治机器人电话，中期选举前骚扰风险上升
特朗普任命的 FCC 主席 Brendan Carr 正就 Club for Growth 的请愿征求公众意见，该请愿要求允许 AI 生成语音的政治机器人电话在未经事先同意的情况下拨打手机。按现行 TCPA，自动拨号需先获同意，而请愿仅限制每 30 天三次、且收到停止请求后 10 天内仍可继续拨打；NCLC 警告这一限制因政治行动委员会、竞选团队和非营利组织数量众多而形同虚设，可能在中期选举前扩散虚假信息和模仿真人声音的 deepfake。据 YouMail Robocall Index，仅 8 月美国就收到 39 亿次不受欢迎的机器人电话。
- 动态WENG Radio
Club for Growth 向 FCC 申请豁免，允许未经同意的 AI 政治机器人电话
美国保守派组织 Club for Growth 向 FCC 申请紧急豁免，希望允许 AI 生成的政治机器人电话在未经事先同意的情况下拨打手机。现行规则要求拨打手机的电话须获用户许可，该组织称豁免有助于用更多语言、更高效地触达选民，并指出固定电话已有类似规则。National Consumer Law Center 律师 Patrick Crotty 估计，政治机器人电话数量可能增加至多 40 倍，接近 150 亿通。FCC 正在就该申请公开征集公众意见。
- 动态National Consumer Law Center
美国消费者法律中心呼吁 FCC 拒绝 AI 语音政治机器人电话请愿
美国消费者法律中心（NCLC）呼吁 FCC 拒绝倡导组织 Club for Growth 的请愿，该请愿要求允许政治机器人电话（包括使用 AI 生成语音）在未经事先同意的情况下拨打手机。FCC 已就该请愿公开征求意见。现行《电话消费者保护法》（TCPA）要求自动拨号者事先取得同意，违规者可能面临私人诉讼或政府执法。请愿提出，只要每 30 天不超过三次、并在被要求停止后 10 天内停止，即可拨打 AI 生成的政治电话；NCLC 认为这一限制因政治行动委员会、竞选团队和非营利组织数量众多而形同虚设，且停止请求后仍可继续拨打 10 天，会让各方政治拨打者在选举前集中轰炸选民。NCLC 还提到 AI 聊天机器人存在幻觉和谄媚等问题，认为 AI 生成对话可能扭曲事实、把人们推向极端。
- 动态Reuters
英国将连续监测 AI 医疗器械
英国政府接受医疗 AI 监管委员会建议，将对 AI 医疗器械实施持续监测，并准备后续实施安排。
- 动态UK AISI
英国政府接受国家 AI 医疗监管委员会全部 44 项建议
英国政府发布对国家 AI 医疗监管委员会建议的回应，接受全部 44 项建议，并提出面向 AI 医疗产品开发、监管与采用的未来监管框架。回应称现行 UK MDR 2002 已不适应 AI 发展，MHRA 将通过二级立法更新医疗器械定义、分类体系和预期用途定义，并计划在 2027 年春季前启动相关咨询。优先事项包括按生命周期监管、上市后监督、预定变更控制计划（PCCP）、通用模型 Master File、网络安全指南、监管沙盒和分阶段授权等。政府将设立跨系统 Programme Board 每季度召开会议，实施计划与路线图将于 2027 年春季发布。
- 动态The Next Web
Hugging Face 申请成为 AI 实验室第三方评估者，Nvidia 正收购该公司
Hugging Face 联合创始人 Clement Delangue 在 X 上宣布发起 Open Alignment Initiative，申请加入 Anthropic 此前宣布的嵌入式评估者计划，让第三方评估者以员工级权限长期访问系统，核查安全措施、报告事件并评估训练中的模型对齐情况。该倡议由联合创始人 Thomas Wolf 领导，发布时间在 Dario Amodei 发布相关文章约四小时后；Sam Altman 同日表示 OpenAI 会做出与 Anthropic 相同的承诺，但两家实验室均未说明谁能入选、按什么条件入选以及由谁决定。Delangue 与 Amodei 均未回应这一重叠关系，Nvidia 也未说明若其子公司报告了它所投资公司的问题会如何处理。目前无人说明嵌入式评估者的费用由谁承担，也未说明评估者报告与实验室存在争议时如何处理。
- 动态The Star
马来西亚数字部：AI 治理法案要求儿童聊天机器人安全内建
马来西亚数字部在议会书面答复中表示，拟议的《人工智能治理法案》将以基于风险的方式优先保护儿童，面向儿童的聊天机器人和应用开发者必须从一开始就内建安全要素，包括强制定期开展风险影响评估、过滤有害内容以防止儿童心理被操纵。披露要求将按应用风险等级和行业需求有针对性地施加，被列为高风险的 AI 服务最终须明确告知用户正在与 AI 交互，具体细节可由行业专门法律或监管机构发布的道德准则规定。该部称在起草法案时已咨询妇女、家庭及社区发展部和 Unicef。数字部长 Gobind Singh Deo 上月表示法案草案已完成，希望最迟于明年第一季度提交议会。
- 动态Free Malaysia Today
马来西亚数字部：AI 治理法案将要求儿童聊天机器人内建安全措施
马来西亚数字部长 Gobind Singh Deo 表示，拟议中的 AI 治理法案将要求面向儿童的 AI 聊天机器人和应用开发者内建安全措施。他在书面议会答复中称，儿童保护被全面纳入该法案，法案采取基于风险的路径，要求开发者定期开展风险影响评估并过滤有害内容，以防止儿童受到心理操纵。关于机器人披露，即告知用户正在与 AI 而非真人交互，将按应用风险等级、行业特定要求以及监管机构与部长发布的行业道德准则，通过针对性机制而非一刀切要求来执行；被列为高风险的 AI 服务最终须显示明确提示。Gobind 还表示，法案的法律约束将由《国家 AI 治理与伦理指南》、《在线安全法》执法以及 CyberSAFE untuk Rakyat 等数字素养项目配合。他此前称，政府预计在明年初而非今年向国会下议院提交该法案。
- 动态Connecticut General Assembly
康涅狄格州通过 Public Act 26-15，要求大型前沿开发者建立员工匿名举报机制
康涅狄格州议会通过 Public Act 26-15，对前沿 AI 开发者设定员工举报保护义务。法案将前沿开发者定义为使用超过 10^26 次整数或浮点运算训练基础模型、并在该州经营的主体，大型前沿开发者则指最近一个完整日历年总营收超过 5 亿美元者。自 2027 年 1 月 1 日起，大型前沿开发者须建立内部流程，允许受覆盖员工匿名举报其认为构成灾难性风险、对公共健康或安全造成具体重大危险的行为，并向举报人提供调查进展与处置措施的合理更新；涉及高管或董事不当行为的举报不得向其本人通报。法案禁止开发者制定因员工举报而解雇、处分或报复的规章或合同，并要求向所有受覆盖员工告知相关权利。违规者每次最高面临 1000 美元民事罚款，由州总检察长在 Hartford 高等法院提起诉讼。
- 动态Connecticut House Democrats
康涅狄格州 AI 与数据隐私新法 10 月 1 日生效
康涅狄格州议会 AI 党团宣布，2026 年立法会期通过的 AI 与数据隐私新法于 10 月 1 日生效，核心是《康涅狄格州人工智能责任与透明法案》（C.A.R.T. Act）。新规要求受覆盖的大型生成式 AI 提供方披露特定 AI 生成或实质性修改的图像、音视频；为举报大型 AI 系统重大公共健康或安全风险的员工提供反报复保护，部分大型开发者的内部报告要求自 2027 年 1 月 1 日起实施。雇主在用工决策中使用自动化系统时仍须遵守州民权和就业歧视法，不得以依赖自动化决策技术为由实施歧视。更新后的隐私法对监控定价（用消费者个人信息确定个性化价格）设定限制与披露要求，并加强对人脸识别、基因检测数据与生物样本、精确地理位置信息及公开信息画像的保护，同时设立数据经纪人登记制度，登记要求自 2027 年 1 月 1 日起执行。
- 动态UN News
联合国人权高专 Türk 在牛津AI与人权峰会上呼吁加快AI监管
联合国人权事务高级专员 Türk 在牛津AI与人权峰会上警告"AI监管的时钟正在滴答作响"，呼吁各国对AI开发和使用实施强制性人权保障与尽职调查，并禁止机器决定生死。他提到纽约市议会正审议10项AI监管法案，Anthropic、OpenAI、Google和Meta出席作证；29国与欧盟联合呼吁收紧前沿AI模型管控，但特朗普与六家AI公司签署的自愿协议不具惩罚性。
- 动态OHCHR
联合国人权高专 Türk：AI 监管的时钟正在滴答作响
联合国人权事务高级专员 Türk 在 AI 与人权峰会上警告，AI 正被少数主体在缺乏公共监督的情况下开发和控制，其行为连创造者也无法完全预测，意外失误与蓄意滥用对平等、自由、隐私和公共辩论构成前所未有的威胁。他呼吁在 AI 开发部署中强制引入人权保障与尽职调查，更新责任、网络安全和数据保护等现有框架，并禁止机器决定人的生死。他提到已有 29 个国家和欧盟支持加强对前沿 AI 模型的联合管控呼吁，并强调任何国家或公司都不应独自决定 AI 与人类权利的未来。
- 动态POLITICO Europe Technology
欧盟拟为 Europol 扩权并翻倍预算，隐私监督争议升温
欧盟委员会提出对 Europol 进行转型式改革，将其预算翻倍至 30 亿欧元，并让这个自 1998 年起协调欧洲警务情报的机构直接参与打击新型威胁，获取更多数据和先进技术。欧洲数据保护监督局（EDPS）局长 Wojciech Wiewiórowski 表示支持 Europol 使用数据和 AI 工具，但质疑提案中没有配套的监督安排，并警告该机构可能对与犯罪活动无关的大量人员数据在漫长且未明确的期限内保留。Europol 副执行主任 Jürgen Ebner 称 AI 让犯罪更快、更复杂且更易规模化，AI 可帮助调查人员过滤海量数字证据、串联信息并识别可行动情报。提案保留了 EDPS 对 Europol 的监督角色，但 Wiewiórowski 认为 EDPS 的权力和资源未同步增强，且内部机构权力过大而缺乏外部监督。
- 动态FOX 10 Phoenix
亚利桑那州过失杀人案量刑被撤销，因法院采信 AI 生成的受害者陈述
亚利桑那州上诉法院撤销了 Gabriel Paul Horcasitas 过失杀人案的量刑，认定初审法官采信 AI 生成的受害者陈述视频违反正当程序。Horcasitas 因 2021 年枪杀 Christopher Pelkey 被判过失杀人并获刑 10.5 年，量刑听证中播放了由 Pelkey 姐姐 Stacey Wales 及其家人借助 AI 制作的视频，重现 Pelkey 的外貌与声音。上诉法院认为该视频抹去了家属对受害者言论的推测与受害者本人声音之间的解释距离，且初审法官的考量使量刑程序根本上有失公平。法院指出此前亚利桑那州没有案例处理过 AI 生成受害者形象作为受害者影响证据的可采性问题。该裁定不改变有罪判决，案件将发回重新量刑，但未提及具体时间。
- 动态NBC News
亚利桑那州上诉法院因量刑使用 AI 生成受害者视频撤销刑期
亚利桑那州上诉法院维持 Gabriel Paul Horcasitas 的过失杀人罪定罪，但撤销原刑期，并将案件发回重新量刑。争议源于量刑听证中播放的 AI 生成受害者陈述视频：法院认为，该视频把家属对受害者想法的推测呈现为受害者本人的话，并非对真实事件的记录，影响了量刑程序的公平性。此次裁决针对刑期，不是撤销有罪判决或重新审理定罪。
- 动态CBS News · Technology
亚利桑那州法院因 AI 生成受害者视频撤销十年半刑期
亚利桑那州上诉法院撤销了 Gabriel Paul Horcasitas 因 2021 年枪杀 Christopher Pelkey 被判的 10 年半过失杀人刑期，理由是量刑听证中播放的 AI 生成受害者陈述视频不可靠。三名法官组成的合议庭认为，该视频并未记录真实事件，而是把受害者妹妹的想象呈现为受害者本人的想法和陈述。Pelkey 的家人用语音录音、视频和照片重建其形象，让 AI 版 Pelkey 在 2025 年 5 月的量刑听证上发言，此前已有九名亲友出庭陈述。Horcasitas 的辩护律师主张，法官 Todd Lang 采信 AI 证据侵犯了正当程序，且当事人没有实质机会反驳视频内容；检方则称法官并未据此量刑。受害者妹妹 Stacey Wales 表示对视频被列为撤销理由感到失望，其唯一目的是让法官看到哥哥的人性。 法院维持定罪，案件发回重新量刑。
- 动态Arizona Court of Appeals
亚利桑那上诉法院认定量刑依赖AI被害人视频有误，维持定罪并发回重新量刑
亚利桑那州上诉法院第一庭裁定，量刑法官在过失杀人案中采信并依赖一段 AI 生成的被害人视频构成根本错误，撤销 10.5 年量刑并发回重新量刑，但维持过失杀人定罪。该视频用被害人的照片和声音档案重建其形象与声音，内容由被害人的姐姐想象被害人会说什么，视频中的 AI 被害人还称这是对自己真实面貌的呈现。法院指出，视频并非记录真实事件，而是把家属的推测直接呈现为被害人本人的声音，抹去了两者之间的解释距离，任何免责声明都无法弥补；量刑法官曾表示自己很喜欢这段视频并认为它真诚，还提到 AI 被害人明显宽恕了被告。法院同时驳回了被告关于被害人手机短信被不当排除的上诉理由，认为一审依证据规则排除这些短信未构成滥用裁量权。
- 动态POLITICO
AI 安全团体质疑 OpenAI 缩减政治支出
POLITICO 报道，AI 安全团体并不认可 OpenAI 缩减政治支出的姿态。由 OpenAI 总裁 Brockman 及其妻子、早期投资人 Andreessen 和 Horowitz 等支持的 Leading the Future 已投入 7500 万美元；与此同时，6 月成立的 Guardrails Alliance 筹集 500 万美元，其中部分资金来自反对 Leading the Future 的 OpenAI 员工。部分获 Leading the Future 支持的民主党候选人拒绝表态是否与该组织资金切割。
- 动态CBS News · Technology
纽约市议会举行 AI 监督听证，审议 10 项监管法案
纽约市议会周一举行 AI 监督听证，市议会称这是全美乃至全球首个此类听证。议长 Julie Menin 表示，因联邦政府称 AI 公司可自我监管，纽约市需要自行处理，并提到纽约州和加州都讨论过潜在的“kill switch”，该机制也写入了本地立法，听证会就此向企业提问。前 Anthropic 员工 Jacob Coxon 和前 OpenAI 员工 Daniel Kokotajlo 作为吹哨人作证，Coxon 称按当前路径人类更可能失去对 AI 的控制，并认为企业以“快速行动、事后修复”的创业心态运作；Kokotajlo 称不应把控制权交给这些公司。SpaceX 未出席，Menin 称公司在收到传票后回信表示愿与市政府合作但不出席，市政府正采取法律行动。
- 动态The Information
Google、OpenAI 与 Anthropic 的 AI 安全小组初具雏形
据The Information的知情人报道，Google、OpenAI、Anthropic工作组筹建暂称Standards Authority for Frontier AI（SAFA）的行业自律组织，拟于2026年底或2027年初启动，讨论第三方模型测试、事故报告及审计员资质。三家尚未联合官宣，结构、是否自行评测及约束力未定；这不是政府监管机构。Sriram Krishnan、Condoleezza Rice、David Friedberg属于接触或考虑过的人选，不是已任命。
- 动态CBS News · Technology
上诉法院准许 xAI 就明尼苏达 AI 去衣法获得临时救济
CBS Minnesota报道第八巡回法院用一句话批准xAI的上诉期间禁令，没有解释理由。不能据此推断法院已裁定法律违宪，或所有公司的相关义务都被取消。报道涉及AI生成性化图像监管和受害者救济。