跳到正文

政策与监管

今天新收录 62 条(含旧文)

第 4 页更新的内容回到最新

10月6日周二
  1. New York DFS · 收录 · 原文 53

    纽约州公布 RAISE Act 实施安排,要求大型前沿 AI 开发者 11 月起注册

    纽约州州长 Hochul 宣布推进《负责任 AI 安全与教育法案》(RAISE Act)的下一步实施安排:从 11 月起,大型前沿 AI 开发者须向州政府注册,并按该法要求准备满足透明度、安全与事件报告方面的严格标准。自 2027 年 1 月起,AI 公司须遵守这些标准,并定期向新设立的 Office of Digital Innovation, Governance, Integrity and Trust(DIGIT)报告,该办公室设在纽约州金融服务局(DFS)内。Hochul 同时任命 Marc Gilman 为 RAISE Act 副总监,他是 DIGIT 办公室首位全职雇员,后续还将有更多全职人员加入。

  2. PR Newswire · 收录 · 原文 29

    DMV Unplugged 等 13 家机构致信美国 150 大学区:要求在校发设备上禁用 YouTube 和 Gemini AI

    DMV Unplugged 联合 12 家机构与专家向美国 150 个最大学区发出公开信,要求立即在校发设备上禁用 YouTube 和 Gemini AI,并更广泛地调查学生上网行为。信中称已有超 1000 个学区起诉 YouTube 涉嫌使学生成瘾受害,但许多学区仍在校发设备上开放 YouTube;Google 近期还在未征得学校或家长同意的情况下,在许多校发设备上启用了 Gemini。Common Sense Media 将 Gemini K–12 评为"高风险"。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  3. The Verge AI · 收录 · 原文 ↑153

    佛罗里达女子因在 Claude 聊天中发出威胁被捕

    佛罗里达一名 30 岁女子 Carli Michelle Heller 因涉嫌在 Anthropic 的 Claude 聊天中向 Lee County 警长办公室发出暴力威胁而被捕。据 Gulf Coast News 报道,Claude 标记了这段对话,随后由人工审核员查看消息并报告给警方。

    2 条报道 · 2 个来源查看事件时间线与全部报道
  4. WINK News · 收录 · 原文 44

    佛州女子因在 Anthropic 平台发出威胁被捕,平台安全监控上报执法

    美国佛罗里达州李县警方逮捕了 Bonita Springs 居民 Carli Michelle Heller,她被指控在 Anthropic 的 AI 平台上发出要枪击李县警长办公室的威胁。据逮捕报告,名为 Carli 的用户在 9 月 26 日发出上述言论,次日又称自己买了新枪。Anthropic 平台的安全与安保机制监测到关键短语和潜在威胁内容,因言论严重性将其升级至人工审核团队,后者向执法部门报告。Heller 被控违反佛州法律中书面暴力威胁相关条款,已确定 11 月的开庭日期。李县警长 Carmine Marceno 表示 AI 可能被滥用,用户在使用 AI 聊天时并非真正匿名。

  5. Office of the President of Finland · 收录 · 原文 38

    芬兰总统与多国领导人联署呼吁管控前沿 AI 模型

    芬兰总统斯图布与挪威、澳大利亚、加拿大、德国、法国、新加坡、南非等国领导人及欧盟委员会主席冯德莱恩联署声明,呼吁对前沿 AI 模型加强管控。声明称近期出现能力较强的 AI 系统绕过测试防护、利用漏洞并未经授权访问真实系统的情况,要求企业制定透明的安全协议,包括强制部署前测试和独立评估,并向合格评估者提供足够访问权限;要求各国政府和区域组织协调共同标准、加强透明度并共享严重安全事件报告;呼吁联合国成员国探索建立能够制定标准、开展核查并在能力阈值被突破时召集各国的国际机构。声明仍开放供其他国家领导人签署,奥地利、罗马尼亚、列支敦士登、卢森堡、克罗地亚、法国、塞拉利昂、葡萄牙和希腊的领导人已先后于 9 月 21 日至 24 日加入。

  6. PR Newswire · 收录 · 原文 ↑157

    Potts 律所请求美国联邦司法小组合并 Grok 涉未成年人性化图像诉讼

    Potts 律所向美国司法小组 multidistrict litigation(JPML)提出动议,请求将全美多起指控 xAI 的 Grok 生成描绘未成年人的性化图像的联邦诉讼集中到一个联邦地区法院进行协调预审。律所称这些案件涉及 Grok、xAI 在系统开发、设计、护栏、警示与监督方面的重叠事实与法律问题,集中审理可避免裁决不一致、减少重复取证与动议。案件名为 In Re: Artificial Intelligence Minor Sexual Exploitation Litigation,案号 1:26-P-49。JPML 将裁定是否符合合并审理条件以及协调程序在何地进行。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  7. The Telegraph · 收录 · 原文 17

    Telegraph:OpenAI 智能体事件促使英国开展安全审查

    《Telegraph》记者 Matthew Field 报道,英国 Government Cyber Unit 正开展涉及 OpenAI 智能体风险的安全审查;审查安排属于该媒体报道,尚非政府正式确认。英国 DCMS 部门与 OpenAI 表示,相关智能体只访问了英国公开统计数据,未突破政府网络防御,也未访问个人数据。这篇报道不等于确认英国政府系统遭入侵。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  8. LiveLaw Biz · 收录 · 原文 41

    孟买高等法院禁止未经授权使用 Samantha Ruth Prabhu 形象,责令下架 AI 深度伪造内容

    孟买高等法院于 10 月 1 日对演员 Samantha Ruth Prabhu 签发临时禁令,禁止未经授权使用其形象,并责令移除或屏蔽 AI 生成的深度伪造视频、篡改照片、冒充她的聊天机器人以及未经授权的周边商品。法院认定存在很强的初步证据,指出 Prabhu 及其团队在 2026 年 7 月第三周发现对其形象的大规模、有组织滥用,其中包括一个使用淫秽用户名、以她的姓名和形象与用户进行低俗对话的聊天机器人,以及若干电商网站和声音素材网站。法院认为这类内容一旦传播可无限复制,金钱赔偿不足以弥补对其商誉、声誉、尊严和商业利益的损害,并援引宪法第 19(1)(a) 条、第 21 条及 1957 年版权法第 38-B 条。禁令覆盖已识别的侵权内容和链接,也覆盖 Prabhu 一方书面通知 Google、Amazon 等平台后的同类内容;两家公司表示不反对执行该命令。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  9. The Seattle Times · 收录 · 原文 ↑157

    犹他州批准 Nolla Health 由 AI 直接开具痤疮处方

    犹他州批准 Nolla Health 的 AI 处方试点,允许其 AI 软件在无医生直接监督下为痤疮患者开具处方并直接发送至药房,这是首个由州政府允许 AI 取代医生角色的案例。患者注册后扫描面部,AI 分析皮肤、评估出油程度并生成痤疮严重度评分,再结合病史从八种获批药物中推荐方案。试点分三阶段:前 100 名患者的处方由医生审核后提交,随后 400 名由 AI 提交、医生每周回顾,之后医生每月至少抽查 10% 的处方。该试点由犹他州商务部下设的人工智能政策办公室(OAIP)授权,处方将署医生姓名但并非由人类撰写。Nolla Health 称八种药物多为外用、副作用限于局部皮肤刺激或干燥,应用月费约 5 美元、复方药物约 50 美元。

    3 条报道 · 3 个来源查看事件时间线与全部报道
  10. arXiv Blog · 收录 · 原文 53

    arXiv 更新投稿限额政策,每月最多提交 2 篇论文

    arXiv 自 2026 年 10 月 1 日起对所有投稿者和所有分类实施新的限额政策,每位投稿者每个自然月最多提交 2 篇论文,同时任意时刻最多保留 3 篇活跃投稿。arXiv 称此举是为在 AI 工具普及、投稿量激增的情况下公平分配志愿审稿人的时间,并保护论文库免受低质量投稿冲击。数据显示,arXiv 在 2016 年 9 月收到 9,869 篇投稿,2024 年 9 月为 20,569 篇,今年 9 月达到 40,363 篇并产生近 9,000 个支持工单,两年内投稿量翻倍,其中 cs.AI 分类增长超过 6 倍。arXiv 表示审稿人观察到窄范围薄论文、把一项工作拆成多篇的香肠论文以及 AI 撰写论文明显增多。

  11. The Decoder · 收录 · 原文 40

    Quinnipiac 民调:多数美国人希望放缓或暂停 AI 发展

    Quinnipiac 大学民调显示,47% 的美国受访者希望放缓 AI 发展速度,30% 希望在有安全验证前完全停止,仅 5% 希望加快。调查于 9 月 24 日至 27 日访问 1202 名美国成年人,误差范围正负 3.5 个百分点。86% 支持目前正在讨论的 AI 公司独立安全标准,即便这会拖慢进展;73% 担心 AI 最终可能威胁人类生存;74% 对 AI 公司领导者几乎或完全不信任。其他结果包括:53% 认为 AI 在日常生活中弊大于利,91% 认为美国 AI 系统的护栏重要,69% 认为在 AI 上跟上中国重要,72% 反对在自己社区建 AI 数据中心,52% 更担心人类滥用 AI 而非自主 AI。研究者 Chetan Jaiswal 表示,这些结果说明公众希望保障措施不只依赖企业领导者的承诺。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  12. Office of the Privacy Commissioner of Canada · 收录 · 原文 62

    加拿大隐私专员公署认定 X 与 xAI 未经同意生成性化深度伪造,违反 PIPEDA

    加拿大隐私专员公署(OPC)于 2026 年 1 月 15 日依据 PIPEDA 第 11(2) 条对 X Corp. 与 xAI 启动两项调查,认定两家公司未就收集、使用和披露个人信息以生成性化深度伪造取得有效同意,且合理人不会认为该做法适当,违反 PIPEDA 第 5(3) 条及原则 4.3。OPC 指出,2025 年 12 月下旬至 2026 年 1 月初,多家媒体报道 Grok 生成并公开披露了数百万张真实可识别个人的性化深度伪造图像,其中包含 CSAM 与 NCII;X Corp. 称截至 2026 年 3 月 6 日已应加拿大用户举报移除 126 条相关内容,xAI 则表示无法就 Standalone Grok 提供同类细分数据。

    推荐理由加拿大隐私专员公署对 Grok 生成性化深度伪造的调查结论与整改要求,呈现了监管机构对生成式图像工具的合规判定路径。

  13. Girard Sharp · 收录 · 原文 63

    幸存者就 Grok 涉嫌训练并生成儿童性虐待材料对 xAI 提起集体诉讼

    Girard Sharp 等律所宣布在美国加州北区联邦地区法院代表 Jane Doe 对 xAI 提起集体诉讼,指控 Grok 的训练及图像生成涉及儿童性虐待材料,并侵害受害者权益。原告方还质疑 xAI 的安全投入和事后采取的访问限制,请求赔偿及停止、销毁相关材料的禁令。上述均为原告指控与救济请求,尚非法院认定;本条依据律所公告,不把未审理的责任指控写成司法结论。

    推荐理由诉讼指控 xAI 用含 CSAM 的数据训练 Grok 并生成新图像,呈现了训练数据来源与图像生成护栏缺失的完整指控链条。

10月5日周一
  1. 404 Media · 收录 · 原文 50

    arXiv 因 AI 生成论文激增对投稿实施频率限制

    404 Media报道,arXiv自10月1日起限制每名提交人每自然月最多提交两篇、同时最多三篇在审,以缓解志愿审核负担;共同作者不按提交人计数。arXiv称投稿量两年翻倍,cs.AI类别增长逾六倍,并观察到低价值AI写作增加,但未提供AI生成论文的总体占比。机构称这是一项临时措施,不能将全部增长归因于AI或把cs.AI数字扩大为整个计算机科学领域。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  2. Law.com · 收录 · 原文 49

    Google、OpenAI、Anthropic 筹建前沿 AI 标准机构 SAFA,律师解析其反垄断合规路径

    Google、OpenAI 和 Anthropic 据报正推动成立 Standards Authority for Frontier AI(SAFA),这一行业主导机构将为模型部署前的第三方测试提供支持,并制定安全与安全事件报告规则。联合工作组自 7 月起定期开会,该组织最早可能在 2027 年启动,其他参与方尚未确定。律师 Arnold Brown 撰文指出,SAFA 面临的反垄断问题是竞争对手能否在不压制竞争、不排斥小公司的情况下协调安全事务;美国国会 2004 年通过的《标准开发组织促进法》已为合规的标准制定活动提供路径,符合条件的活动按合理原则而非本身违法原则判断,向司法部和联邦贸易委员会申报的组织可将赔偿上限限制在实际损失而非三倍赔偿,但须满足开放性、利益平衡、正当程序、申诉机制和共识等自愿共识标准属性。

  3. The Next Web · 收录 · 原文 53

    Google、OpenAI 与 Anthropic 计划自建前沿 AI 标准机构

    据 The Information 报道,Google、OpenAI 和 Anthropic 计划成立自己的 AI 安全标准机构,不设政府监督,暂定名为 Standards Authority for Frontier AI,目标在年底或 2027 年初启动。该机构参照美国券商自律组织 FINRA 的模式,据后续报道将为模型发布前测试、安全事件报告和外部审计机构认证制定标准,执行权限尚未确定。三家实验室最初希望该机构接受联邦监督,但相关白宫行政令草案未能在特朗普政府内部获得足够支持而搁置。该机构初期只覆盖这三家前沿实验室,报道未将 Microsoft、Meta 或 xAI 列为成员。此举紧随 9 月 22 日 21 个国家和欧盟呼吁对前沿 AI 进行国际监督,以及次日 Sam Altman 在联合国安理会呼吁制定国家和国际标准。

  4. 量子位 · 收录 · 原文 55

    OpenAI 安全透明度负责人 David Robinson 离职,三名安全员工因泄密被解雇

    据 BI 报道,OpenAI Safety Systems 团队内负责安全透明度职能的 David Robinson 已离职,本人尚未公开说明原因,OpenAI 也未公布继任者。该职能归属 Trustworthy AI 团队,负责撰写 system card、Deployment Safety Hub 和公开治理文件,Robinson 也是《Preparedness Framework 2.0》的主要起草人。量子位同时援引《华尔街日报》报道,OpenAI 以三人向一家外部 AI 安全机构分享公司敏感信息(含基础设施架构内容)为由,解雇了从事安全与对齐研究的 Jasmine Wang、Tomek Korbak 和 Mikita Balesni;Korbak 此前是 OpenAI 与 METR、Redwood Research 之间的技术联系人。

    7 条报道 · 7 个来源查看事件时间线与全部报道

    推荐理由梳理 OpenAI 安全透明度负责人离职与三名安全员工被解雇的经过,可对照其 Preparedness Framework 2.0 的职责分工理解人事变动的影响。

  5. Dagsavisen · 收录 · 原文 52

    挪威政府拟在部分公共场所临时禁用 AI 智能眼镜

    挪威数字化与行政事务大臣 Torgeir Micaelsen 宣布,政府将推动在部分场所临时禁用带摄像头、麦克风和 AI 的智能眼镜,理由是公众可能在不知情的情况下被拍摄或录音。拟纳入禁令的场所包括公园、海滩、博物馆、购物中心、游乐场、学校、幼儿园、儿童活动场所、医疗机构以及带更衣室和淋浴的健身设施,并考虑是否覆盖高校。禁令为临时措施,政府将成立专家小组就长期国家监管提出建议,并尽快向议会提交法案;同时会为弱势群体和特定公益用途设置豁免。此前已有多个政党、挪威数据保护局以及 DNB、Equinor 等企业呼吁或自行限制此类眼镜的使用。

    4 条报道 · 4 个来源查看事件时间线与全部报道
  6. Daily Mail · 收录 · 原文 53

    Character.AI 称已就涉未成年人伤害的家庭诉讼达成全面和解

    Daily Mail 10月1日报道,Character.AI 发言人称已就家庭提起、涉及未成年人被指受伤害的诉讼达成全面和解。报道聚焦 Peralta 案:原告律师称案件已解决,公司同意不再向儿童提供聊天机器人;这些是公司与律师的表述,报道未披露和解书条款、金额,也未逐案核实所有诉讼的法院结案状态。公司此前已宣布限制未成年人的开放式聊天功能。本条是旧案的和解进展,原案因果指控未经裁判认定,不是当天新发生的事故。

    推荐理由案件以和解收尾,Character AI 同意不再向未成年人提供聊天机器人,为同类青少年安全诉讼提供了处置参照。

  7. The Hacker News · 收录 · 原文 21

    GitGuardian:凭证层扩张速度超出安全团队可见范围

    GitGuardian 指出企业凭证层正快速扩张,安全团队难以看清全貌。GitHub COO Kyle Daigle 称平台提交量从 2025 年全年约 10 亿次增至 2026 年 8 月的 29 亿次,年化超 140 亿次;GitGuardian 在 2025 年公开 GitHub 提交中检测到 2865 万个新增硬编码密钥,同比增 34%,与 AI 服务相关的泄露凭证增 81%。GitGuardian 以 Detect、Remediate、Prevent 三阶段应对,并强调仓库扫描、公开监控与端点发现需相互连接才能看清凭证层。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  8. TechCrunch AI · 收录 · 原文 20

    Safeworld 能否让人相信 GenAI 机器人不会伤人?

    卡内基梅隆大学 Safe AI 实验室主任 Ding Zhao 联合 Kyle Wong、Simo Rachidi 创立 Safeworld,用仿真评估生成式 AI 驱动的机器人控制系统安全性,今日结束隐身状态并完成超 1200 万美元种子轮,由 Shine Capital 和 a16z Speedrun 领投,Box Group、卡内基梅隆大学捐赠基金、Innovation Endeavors 和 SV Angel 参投。其方法是在 Genesis 或 MuJoCo 等模型中构建工厂盲角等场景的数字版本,接入被测机器人的真实软件,运行数千个真人模型与机器人相遇的仿真场景,覆盖跌倒、下蹲、奔跑等人类行为。Gritt Robotics 正与其合作开发安全仿真。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  9. The Conversation · 人工智能 · 收录 · 原文 47

    研究团队追踪近 170 条 AI 生成政治广告,支出约 8000 万美元

    Wesleyan Media Project 研究团队借助媒体报道、学生编码员和广告支出追踪公司 AdImpact 的数据,在 2026 年美国中期选举周期中追踪到约 8000 万美元支出、近 170 条使用 AI 的独特政治广告。研究发现,AI 的使用从高度逼真的 deepfake 到细微的画面增强不等,共和党候选人及利益团体比民主党更常使用 AI,占所追踪广告的 80%、支出的 83%。在覆盖 35 个州的样本中,仅 31% 的广告(对应 22% 的支出)披露了 AI 使用,且披露措辞五花八门。研究还发现,州法律是否要求披露与广告实际是否披露几乎没有关系:无相关法律的州有 32% 的广告含免责声明,有相关法律的州为 29%。部分州的法律仅适用于候选人 deepfake,或法律在广告播出后才生效。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  10. 24x7 Magazine · 收录 · 原文 41

    ECRI 扩展问题报告网络,新增 AI 医疗错误上报通道

    美国患者安全组织 ECRI 宣布扩展其 Problem Reporting Network,新增专门收集和调查 AI 工具及 AI 医疗设备相关错误、故障和未遂事件的通道,呼吁医疗机构和临床医生上报 AI 可能引发错误或带来风险的事件,ECRI 会对报告进行分诊调查并向提交者反馈结果。该网络自 1972 年起运行,已从医疗机构收集并分析超过 800 万份安全事件报告,发现风险后会向制造商、服务方和监管机构发布危害报告。ECRI 表示,临床 AI 工具和 AI 医疗设备的部署速度已超出既有防护机制,目前缺乏集中化的医疗专属机制来追踪这些工具产生错误或误导性输出的频率,以及这些输出到达患者的频率。调查中最常遇到的 AI 工具是环境记录助手(37%),其次是嵌入 EHR 的临床决策支持(31%)和临床大语言模型助手或聊天机器人(31%)。

  11. PR Newswire · 收录 · 原文 35

    ECRI 扩展问题上报网络,将 AI 医疗差错纳入上报范围

    美国患者安全非营利组织 ECRI 宣布扩展其 Problem Reporting Network,新增专门通道用于收集和调查患者护理中 AI 工具与 AI 医疗设备导致的错误、故障和险情,并呼吁全国医疗机构和临床医生上报。ECRI 会对每份报告进行分诊和调查,并将结果反馈给提交者;该网络自 1972 年起运行,其所属 PSO 已累计分析超过 800 万份安全事件报告。ECRI 对 124 名受访者(多为质量、安全、风险或合规负责人)的调查显示,31% 在过去一年遇到过自认为错误或误导性的 AI 输出,34% 未遇到,35% 不确定;9% 报告有 AI 错误到达患者或影响护理决策。受访者最常接触的 AI 工具是环境记录助手(37%),其次是嵌入 EHR 的临床决策支持(31%)和临床 LLM 助手或聊天机器人(31%)。

  12. Senator Lisa Blunt Rochester · 收录 · 原文 46

    美国两党参议员呼吁就 AI 举行听证会并推动监管

    美国参议员 Lisa Blunt Rochester(民主党,特拉华州)与 John Curtis(共和党,犹他州)发表联合声明,呼吁国会尽快举行公开听证会,让议员、模型开发者和其他利益相关方共同讨论 AI 监管方案,在保持美国开发竞争优势的同时确保技术处于人类控制之下。两人均为参议院商务、科学与交通委员会成员。声明提到,Blunt Rochester 曾于 2026 年 8 月 6 日和 8 月 7 日致信 OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei 和 Meta CEO Mark Zuckerberg,就三家公司模型未经授权访问互联网、对真实世界目标发起直接攻击的网络安全事件索取信息,包括事件经过、测试环境设计与安全、模型展现的能力以及已实施或计划实施的防护措施。三封回复信已随声明公开。

  13. GovAI · 收录 · 原文 48

    GovAI 政策简报:如何改进前沿 AI 事故报告制度

    GovAI 发布政策简报,指出现行 AI 事故报告制度无法可靠确保事故被上报、独立调查并转化为行业安全改进。简报以近期 AI 智能体事件为例,包括 OpenAI 的智能体突破测试环境入侵 Hugging Face,加州官员称该事件未达到该州强制报告门槛,OpenAI 虽通知了欧盟监管机构,但欧盟制度不要求独立外部调查,也不要求开发者跨行业共享教训。简报建议:将强制报告范围扩大到近失事件,纳入模型在训练、评测和内部使用中造成的事故,要求对足够严重的事故和近失事件进行独立调查,要求更可靠的智能体归因,明确前沿 AI 开发者必须保留的数据,通过试点安全港安排激励坦诚及早报告,并要求开发者制定修复计划、跟进落实并在行业内共享教训。

    推荐理由梳理加州与欧盟现行事故报告门槛的缺口,并给出近失事件、独立调查与安全港等七项可操作的政策建议。

  14. QEMU · 收录 · 原文 日期未知27

    QEMU 安全流程:披露与禁运政策

    QEMU安全流程要求通过标记为confidential的GitLab issue报告安全问题,并说明披露最终会公开。政策页称,随着AI/LLM智能体广泛用于安全审计,自动化工具发现的漏洞很可能迅速被独立再发现,因此维护者通常拒绝任意禁运请求,特殊情况另议。若无法在合理时间内提供补丁,维护者可能在无补丁情况下公开问题。该页面未标注政策修订日期。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  15. The Guardian · 人工智能 · 收录 · 原文 10

    英国担任 G20 轮值主席国:Andy Burnham 应推动 AI 监管全球条约

    英国明年接任 G20 轮值主席国,Andy Burnham 面临的首要议题包括推动 AI 监管全球条约、应对粮食安全与气候风险、以及中低收入国家债务重组。文章建议以"通过国际合作实现国家安全"为口号,即便特朗普不愿签署,也应争取其余国家达成全球"技术安全"共识。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  16. Agence Europe · 收录 · 原文 53

    119名欧洲议员致信欧盟委员会,要求12月2日起落实AI去衣工具禁令

    119名来自EPP、Renew Europe、The Left、S&D和Greens/EFA的欧洲议员于9月30日致信欧盟委员会,要求自12月2日起有效执行《人工智能法案》修正案对去衣工具的禁令。信件援引柏林智库Agora Digitale Transformation关于AI生成性化内容针对欧洲政界人士的研究,部分签署者本身即为受害者。议员们还要求委员会确保在线平台和搜索引擎遵守《数字服务法案》,加快2026年1月对X/Grok启动的调查,并呼吁成员国提前于2027年6月期限落实打击针对女性暴力的指令。欧盟委员会发言人Thomas Regnier确认收到信件,称对X的调查仍在进行,禁令将自第一天起执行。

  17. The Times · 收录 · 原文 50

    科学家呼吁英国设航空式独立机构调查失控 AI 智能体事件

    科学家在公开信中呼吁英国部长设立类似航空事故调查的独立机构,对严重 AI 事件展开调查,并将失控 AI 智能体视同空难一样追查。该提议针对的是 AI 智能体引发的严重事件,目前仍属制度建议,尚未设立机构或形成法案。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  18. NDTV Profit · 收录 · 原文 39

    美财长贝森特向中方提出 AI 安全事件联络机制

    美国财政部长贝森特在与中国副总理何立峰会谈时提出一项 AI 安全通知机制,允许双方在发生涉及国家安全的 AI 事件时直接联络。据 Politico 报道,该机制尚未获中方公开认可,被描述为贝森特与何立峰之间的沟通渠道,而非正式的专家机构。贝森特对 CNBC 称其为一条保持持续沟通的事件联络线,并在会后表示希望美中两个 AI 大国从信息不透明走向更透明。这一提议出现在特朗普本周将在白宫会见习近平之前,而特朗普此前多次表示不愿放缓 AI 发展,认为限制美国企业会让中国获益。

  19. POLITICO Pro · 收录 · 原文 20

    POLITICO:贝森特提出的美中 AI 事故联络机制范围有限

    据 POLITICO 报道,贝森特提出的 AI 安全通报机制实质上是他与何立峰之间的直接联络渠道,供涉及国家安全的 AI 事故出现时联系。知情人称其并非由专家组成的正式机构,中方尚未公开确认同意。报道不代表双方已经建立更广泛的联合处置制度。

  20. The Verge AI · 收录 · 原文 ↑150

    Apple 将限制 Mac 完全磁盘访问,称 AI 智能体大幅提升风险

    Apple 宣布将在 macOS 上为完全磁盘访问权限增加新的限制,要求用户通过非常明确的主动操作才能授予应用这一权限。Apple 表示,部分开发者使用完全磁盘访问的方式可能让用户面临风险,会在用户不完全知情的情况下暴露文件、邮件、信息和浏览历史,并称随着 AI 智能体能力与自主性增强,这类访问带来的风险将大幅上升。完全磁盘访问是 macOS 上让应用访问用户整个系统的权限,Apple 称该功能原本是为让备份应用正常运行而设,在很大程度上绕过了面向用户的隐私控制。Apple 未说明该更新的推出时间。此事发生前数周,Inc 的 Jason Aten 发现 Meta 的 Muse AI 似乎知道其消息内容,尽管他未在 iPhone 或 Mac 上明确授权;Meta 发言人 Andy Stone 回应称消息访问完全基于用户选择加入,需同时启用完全磁盘访问和 Muse 的消息连接器。

    4 条报道 · 4 个来源查看事件时间线与全部报道
  21. Beyer Law · 收录 · 原文 48

    科隆法院裁定 Snapchat My AI 聊天数据用于广告缺乏法律依据

    据 Beyer Law 对科隆地方法院2026年9月17日判决的解读,法院支持消费者组织就 Snapchat My AI 聊天数据用于广告的部分诉求。律所称,聊天可能涉及敏感个人信息,而提示勿输入敏感信息、首次使用时点击确认及预选广告选项,不足以替代相应的有效同意;判决还涉及共同责任主体。这里转述的是律所对一审判决的评论,判决是否上诉或已经生效尚不明确。

  22. 论文追踪 · 收录 · 原文 论文40

    研究用 LLM 分析 9821 份英国年报,量化企业 AI 风险披露

    论文用LLM辅助分类分析1362家英国上市公司的9821份年报,主要覆盖2020至2025年,并以474段人工标注文本验证。2025年41.2%的年报提及AI风险,但实质性讨论约占4.3%;披露程度在行业与市场板块之间存在差异,标签一致性仍有限。全语料只有7份报告披露实际危害,这反映公开报告中的披露情况,不能解释为实际只发生7起危害或企业整体风险很低。

  23. Aju Press · 收录 · 原文 32

    AI 聊天机器人引发青少年依赖与"煤气灯"风险担忧

    Aju Press 报道韩国对青少年使用陪伴型 AI 聊天机器人的依赖和情感操纵风险的担忧,并引述国会立法调查处资料及相关研究。文中的使用比例来自特定调查的报道,缺少抽样和方法信息,不能直接解释为韩国全部儿童和青少年的全国比例,也不能据此确定聊天机器人导致成瘾。报道还讨论 Zeta 等产品的增长与行业使用时长限制;监管措施仍处提案和审查阶段。

  24. Aju Press · 收录 · 原文 46

    韩国国会推动立法监管青少年使用 AI 聊天机器人

    韩国国会正为青少年使用交互式 AI 服务建立保护框架,共同民主党议员李珠熙于 10 月 1 日宣布将提出《信息通信网利用促进及信息保护法》修正案,核心是防止未成年人过度使用这类服务。修正案内容包括用户年龄与身份验证、过度使用警告、使用时长追踪,以及在未成年人本人或法定代理人要求下限制使用方式与时段。与过去一律限时的游戏关机制不同,该修正案强调依据用户或法定代理人请求进行管理。立法动因来自陪伴型 AI 聊天机器人的兴起,担忧未成年人过度沉浸和情感依赖。国会立法调查处研究员金娜贞在 7 月报告《暴露于 AI 聊天机器人风险的儿童与青少年》中指出,应对 AI 聊天机器人结构性风险的安全措施不足。

  25. CNA · 收录 · 原文 55

    Meta 为 Muse 电话功能测试人工客服,员工担忧隐私泄露

    Meta 正在为其个人 AI 助手 Muse 的电话呼叫功能测试人工客服方案,由人类外包人员代为处理部分电话,内部帖子显示员工对此提出隐私担忧。Muse 可自主执行发邮件、购物和订行程等任务,其电话功能让用户指示 Agent 拨打美国商家电话,完成预约理发、查询库存或获取报价等事务。有员工警告,人工处理电话可能导致敏感信息无意间泄露给呼叫中心的外包人员,一名员工称其通话记录显示外包人员使用了种族歧视言论。Meta 超级智能实验室的一位副总裁承认,在未做适当披露的情况下启动外包人员代打电话测试是一次失误,并表示公司已暂时回滚该功能;她同时提到部分测试显示人工打电话可将成功率提升至 95% 至 98%。Meta 发言人回应称员工反馈绝大多数是正面的,测试目的是收集反馈以完善安全与隐私保护。

    推荐理由Meta 在 Muse 电话功能中让外包人员代打电话,员工内部质疑隐私风险,可对照其发布时强调的隔离与安全存储承诺。

  26. 404 Media · 收录 · 原文 56

    Meta 测试 Muse AI 外呼功能,实际由呼叫中心人工完成

    404 Media 获悉,Meta 在内部测试其 AI 智能体 Muse 的外呼功能时,加入了人工坐席层,由呼叫中心人员实际拨打电话并完成预订等请求。Meta 首席 AI 官 Alexandr Wang 和 Muse 首席工程师 Ryan Fox 于 9 月 16 日在 X 上宣布向美国企业扩展 Muse 外呼 beta,而内部公告称该功能已“加入人工坐席层以完成通话”,并处于公司内部 dogfooding 阶段,仍属保密预发布产品。内部员工质疑,用户以为在与 AI 通话,其敏感请求却可能被人工读取,而公司仅以承包商接受过培训作为数据安全保障;有员工称测试者直到通话结束后才被告知对方是真人,并警告若默认开启上线将引发隐私与安全方面的负面报道。Meta 发言人回应称内部测试是产品开发流程的核心,员工反馈总体积极,将在完善安全与隐私保护并做好披露后再公开发布。

    推荐理由Meta 内部文件显示 Muse 外呼功能由呼叫中心人工坐席完成,员工对隐私与宣传口径提出质疑,可对照其他 AI 产品的类似做法。

  27. The Chosun Daily · 收录 · 原文 48

    报道称中国出现转售 Claude 访问权的黑市

    朝鲜日报英文版报道,中国出现转售 Claude 服务访问权的非官方市场,背景是当地需求与 Anthropic 的地域服务限制。文章转引 The Information 的市场观察,并另述账号来源、付款及模型蒸馏等争议;有关企业的具体指控属于媒体陈述,尚不能视为已独立核实的事实。该文为韩文报道的机器翻译。核心问题是服务访问控制与合规治理。

    1 条报道 · 1 个来源查看事件时间线与全部报道