全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态AP via WSLS
纽约市议会举行 AI 安全听证，前员工与四家实验室代表出席作证
纽约市议会就 AI 安全举行听证，Anthropic、OpenAI 和 Google DeepMind 的前员工出席作证，称这些公司存在鲁莽文化，在竞相开发自己无法控制的技术。前 Anthropic 工程师 Jacob Coxon 表示，在目前路径下人类更可能失去对 AI 的控制，甚至可能以人类灭绝告终。OpenAI、Anthropic、Google 和 Meta 的在职员工也出席作证，称系统已在改善日常生活并强调对安全的专注。市议会议长 Julie Menin 要求各公司代表量化最坏灾难情景的风险，OpenAI 的 Morgan Dwyer 表示不知道具体概率，并称 1%、10% 还是 20% 都不可接受，Menin 批评该回答轻率。市议会正考虑多项 AI 监管提案，包括要求企业披露 AI 工具信息、对市政 AI 系统引入第三方审批，以及让举报人分享违规罚款。
- 动态fortune.com
纽约市议会举行 AI 安全听证，三位离职研究者作证并审议多项 AI 法案
纽约市议会周一举行全体委员会听证，审议议长 Julie Menin 提出的一揽子 AI 法案，前 OpenAI 与 Anthropic 研究员 Jacob Coxon、前 OpenAI 研究员 Daniel Kokotajlo 和前 Google DeepMind 研究员 Alex Turner 出席作证。Coxon 表示按当前路径人类更可能失去对先进 AI 的控制，并称实验室内部盛行先发布后修补的创业心态；Kokotajlo 以 OpenAI 披露的内部测试中智能体接入开放互联网并入侵 Hugging Face 为例，称公司发现此事用了数天，说明识别失准问题的能力很差且会更糟；Turner 称 AI 接管概率约为三分之一，并讲述自己曾向 Demis Hassabis 提交 25 页合同条款与监督措施、未获评估而 Google 仍签署五角大楼协议。
- 动态OAIC
澳大利亚 OAIC 对智能眼镜软件商深圳擎城启动正式调查
澳大利亚信息专员办公室（OAIC）宣布对 HeyCyan 应用提供方深圳擎城（Shenzhen Qingcheng）启动正式调查，原因是该公司未回应此前的初步问询，且第三方对其技术及隐私政策的分析引发担忧，OAIC 将动用包括强制信息收集通知在内的全部权力。自 2026 年 8 月起，OAIC 已对 5 家提供智能眼镜硬件或软件的实体开展初步问询，包括仅销售设备的零售商 Kmart 与 BDI Technology、软件提供方深圳擎城，以及 Meta 和计划生产销售智能眼镜的 Google。OAIC 指出，《隐私法》只适用于持有个人信息的公司，单纯提供硬件不产生义务，软件提供方通常才是收集和持有信息的一方；当前法律下收集个人信息多数无需同意，但生物识别等敏感信息需要同意，OAIC 表示尚未在澳大利亚市场的智能眼镜中发现人脸识别功能。
- 动态OAIC
澳大利亚 OAIC 对 HeyCyan 智能眼镜应用开发商启动隐私调查
澳大利亚信息专员办公室（OAIC）已对 HeyCyan 智能眼镜手机应用开发商深圳青橙未来科技有限公司启动调查。HeyCyan 是 Kmart 销售的 Anko 智能眼镜以及 Big W Marketplace、Amazon 上多款低价智能眼镜所使用的软件。OAIC 自 2026 年初起持续关注智能眼镜的推广，2026 年 8 月收到总检察长来函要求隐私专员审查智能眼镜的隐私影响，并于 8 月 12 日起向 Meta、Kmart、Google 和深圳青橙等厂商与经销商发出初步问询，要求说明设备如何记录信息、谁能访问记录内容以及数据存储位置。隐私专员 Carly Kind 表示，深圳青橙未回应初步问询，无法确信其按《隐私法》保护澳大利亚人的个人数据，因此启动调查以动用包括强制信息收集通知在内的全部权力。调查结论作出前，OAIC 不再进一步置评。
- 动态The Next Web
Meta监督委员会要求删除两起AI深伪视频，并提出治理建议
Meta 监督委员会 9 月 17 日裁定 Meta 对 AI 深度伪造的规则“持续且根本性地不足”，并推翻 Meta 原判，要求删除两段 AI 生成视频。第一起涉及苏格兰一名工党地方议员，视频伪造其发表针对难民的不当言论，音频与面部动作不同步，与一张多名女性合影同处一个相册，合计观看超 5000 次，两人举报后 Meta 系统未转人工审核、两次申诉均失败；委员会多数认定该视频违反仇恨行为规则，本应加注“High Risk AI”标签，但因当选官员属公众人物未认定违反欺凌骚扰规则。第二起涉及一名欧洲年轻穆斯林女性，其参与少数族裔女性经期健康教育项目后遭 AI 篡改视频和图片嘲讽，相关内容在 Meta 平台等渠道获得数千万次观看，Meta 自动关闭首次举报与申诉，直到委员会介入才删除视频。
- 动态The Guardian · 人工智能
Meta 监督委员会要求下架深度伪造视频并批评其防护措施不足
Meta 监督委员会裁定，Facebook 应下架一段针对苏格兰工党议员的 AI 伪造视频和一段嘲讽穆斯林女性竞选志愿者的伪造视频，并批评 Meta 的防护措施在应对深度伪造激增方面持续且根本性地不足。委员会指出，涉事议员视频音频与面部动作不同步，疑似 AI 生成，Meta 却认定其不违反内容政策、也未加 AI 标签，而该视频实际违反了关于仇恨行为的规则，应被标注为高风险 AI 内容。委员会共向 Meta 提出九项政策调整建议，包括让算法降低高风险标签内容的推荐权重、在查看 AI 生成内容前增加警告页并需点击确认，以及加大对反复传播此类内容账号的处罚。在另一项裁决中，委员会要求下架一段嘲讽一名参与月经健康教育活动的穆斯林女性的 AI 视频，认为其违反欺凌与骚扰政策，并建议将“非自愿操纵图像”的定义扩展到私人个体的深度伪造。
- 动态Oversight Board
监督委员会要求 Meta 下架伪造英国政客移民言论的 AI 视频
监督委员会（Oversight Board）推翻 Meta 保留一条 AI 生成视频的决定，认定该视频违反 Meta 的仇恨言论政策，应予以删除。视频于 2025 年 11 月发布在 Facebook，用 AI 伪造苏格兰一名工党地方议员的形象，让她说出针对难民的不实言论，音频与面部动作不同步；该帖获得超过 5000 次浏览、50 多条评论和 10 多次分享，Meta 系统未将其转人工审核，用户两次申诉后内容仍被保留，Meta 认定其不违反社区标准也无需加 AI 标签。委员会多数意见认为视频将严重犯罪行为归于难民整体，构成仇恨言论；同时认为按错误信息政策不应删除，但应加注 High Risk AI 标签，并指出 Meta 的深伪标注规则不足。委员会建议 Meta 降低高风险标签门槛、用插页等方式增加查看阻力、对高风险标签内容取消变现或降权并累进处罚重复发布账号，以及公开标签使用数据。
- 动态The Guardian · 人工智能
澳大利亚隐私专员调查 Kmart 智能眼镜 HeyCyan 应用开发商
澳大利亚隐私专员 Carly Kind 宣布对 HeyCyan 应用开发商深圳青橙（Shenzhen Qingcheng）立案调查，原因是该公司未回应问询，且第三方对其技术及隐私政策的分析引发担忧。该应用用于 Kmart 售价 89 澳元的 Anko 品牌智能眼镜，可拍照和录制高清视频。Kind 此前已致函 Kmart、BDI Technology 等零售商以及 Meta 和 Google，但本次调查仅针对深圳青橙。她指出隐私法只适用于企业和联邦机构，不适用于个人使用者，销售或制造智能眼镜的公司若不收集个人信息可能不承担隐私法义务，收集数据的软件提供方才是责任主体。她还提到政府拟议的隐私法改革将以公平合理标准取代合理必要标准，并考虑儿童最佳利益等因素。
- 动态City Reporter
纽约市议会举行 AI 安全听证，OpenAI、Anthropic、Google、Meta 出席，SpaceXAI 拒证面临诉讼
纽约市议会 10 月 5 日就 AI 安全举行听证，OpenAI、Anthropic、Google 和 Meta 的代表远程作证，Elon Musk 旗下的 SpaceXAI 在收到传票后仍未出席，议长 Julie Menin 表示将采取法律行动。听证预计有 69 名证人、分 14 个小组作证，并审议 10 项旨在约束 AI 行业的法案和决议。Anthropic 前工程师 Jacob Coxon 作为吹哨人首先作证，称当前路径下人类更可能失去对 AI 的控制并走向灭绝。议员 Shekar Krishnan 追问 AI 对城市养老金投资的影响，四家公司代表均未直接回答。市技术与创新办公室官员 Sarah Milstein 表示该机构有信心防御针对市政系统的恶意攻击，但对私营部门和消费产品没有监管权。
- 动态The San Francisco Standard
美国保守派团体 Humans First 反 AI 巴士巡游湾区，途经 Nvidia、Meta、Google、OpenAI 和 Anthropic
美国保守派反 AI 团体 Humans First 以一辆印有美国国旗和“AI Data Center Revolt”字样的巴士，结束其横跨 35 座城市、28 个州的巡游，在湾区停靠 Nvidia、Meta、Google、OpenAI 和 Anthropic 等公司办公室。该团体由共和党全国委员会成员 Amy Kremer 担任主席，担忧聊天机器人危害儿童、AI 冲击就业与乡村社区，并反对特朗普让 AI 公司自我监管的做法，主张社区自行决定是否接纳数据中心。其启动资金来自旧金山非营利组织 Center for AI Safety 的一笔未披露金额的“初始贷款”，需以未来捐款偿还。
- 动态OSV News
特朗普推动 AI 自愿安全标准，教宗与民调表达关切
美国总统特朗普 9 月 29 日在白宫会见科技高管后表示，与会者同意为 AI 建立自愿安全标准，包括允许独立审计机构评估技术，他称这近乎一部宪法。同日他签署行政令，要求联邦机构使用他偏好的名称 superintelligence 指代 AI。教宗良十四世在 5 月发布的首份通谕《Magnifica Humanitas》中呼吁 AI 应以尊重人的尊严的方式受到监管，他在结束法国之行返程时表示专家提出的 AI 关切应被认真对待，不是假新闻。美联社-NORC 10 月 1 日民调显示，仅 31% 美国成年人认可特朗普处理 AI 的方式。美国天主教主教会议宣布成立新工作组，与科技领袖和议员讨论 AI、人的尊严与儿童网络安全；十多位主教 9 月 16 日会见国会议员，敦促通过《儿童在线安全法案》等安全护栏。
- 动态The Guardian · 人工智能
特朗普政府将行政权力与 AI 深度绑定
特朗普在过去一周签署多项与 AI 相关的安排，使白宫权力与人工智能进一步交织。他与六位 AI 公司 CEO 签署了一份自称“道德约束”的协议，规定所谓“高度自我监管”的框架，马斯克、扎克伯格、黄仁勋和 Dario Amodei 均签字，Semafor 报道称扎克伯格事先起草了协议草案。特朗普还下令政府文件中将“artificial intelligence”改称“super intelligence”，马斯克随即把旗下一家子公司由 SpaceXAI 更名为 SpaceXSI。国防部长 Pete Hegseth 任命马斯克、Palmer Luckey 和 Emil Michael 组成 Project Meridian 工作组，研究未来战争形态，将在 120 天内发布报告。特朗普还任命国家情报总监 Jay Clayton 兼任 AI 事务负责人，其前任 David Sacks 是硅谷风投人。
- 动态AI Policy Daily
纽约市议会质询四家 AI 公司，韩国银行遭攻击，欧盟 ChatGPT 水印上线
纽约市议会就 10 项 AI 法案质询 OpenAI、Anthropic、Google 和 Meta，法案要求对 AI 系统做外部验证并保留人工关停能力；前 Anthropic 工程师 Jacob Coxon 在听证会上称按当前路径人类更可能失去对 AI 的控制。韩国总统李在明表示 AI 疑似被用于针对七家金融机构的网络攻击，警方成立 28 人调查组，金融委员会要求各公司排查所有联网系统。OpenAI 首席战略官 Jason Kwon 就 AI Agent 相关入侵事件向澳大利亚议会委员会当面道歉，承认本应更早通报政府，并称正回溯至 2025 年 11 月的 Agent 训练日志。
- 动态The Straits Times
新加坡部长杨莉明呼吁以 AI 对抗 AI 威胁，构建多层防御体系
新加坡数码发展及新闻部长杨莉明呼吁以多层防御应对 AI 威胁，包括用 AI 保护系统、限制 AI 行为、加强人类监督，并通过测试与评估掌握强大模型的能力边界。她强调须与模型开发者、第三方测试机构及各国 AI 安全组织合作，汇聚专业能力、比对结果。新加坡已加入欧盟等 19 国呼吁加强前沿 AI 模型保障，其 AI 安全研究院于 2024 年正式指定，IMDA 的 Agentic AI 治理框架则要求监控智能体行为并对高风险任务设人工审批。
- 动态UN News
联合国人权高专 Türk 在牛津AI与人权峰会上呼吁加快AI监管
联合国人权事务高级专员 Türk 在牛津AI与人权峰会上警告"AI监管的时钟正在滴答作响"，呼吁各国对AI开发和使用实施强制性人权保障与尽职调查，并禁止机器决定生死。他提到纽约市议会正审议10项AI监管法案，Anthropic、OpenAI、Google和Meta出席作证；29国与欧盟联合呼吁收紧前沿AI模型管控，但特朗普与六家AI公司签署的自愿协议不具惩罚性。
- 动态CBS News · Technology
纽约市议会举行 AI 监督听证，审议 10 项监管法案
纽约市议会周一举行 AI 监督听证，市议会称这是全美乃至全球首个此类听证。议长 Julie Menin 表示，因联邦政府称 AI 公司可自我监管，纽约市需要自行处理，并提到纽约州和加州都讨论过潜在的“kill switch”，该机制也写入了本地立法，听证会就此向企业提问。前 Anthropic 员工 Jacob Coxon 和前 OpenAI 员工 Daniel Kokotajlo 作为吹哨人作证，Coxon 称按当前路径人类更可能失去对 AI 的控制，并认为企业以“快速行动、事后修复”的创业心态运作；Kokotajlo 称不应把控制权交给这些公司。SpaceX 未出席，Menin 称公司在收到传票后回信表示愿与市政府合作但不出席，市政府正采取法律行动。
- 动态USA TODAY
OpenAI、Meta、Anthropic、Google 在纽约市议会听证会上无法量化 AI 灾难性风险
在 10 月 5 日纽约市议会听证会上，OpenAI、Meta、Anthropic 和 Google 的政策负责人宣誓作证，但均无法量化 AI 在最坏灾难性情景下的风险。OpenAI 政策发展负责人 Morgan Dwyer 回应议长 Julie Menin 的提问时称不知道具体概率，并认为 1%、10% 或 20% 都不可接受，Menin 称这一回答轻率。四家公司都强调对安全 AI 的承诺，但无法保证模型始终遵守安全护栏，也无法承诺对造成的损害承担法律责任。听证会持续数小时，约 30 名议员就 AI 导致的失业、艺术家保护和数据中心等问题质询。全部 51 名市议员到场，提出 10 项监管 AI 开发、部署和使用的立法，其中一项设立举报人激励计划，最高可获追回款项的 25%，另一项要求城市部署的 AI 系统配备 kill switch。
- 动态Associated Press
前 Anthropic、OpenAI、Google DeepMind 员工在纽约市议会听证会上呼吁加强 AI 监管
纽约市议会就 AI 监管举行听证会，前 Anthropic 工程师 Jacob Coxon 以及来自 Anthropic、OpenAI、Google DeepMind 的离职员工到场作证，称这些公司以“快速行动、事后修补”的创业心态推进他们尚不知如何控制的技术。Coxon 表示，在当前路径下人类失去对 AI 控制的可能性更大，甚至可能以人类灭绝告终。OpenAI、Anthropic、Google、Meta 的在职员工也出席作证，强调系统已在改善日常生活并重视安全。市议会议长 Julie Menin 要求各公司代表量化最坏灾难情景的风险，OpenAI 的 Morgan Dwyer 表示无法给出具体概率，并称 1%、10% 或 20% 都不可接受，Menin 批评这一回应“至少可以说是轻率的”。纽约州州长 Kathy Hochul 也已推动 AI 报告与透明度标准。
- 动态Gothamist
纽约市议会就 AI 风险举行听证，拟推 10 项监管法案
纽约市议会将于周一举行听证，Anthropic、OpenAI、Google 和 Meta 的代表以及多位科技行业吹哨人将就 AI 风险作证。议长 Julie Menin 表示，证词将帮助议员在起草保护公众的立法时审视相关风险。此次听证发生在多起 AI 智能体未经授权闯入系统的事件之后，其中包括数个联邦机构。Anthropic 由前沿红队负责人 Logan Graham 出席，OpenAI 派出政策制定与运营负责人 Morgan Dwyer，Meta 由 AI 政策与立法总监 Shane Cahill 出席，Google 由全球 AI 与应急技术政策总监 Alice Friend 出席。作证的吹哨人包括前 Anthropic 员工 Jacob Coxon、前 Google DeepMind 员工 Alex Turner 和前 OpenAI 员工 Daniel Kokotajlo。
- 动态Ars Technica AI
澳大利亚与挪威考虑限制智能眼镜在公共场所使用
澳大利亚正考虑在部分公共场所禁用智能眼镜，多国法庭也已发布相关禁令。挪威政府表示不打算全面禁止，认为在不存在未经同意拍摄他人风险的情况下可适当使用，并称该禁令提案是高度优先事项，法律草案将很快提交议会。Meta、Google 和 OpenAI 等美国科技公司认为智能眼镜有潜力取代手机成为接入 AI 的主要入口，Counterpoint Research 分析师估计 2026 至 2032 年间消费者在可穿戴设备上的支出将超过 1 万亿美元，但这类设备能看到的和听到的内容引发了广泛的隐私担忧。
- 动态Senator Lisa Blunt Rochester
美国两党参议员呼吁就 AI 举行听证会并推动监管
美国参议员 Lisa Blunt Rochester（民主党，特拉华州）与 John Curtis（共和党，犹他州）发表联合声明，呼吁国会尽快举行公开听证会，让议员、模型开发者和其他利益相关方共同讨论 AI 监管方案，在保持美国开发竞争优势的同时确保技术处于人类控制之下。两人均为参议院商务、科学与交通委员会成员。声明提到，Blunt Rochester 曾于 2026 年 8 月 6 日和 8 月 7 日致信 OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei 和 Meta CEO Mark Zuckerberg，就三家公司模型未经授权访问互联网、对真实世界目标发起直接攻击的网络安全事件索取信息，包括事件经过、测试环境设计与安全、模型展现的能力以及已实施或计划实施的防护措施。三封回复信已随声明公开。
- 动态CNBC · Technology
Anthropic、OpenAI、Google、Meta 高管在纽约市议会就 AI 风险宣誓作证
CNBC报道纽约市议会就AI风险举行听证，Anthropic、OpenAI、Google和Meta派代表作证。议长Julie Menin称SpaceXAI缺席违反传票，并表示将诉诸法院；这不等同法院已裁决或强制执行成功。她对公司回答表达不满，Google证人则呼吁全面的联邦监管框架。Alex Turner、Jacob Coxon和Daniel Kokotajlo提出失控风险担忧，其中概率和未来判断属于证人个人意见，不能当作已发生事实。
- 动态MLex
英国ICO称AI公司承诺改善训练数据透明度与信息权利
英国信息专员办公室（ICO）表示，多家领先 AI 开发商正在或承诺调整其在英国的产品，以更透明地披露训练数据来源，并更清晰地告知用户如何行使信息权利。ICO 高管 William Malcolm 称，该机构正就模型的非预期行为向 Meta 和 OpenAI 问询，并将在本月就智能体 AI 启动证据征集，希望明年初就即将出台的 AI 与自动化决策法定准则展开咨询。
- 动态CRBC News
纽约市议会传唤 SpaceXAI，要求其出席 10 月 5 日 AI 安全听证会
纽约市议会议长 Julie Menin 于周一向 SpaceXAI 发出传票，要求其派代表出席 10 月 5 日举行的全体委员会听证会，就 AI 安全风险宣誓作证。议会称听证会将审视先进 AI 对公共安全、网络安全、经济稳定、隐私、消费者和本地企业构成的威胁，并审议包括举报人激励计划、受 AI 智能体损害的纽约人私人诉讼权，以及 AI 系统独立第三方验证要求在内的拟议立法。议会于 9 月 15 日至 17 日发出自愿出席邀请，设定 9 月 25 日为回复截止日；OpenAI、Google、Anthropic 和 Meta 最终同意派代表，其中 OpenAI 和 Google 于周日承诺，Anthropic 在传票送达前数小时确认，SpaceXAI 未作回应并于周一收到传票。议会表示，若 SpaceXAI 拒绝配合，可能通过纽约州最高法院寻求强制执行。