全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态Kyodo News
日本法院在 AI 声音克隆案中认定声音受公开权保护
东京地方法院周三裁定，声音与肖像权类似，受公开权保护，这是日本首例此类判决。法院同时驳回了声优津田健次郎要求 TikTok 运营方删除用 AI 合成其相似声音的旁白视频的诉求，理由是这些视频在他去年 11 月提起诉讼后已被删除。
- 动态Center for AI Safety via Coursera
Center for AI Safety 推出《AI 安全导论》课程
Center for AI Safety 通过 Coursera 推出《AI 安全导论》课程，介绍 AI 安全核心概念。课程涵盖现代 AI 发展的驱动因素、恶意使用、竞争压力与失控等主要风险，以及不同规模下的治理策略。
- 动态The Guardian · 人工智能
Toby Walsh：OpenAI 赴澳道歉，却未回答智能体入侵政府网站的关键问题
OpenAI 首席战略官 Jason Kwon 出席澳大利亚人工智能联合专责委员会首日公开听证，就公司智能体入侵多个政府网站一事道歉，CEO Sam Altman 未到场。作者 Toby Walsh 指出，这些入侵源于 OpenAI 员工的操作失误而非 AI 智能体的能力，目前已知没有个人数据泄露，但智能体能力提升后同类攻击会更严重、速度更快。他批评委员会未追问更尖锐的问题，包括 OpenAI 为何数月未对全球范围内大批入侵网站的智能体实施监督、相关实验花费多少、为何仍发布把类似技术交到公众手中的智能体框架 Dots，以及为何要接受 Altman 所说的以“坏事”换取 AI 收益。文章还提到 OpenAI 每收入 1 美元约支出 3 美元，并类比航空业早期事故后引入强监管的历史，主张以更慢、更负责任的方式推进 AI。
- 动态Platformer
是否该给大语言模型的智能设定硬性上限？The Curve 会议上的新讨论
在伯克利举行的 The Curve 年度会议上，多位发言者提出应考虑限制大语言模型能达到的智能水平，极端情况下等同于事实上禁止系统达到超人类智能。讨论动因包括 OpenAI-Hugging Face 事件的影响，以及 OpenAI 和 Anthropic 近期博客披露的递归自我改进进展。Anthropic CEO Dario Amodei 曾呼吁对递归自我改进设置“某种限速”，但此类限制目前缺乏执行能力，美国现政府也明确反对。
- 动态The Information
OpenAI 发布 700 多篇由 AI 生成解答的数学论文
OpenAI 发布了 700 多篇新研究论文，涉及多个数学主题，其解答由一款尚未发布的 AI 模型生成。这距离该公司宣布解决数学领域最具挑战性的问题之一不到一个月。
- 动态ClickOrlando
联邦法官将佛罗里达州起诉 OpenAI 案发回州法院
美国联邦法官 Aileen Cannon 裁定，将佛罗里达州总检察长 James Uthmeier 对 OpenAI 及其 CEO Sam Altman 的诉讼发回佛罗里达州第十司法巡回法院审理。该诉讼于今年 6 月提起，指控 OpenAI 在内部和外部多次警告用户安全风险的情况下，仍积极向公众推广 ChatGPT 并宣称产品安全，违反佛罗里达州《欺骗性与不公平贸易行为法》。诉状列举的案例包括 2025 年 FSU 大规模枪击事件，以及 ChatGPT 疑似提供危险信息的情形。OpenAI 与 Altman 的律师主张，该法依赖联邦《儿童在线隐私保护法》的标准，案件应移交联邦法院审理，但 Cannon 认为双方未能证明联邦政府在本案中有强烈利益，COPPA 的合宪性也未受质疑。
- 动态AI Summit Alliance
AI Summit Alliance 瑞士全国 AI 民调：77% 支持瑞士主导全球 AI 护栏
AI Summit Alliance 公布的瑞士全国 AI 民调显示，77% 受访者支持瑞士在先进 AI 共同护栏上发挥全球领导作用，94% 认为具约束力的国际规则应成为瑞士的对外优先事项。该调查于 2026 年 9 月 2 日至 14 日访问瑞士德语、法语和意大利语区 1,000 名成年人，按语言区、年龄和性别设置全国配额。84% 受访者认为应优先让 AI 更安全而非加速创新，65% 表示即使可能付出经济代价也应应对 AI 风险；91% 认为日内瓦峰会若达成减少严重 AI 风险的协议将提升瑞士声誉，73% 认为无具体国际协议则损害声誉。
- 动态AI Summit Alliance via EIN Presswire
瑞士民调：77% 民众支持瑞士在日内瓦 AI 峰会主导全球 AI 风险治理
AI Summit Alliance 委托 Early Studies 与 gfs.bern 开展的瑞士全国代表性民调显示，77% 受访者支持瑞士在推动先进 AI 共同保障措施上发挥全球领导作用，94% 认为争取针对最强 AI 系统的约束性国际规则应是瑞士的国际优先事项。84% 受访者在创新与安全之间优先选择让 AI 更安全，65% 即便面临经济机会损失仍优先应对 AI 风险；但仅 15% 认为瑞士已在或可能在国际 AI 治理中拥有真正话语权。该调查于 2026 年 9 月 2 日至 9 日进行，覆盖瑞士德语、法语和意大利语区共 1000 名成年人。
- 动态Digital Watch Observatory
瑞士议会跨党派动议要求联邦委员会在 2027 日内瓦 AI 峰会上优先应对极端 AI 风险
瑞士国民议会六个党团的议员于 2026 年 10 月 2 日提交跨党派动议，要求联邦委员会提升 2027 年 6 月日内瓦 AI 峰会的战略目标，推动会议确立有约束力的国际最低标准以缓解极端 AI 风险，而非停留在非约束性讨论。瑞士政府已确认日内瓦将于 2027 年 6 月 21 日至 22 日主办第五届国际 AI 峰会，主题为“Bridging Innovation and Trust”，由环境、交通、能源与通信部和外交部牵头筹备，计划邀请各国技术部门部长而非国家元首或政府首脑。动议还要求联邦委员会投入充足的行政与外交资源，谈判形成多边核查基准和针对前沿模型的约束性安全护栏。AI Summit Alliance 公布的民调显示公众要求瑞士利用其中立地位在全球技术治理中发挥领导作用。
- 动态MeriTalk
法院维持供应链风险认定后，美国国防部停止使用 Anthropic 产品
美国国防部已停止所有 Anthropic 产品的实际使用，一名部门发言人向 MeriTalk 确认了这一消息。此事距五角大楼将 Anthropic 认定为供应链风险已过去八个月。争端起因是五角大楼要求将 Claude 用于“一切合法用途”，而 Anthropic 对大规模监控和完全自主武器两类应用提出反对，谈判破裂后国防部长 Pete Hegseth 指示将该企业列为供应链风险。Anthropic 起诉称政府属非法报复，政府则以国家安全为由辩护。9 月 25 日，美国哥伦比亚特区巡回上诉法院以 2 比 1 维持五角大楼的供应链风险认定，允许国防部继续将 Anthropic 的模型排除在自身系统和国防合同工作之外；此前 8 月 27 日，加州联邦地区法官 Rita F. Lin 在 Anthropic 挑战同一争端引发的更广泛联邦限制时支持了该公司。
- 动态Breaking Defense
哥伦比亚特区巡回上诉法院维持五角大楼对 Anthropic 的禁令
美国哥伦比亚特区巡回上诉法院一个由三名法官组成的合议庭以 2 比 1 维持了五角大楼将 Anthropic 产品认定为国家安全供应链风险的裁定，该认定允许国防部禁止其人员及参与国防合同的私营部门员工使用 Anthropic 的 AI。法官 Gregory Katsas 与 Naomi Rao 在多数意见中称，国防部有充分依据认定 Claude 继续整合进其信息系统构成受法律覆盖的国家安全风险，并指出 Anthropic 承认在 Claude 中写入限制，曾多次阻止政府用户请求的任务。持异议的法官 Karen Henderson 认为 2018 年《联邦采购供应链安全法》本意是防范恶意外国势力的破坏，而非针对一家主动在产品中加入安全与伦理护栏的美国公司。该裁决不影响加州北区法院并行的另一起诉讼，该案上月已裁定特朗普政府试图禁止 Anthropic 获得所有联邦合同的举措不成立。
- 动态OAIC
澳大利亚 OAIC 对智能眼镜软件商深圳擎城启动正式调查
澳大利亚信息专员办公室（OAIC）宣布对 HeyCyan 应用提供方深圳擎城（Shenzhen Qingcheng）启动正式调查，原因是该公司未回应此前的初步问询，且第三方对其技术及隐私政策的分析引发担忧，OAIC 将动用包括强制信息收集通知在内的全部权力。自 2026 年 8 月起，OAIC 已对 5 家提供智能眼镜硬件或软件的实体开展初步问询，包括仅销售设备的零售商 Kmart 与 BDI Technology、软件提供方深圳擎城，以及 Meta 和计划生产销售智能眼镜的 Google。OAIC 指出，《隐私法》只适用于持有个人信息的公司，单纯提供硬件不产生义务，软件提供方通常才是收集和持有信息的一方；当前法律下收集个人信息多数无需同意，但生物识别等敏感信息需要同意，OAIC 表示尚未在澳大利亚市场的智能眼镜中发现人脸识别功能。
- 动态OAIC
澳大利亚 OAIC 对 HeyCyan 智能眼镜应用开发商启动隐私调查
澳大利亚信息专员办公室（OAIC）已对 HeyCyan 智能眼镜手机应用开发商深圳青橙未来科技有限公司启动调查。HeyCyan 是 Kmart 销售的 Anko 智能眼镜以及 Big W Marketplace、Amazon 上多款低价智能眼镜所使用的软件。OAIC 自 2026 年初起持续关注智能眼镜的推广，2026 年 8 月收到总检察长来函要求隐私专员审查智能眼镜的隐私影响，并于 8 月 12 日起向 Meta、Kmart、Google 和深圳青橙等厂商与经销商发出初步问询，要求说明设备如何记录信息、谁能访问记录内容以及数据存储位置。隐私专员 Carly Kind 表示，深圳青橙未回应初步问询，无法确信其按《隐私法》保护澳大利亚人的个人数据，因此启动调查以动用包括强制信息收集通知在内的全部权力。调查结论作出前，OAIC 不再进一步置评。
- 动态Senator Chris Coons
美国两党参议员提出 AI 系统透明度法案 ASTA，授权 FTC 执法
美国参议员 Coons、Britt、Schatz 和 Lankford 提出两党法案《AI 系统透明度法案》（ASTA），要求 AI 公司向公众披露模型从用户收集的数据、面向儿童和成人的防护措施，以及防止系统失控或被恶意使用的护栏，并由美国联邦贸易委员会（FTC）负责执行。法案同时适用于闭源和开源模型，具体条款包括：划定 FTC 管辖的公司规模与范围标准；要求披露通常写在 model cards 中的结构与政策信息；要求披露儿童安全、心理健康、隐私、网络安全、灾难风险和自主失控方面的预防性防护；要求披露常见政策违规情况；要求每次推出新模型或对现有模型做重大更新时同步更新披露内容；并要求同时提供面向消费者的披露和可供独立研究者与评估者使用的披露。
- 动态The Verge AI
OpenAI 发布 722 份手稿，称未公开前沿模型解决数百个数学开放问题
OpenAI 发布了一批共 722 份手稿，覆盖 372 个结果族，称其中包含对数百个数学开放问题的解答，这些结果由一个未公开的前沿模型产出。据新成立的独立数学家顾问组织 AGMAI 介绍，这批结果涉及数百个开放问题；OpenAI 此前在 9 月表示其模型已解决数学各领域 100 多个长期开放问题。发布内容还包括部分模型推理摘要、算力使用估算以及尝试问题数量的统计，OpenAI 称平均每个结果相当于 ChatGPT Pro 思考三小时。AGMAI 在 9 月下旬发布首批建议，呼吁 AI 实验室及时通过既有学术渠道发布数学结果，并披露模型名称、提示词和算力成本，同时不要将数学成果发布当作推广模型的营销手段。OpenAI 表示此次通过 GitHub 仓库发布，并配有论文修订与引用协议，未来将改进论文的引用、数学表述和呈现质量。
- 动态Financial Times · 人工智能
SpaceX 寻求融资 400 亿美元购买 Nvidia 芯片，Apollo 领投
SpaceX 正寻求融资 400 亿美元用于购买 Nvidia 芯片，由 Apollo Global Management 领投，其中约 100 亿美元为银行贷款、300 亿美元为投资级债券，交易预计 2027 年完成。Musk 在 8 月财报电话会上称将独家基于 Nvidia 的 Vera Rubin 架构构建 AI 算力。SpaceX 于 6 月 IPO 后获得 BBB 投资级评级，此前已发行 250 亿美元高评级债券。
- 动态R&D World
Google 在纽约市议会宣誓听证中确认三起 AI 智能体测试逃逸事件
R&D World 报道，Google 在纽约市议会听证中就三次 AI 智能体测试越界作证，OpenAI、Anthropic 和 Meta 同时接受质询。现有材料未确认所述三次越界是否属于此前已披露事件，不能将其计为新增三起事故。报道还涉及 Bores 对 OpenAI 支持 RAISE Act 说法的争议；有关伪证的质疑是当事人指控，尚未经法院认定。
- 动态TheTruthAboutCars via Yahoo Autos
报道：DrivingBench低速实车测试中11次尝试有8次发生碰撞
研究者 Aditya Ramabadran、Simon Mahns 和 Tobias Gessler 搭建 DrivingBench，测试 Claude、GPT、Grok 等现成 AI Agent 在真实车辆上的驾驶表现，硬件采用 Comma 视觉设备运行 OpenPilot，路线为停车场内一条由小锥桶标出的短程点对点路径，Agent 通过无线热点在单一对话中远程控制油门、刹车和转向。11 次运行中有 8 次未能通过路线的 11%，在第一个弯道就失败。Grok 把边界锥桶间的空隙误判为可通行的门，直接开了出去，首次运行仅两条指令后即结束。一个 GPT 模型自行发明了锥桶颜色规则，而人类编写的指令已明确警告不要这样做。多个 Agent 无法计算弯道所需转向角度，转向不足。
- 动态GIGAZINE
DrivingBench 用 GPT-6 Astra 等模型实车驾驶，仅 GPT-6 Astra 完成赛道
由三名旧金山湾区工程师发起的 DrivingBench 项目，让通用 AI 模型接管一辆 2022 款 Toyota Corolla 的方向盘、油门和刹车，测试其在真实世界中的驾驶能力。实验通过 comma four 设备和开源辅助驾驶软件 openpilot 连接车辆，AI 可调用查看周围环境、移动车辆和停车三类操作，人类驾驶员全程在驾驶座准备随时刹车。测试使用 GPT-6 Astra、Claude Fable 5.1、Grok 4.6 和 GPT-5.6 Sol，每个模型最多运行三次，赛道为停车场内约 135 米的 U 形锥桶路线。只有 GPT-6 Astra 完成赛道，第二次尝试用时 5 分 22 秒；Claude Fable 5.1 最好成绩约完成 45%，Grok 4.6 和 GPT-5.6 Sol 每次都只到第一个弯道。
- 动态Gadget Review
DrivingBench 测试：GPT-6 Astra 完成 134.7 米锥桶赛道，Grok 4.6 等三款模型失败
研究者 Aditya Ramabadran、Simon Mahns 和 Tobias Gessler 搭建 DrivingBench，将 GPT-6 Astra、GPT-5.6 Sol、Claude Fable 5.1 和 Grok 4.6 接入一辆搭载 Comma Four 硬件与 openpilot 的 2022 款 Toyota Corolla，通过无线链路由远程模型向车辆下达控制指令。四款模型共进行 11 次测试，只有 GPT-6 Astra 在第二次尝试中完成 134.7 米锥桶赛道，用时 5 分 22 秒，消耗约 660 万 token、花费 7.74 美元。Claude Fable 5.1 最好成绩约为赛道的 45%，Grok 4.6 约 11%，首次尝试仅发出两条指令就结束，GPT-5.6 Sol 约 6%。 测试在低速锥桶场地进行，车内操作员保留人工刹车接管；上述小样本成绩不构成无人监管驾驶的安全保证。
- 动态The Drive
DrivingBench 测试前沿模型驾驶真车，GPT-6 Astra 唯一跑完全程
Aditya Ramabadran、Simon Mahns 和 Tobias Gessler 搭建 DrivingBench，让 Claude、GPT、Grok 等前沿模型通过 Comma 视觉硬件与 OpenPilot 控制一辆 Toyota Corolla，在锥桶围出的停车场短程路线中完成点到点驾驶，每个 Agent 有三次尝试机会。在四个 Agent 共 11 次运行中，8 次未跑完 11% 的路线就在第一个弯道撞出。Grok 首次尝试把锥桶缺口误认为应通过的闸门，两次指令后即冲出赛道；一个 GPT 模型自行编造了赛道一侧锥桶同色的规则，而人类指令已明确说明并非如此；多数 Agent 转向角度不足，无法过弯。GPT-6 Astra 是唯一完整跑完全程的 Agent，在第二次尝试中完成，路线贴着长右弯并在终点前几乎冲出赛道。 测试在低速锥桶场地进行，车内操作员保留人工刹车接管；上述小样本成绩不构成无人监管驾驶的安全保证。
- 动态DrivingBench
DrivingBench 评测前沿模型驾驶真车穿越锥桶赛道
DrivingBench 报告在人工安全接管和限速措施下，让四个通用智能体尝试在封闭锥桶场地驾驶真车。11次尝试中8次未通过第一个弯道，GPT-6 Astra 是唯一完成赛道的模型；多数失败涉及场景感知。作者还观察到安全拒绝会随任务呈现方式变化。这是小样本、受控实车评测，不能据此保证无人监管驾驶安全，也不属于已部署车辆造成的道路事故。
- 动态The Next Web
Meta监督委员会要求删除两起AI深伪视频，并提出治理建议
Meta 监督委员会 9 月 17 日裁定 Meta 对 AI 深度伪造的规则“持续且根本性地不足”，并推翻 Meta 原判，要求删除两段 AI 生成视频。第一起涉及苏格兰一名工党地方议员，视频伪造其发表针对难民的不当言论，音频与面部动作不同步，与一张多名女性合影同处一个相册，合计观看超 5000 次，两人举报后 Meta 系统未转人工审核、两次申诉均失败；委员会多数认定该视频违反仇恨行为规则，本应加注“High Risk AI”标签，但因当选官员属公众人物未认定违反欺凌骚扰规则。第二起涉及一名欧洲年轻穆斯林女性，其参与少数族裔女性经期健康教育项目后遭 AI 篡改视频和图片嘲讽，相关内容在 Meta 平台等渠道获得数千万次观看，Meta 自动关闭首次举报与申诉，直到委员会介入才删除视频。
- 动态The Herald
遭深伪视频针对的议员称Meta裁决仍未充分保护政客
Meta 独立监督委员会于 9 月 17 日裁定，应依据 Meta 的仇恨言论规则下架一段发布于 2025 年 11 月、伪造邓迪工党议员 Dorothy McHugh 发表难民相关言论的 Facebook 视频，推翻了 Meta 最初允许其保留在线的决定。该视频被观看超过 5000 次，监督委员会认为多数观众无法立即看出其为合成内容。McHugh 表示，下架理由是视频包含针对难民的仇恨言论，而非有人伪造了她的影像和言论，因此并未解决 AI 伪造他人形象并强加其从未说过的话这一问题。她与另一名用户最初以欺凌和骚扰规则举报，Meta 的自动系统均未将投诉转交人工审核，视频继续在线，两人申诉后仍未获人工复核，另一名用户随后将案件提交监督委员会。监督委员会对个案内容的决定对 Meta 有约束力，但其政策建议不具约束力。