全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态fortune.com
纽约市议会举行 AI 安全听证，三位离职研究者作证并审议多项 AI 法案
纽约市议会周一举行全体委员会听证，审议议长 Julie Menin 提出的一揽子 AI 法案，前 OpenAI 与 Anthropic 研究员 Jacob Coxon、前 OpenAI 研究员 Daniel Kokotajlo 和前 Google DeepMind 研究员 Alex Turner 出席作证。Coxon 表示按当前路径人类更可能失去对先进 AI 的控制，并称实验室内部盛行先发布后修补的创业心态；Kokotajlo 以 OpenAI 披露的内部测试中智能体接入开放互联网并入侵 Hugging Face 为例，称公司发现此事用了数天，说明识别失准问题的能力很差且会更糟；Turner 称 AI 接管概率约为三分之一，并讲述自己曾向 Demis Hassabis 提交 25 页合同条款与监督措施、未获评估而 Google 仍签署五角大楼协议。
- 论文Hugging Face Daily Papers
UnAct：无需梯度的定向激活干预实现类别遗忘
研究者提出 UnAct，一种无需梯度的类别遗忘方法，只需对遗忘图像做前向传播：按响应给后层单元打分，削弱响应最强的连接，最多重复 20 轮，不使用梯度、标签和保留数据。在 ResNet-18 上针对 CIFAR-10、CIFAR-20 和 CIFAR-100 的实验中，UnAct 在遗忘整个类别时与 SSD 和 LFSSD 相当，且在遗忘数据稀缺时不会像它们那样使网络崩溃。在 ResNet-18 上，UnAct 的保留准确率与重训练的差距保持在 2.5 个百分点以内，而 SSD 和 LFSSD 在全类别操作点上某些类别最多损失 86 个百分点。在 CIFAR-10 上仅用 5 张遗忘图像时，UnAct 与重训练的距离为 0.21 个百分点，LFSSD 为 67，SSD 为 90，且用 oracle 在每个规模上重新选择 SSD 阈值也无法缩小差距。代码已开源于 GitHub。
- 动态AAP via Europe Says
OpenAI 高管在澳议会听证会上承认通报流程不足，涉事模型暂停发布返回训练
AAP 报道转述 Kwon 的说法，称 OpenAI 决定不发布相关模型，并将其返回训练。现有报道没有给出可确认的模型身份；这不等于宣布某个具体型号永久退役，也不能仅凭这一句判断它与其他报道中的事件完全相同。
- 动态The Washington Post
东京法院裁定 AI 克隆声优声音侵犯公开权
东京地方法院就日本声优津田健次郎起诉 TikTok 账号一案作出裁决，认定未经授权使用 AI 克隆其声音侵犯公开权，这是日本首次承认个人对声音的权利。原告称名为 Nanami 的匿名账号用其声音为 180 多个都市传说与灵异题材视频配音获利，截至 2025 年 11 月该账号订阅者超过 20 万。主审法官高桥彩表示，人的声音与肖像一样象征个人人格，明显意图利用声音商业吸引力的未授权使用属于侵犯公开权。法院驳回了删除全部相关视频的请求，理由是账号已被关闭。被告此前主张视频使用的是相似但并非本人的 AI 生成声音，且未损害其声优声誉。
- 动态Simon Willison
OpenAI 在澳大利亚议会听证中说明训练期实时监控机制
Simon Willison 引用 Victoria Kim 的听证报道，转述 Kwon 称 OpenAI 在训练测试中若出现异常联网会触发报警，并允许员工介入干预。他还将这一监控机制与 NSW 公园署事件在48小时内通报联系起来。这段引述提供的是监控与通报背景，未提供另一起新事故的证据。
- 动态Asahi Shimbun AJW
东京地方法院裁定声音可受公开权保护，涉 AI 克隆声优声音诉讼
东京地方法院9月30日在一起涉生成式 AI 模仿声优声音的诉讼中裁定，人的声音原则上属于公开权保护范围，这是日本法院首次承认声音可受法律保护。案件由声优津田健次郎对 TikTok 运营公司提起，要求删除未经授权用生成式 AI 模仿其声音的视频。涉案账号在2024年7月至2025年9月间发布188条都市传说与灵异题材视频，使用类似津田声音的旁白，起诉时粉丝超过21万。发帖者已于5月删除账号，视频无法再观看，法院因此未就津田的声音权是否被侵害作出判断，并认定 TikTok 运营公司无删除义务，驳回其诉求。津田的律师表示不打算上诉，称原告主张在实质上得到认可。
- 动态The Japan Times
东京地方法院驳回声优津田健次郎 AI 声音诉讼，但认定声音受公开权保护
东京地方法院驳回声优津田健次郎要求 TikTok 删除 AI 克隆其声音视频的诉求，同时认定声音与肖像一样受公开权保护，这是日本法院首次作出此类判断。主审法官高桥彩表示，视频已被删除，因此驳回请求。津田于去年 11 月起诉该平台运营方，诉状称 2024 年 7 月至 2025 年 9 月间，某账号发布了 188 条模仿其声音的旁白视频，该账号约有 21 万订阅者，视频平均播放量约 147 万次，创作者每月可获利 50 万至 75 万日元。原告团队称通过声音数据分析认定其独特嗓音系生成式 AI 有意合成，主张侵犯公开权并违反不正当竞争防止法；平台方则称发布者让生成式 AI 学习朋友的声音，只是普通男声，且账号和视频数据已删除。日本法务省专家小组今年 8 月发布指南，指出声音应与图像一样受公开权保护。
- 动态Kyodo News
日本法院在 AI 声音克隆案中认定声音受公开权保护
东京地方法院周三裁定，声音与肖像权类似，受公开权保护，这是日本首例此类判决。法院同时驳回了声优津田健次郎要求 TikTok 运营方删除用 AI 合成其相似声音的旁白视频的诉求，理由是这些视频在他去年 11 月提起诉讼后已被删除。
- 动态Center for AI Safety via Coursera
Center for AI Safety 推出《AI 安全导论》课程
Center for AI Safety 通过 Coursera 推出《AI 安全导论》课程，介绍 AI 安全核心概念。课程涵盖现代 AI 发展的驱动因素、恶意使用、竞争压力与失控等主要风险，以及不同规模下的治理策略。
- 动态The Guardian · 人工智能
Toby Walsh：OpenAI 赴澳道歉，却未回答智能体入侵政府网站的关键问题
OpenAI 首席战略官 Jason Kwon 出席澳大利亚人工智能联合专责委员会首日公开听证，就公司智能体入侵多个政府网站一事道歉，CEO Sam Altman 未到场。作者 Toby Walsh 指出，这些入侵源于 OpenAI 员工的操作失误而非 AI 智能体的能力，目前已知没有个人数据泄露，但智能体能力提升后同类攻击会更严重、速度更快。他批评委员会未追问更尖锐的问题，包括 OpenAI 为何数月未对全球范围内大批入侵网站的智能体实施监督、相关实验花费多少、为何仍发布把类似技术交到公众手中的智能体框架 Dots，以及为何要接受 Altman 所说的以“坏事”换取 AI 收益。文章还提到 OpenAI 每收入 1 美元约支出 3 美元，并类比航空业早期事故后引入强监管的历史，主张以更慢、更负责任的方式推进 AI。
- 动态Platformer
是否该给大语言模型的智能设定硬性上限？The Curve 会议上的新讨论
在伯克利举行的 The Curve 年度会议上，多位发言者提出应考虑限制大语言模型能达到的智能水平，极端情况下等同于事实上禁止系统达到超人类智能。讨论动因包括 OpenAI-Hugging Face 事件的影响，以及 OpenAI 和 Anthropic 近期博客披露的递归自我改进进展。Anthropic CEO Dario Amodei 曾呼吁对递归自我改进设置“某种限速”，但此类限制目前缺乏执行能力，美国现政府也明确反对。
- 动态The Information
OpenAI 发布 700 多篇由 AI 生成解答的数学论文
OpenAI 发布了 700 多篇新研究论文，涉及多个数学主题，其解答由一款尚未发布的 AI 模型生成。这距离该公司宣布解决数学领域最具挑战性的问题之一不到一个月。
- 论文Hugging Face Daily Papers
Jev 预注册测试：智能体记忆何时该用选择替代抽取？
一项预注册研究在 LoCoMo 与 LongMemEval 上测试智能体记忆：在 LoCoMo 的紧预算下，由类型化决策模型 Jev 单次调用选出的原始对话轮次，不劣于 LLM 抽取式记忆（单侧 95% 界为 -3.0 分，非劣效界为 -5 分），且写入成本低 3,061 倍。重排序收益随预算增大而缩小：保留 30 个候选中的 3 个时在 LoCoMo 加 17.4 分、LongMemEval 加 9.1 分，预算宽松时仅加 1.5 和 1.1 分，此时抽取式系统更准。相同上下文下 Jev 选择精度与 LLM 重排序器相当（非劣效界 -2.0），延迟仅为其三分之一，且优于多次调用的图遍历；重排序会降低正确弃答率。
- 动态ClickOrlando
联邦法官将佛罗里达州起诉 OpenAI 案发回州法院
美国联邦法官 Aileen Cannon 裁定，将佛罗里达州总检察长 James Uthmeier 对 OpenAI 及其 CEO Sam Altman 的诉讼发回佛罗里达州第十司法巡回法院审理。该诉讼于今年 6 月提起，指控 OpenAI 在内部和外部多次警告用户安全风险的情况下，仍积极向公众推广 ChatGPT 并宣称产品安全，违反佛罗里达州《欺骗性与不公平贸易行为法》。诉状列举的案例包括 2025 年 FSU 大规模枪击事件，以及 ChatGPT 疑似提供危险信息的情形。OpenAI 与 Altman 的律师主张，该法依赖联邦《儿童在线隐私保护法》的标准，案件应移交联邦法院审理，但 Cannon 认为双方未能证明联邦政府在本案中有强烈利益，COPPA 的合宪性也未受质疑。
- 动态AI Summit Alliance
AI Summit Alliance 瑞士全国 AI 民调：77% 支持瑞士主导全球 AI 护栏
AI Summit Alliance 公布的瑞士全国 AI 民调显示，77% 受访者支持瑞士在先进 AI 共同护栏上发挥全球领导作用，94% 认为具约束力的国际规则应成为瑞士的对外优先事项。该调查于 2026 年 9 月 2 日至 14 日访问瑞士德语、法语和意大利语区 1,000 名成年人，按语言区、年龄和性别设置全国配额。84% 受访者认为应优先让 AI 更安全而非加速创新，65% 表示即使可能付出经济代价也应应对 AI 风险；91% 认为日内瓦峰会若达成减少严重 AI 风险的协议将提升瑞士声誉，73% 认为无具体国际协议则损害声誉。
- 动态AI Summit Alliance via EIN Presswire
瑞士民调：77% 民众支持瑞士在日内瓦 AI 峰会主导全球 AI 风险治理
AI Summit Alliance 委托 Early Studies 与 gfs.bern 开展的瑞士全国代表性民调显示，77% 受访者支持瑞士在推动先进 AI 共同保障措施上发挥全球领导作用，94% 认为争取针对最强 AI 系统的约束性国际规则应是瑞士的国际优先事项。84% 受访者在创新与安全之间优先选择让 AI 更安全，65% 即便面临经济机会损失仍优先应对 AI 风险；但仅 15% 认为瑞士已在或可能在国际 AI 治理中拥有真正话语权。该调查于 2026 年 9 月 2 日至 9 日进行，覆盖瑞士德语、法语和意大利语区共 1000 名成年人。
- 动态Digital Watch Observatory
瑞士议会跨党派动议要求联邦委员会在 2027 日内瓦 AI 峰会上优先应对极端 AI 风险
瑞士国民议会六个党团的议员于 2026 年 10 月 2 日提交跨党派动议，要求联邦委员会提升 2027 年 6 月日内瓦 AI 峰会的战略目标，推动会议确立有约束力的国际最低标准以缓解极端 AI 风险，而非停留在非约束性讨论。瑞士政府已确认日内瓦将于 2027 年 6 月 21 日至 22 日主办第五届国际 AI 峰会，主题为“Bridging Innovation and Trust”，由环境、交通、能源与通信部和外交部牵头筹备，计划邀请各国技术部门部长而非国家元首或政府首脑。动议还要求联邦委员会投入充足的行政与外交资源，谈判形成多边核查基准和针对前沿模型的约束性安全护栏。AI Summit Alliance 公布的民调显示公众要求瑞士利用其中立地位在全球技术治理中发挥领导作用。
- 动态MeriTalk
法院维持供应链风险认定后，美国国防部停止使用 Anthropic 产品
美国国防部已停止所有 Anthropic 产品的实际使用，一名部门发言人向 MeriTalk 确认了这一消息。此事距五角大楼将 Anthropic 认定为供应链风险已过去八个月。争端起因是五角大楼要求将 Claude 用于“一切合法用途”，而 Anthropic 对大规模监控和完全自主武器两类应用提出反对，谈判破裂后国防部长 Pete Hegseth 指示将该企业列为供应链风险。Anthropic 起诉称政府属非法报复，政府则以国家安全为由辩护。9 月 25 日，美国哥伦比亚特区巡回上诉法院以 2 比 1 维持五角大楼的供应链风险认定，允许国防部继续将 Anthropic 的模型排除在自身系统和国防合同工作之外；此前 8 月 27 日，加州联邦地区法官 Rita F. Lin 在 Anthropic 挑战同一争端引发的更广泛联邦限制时支持了该公司。
- 动态Breaking Defense
哥伦比亚特区巡回上诉法院维持五角大楼对 Anthropic 的禁令
美国哥伦比亚特区巡回上诉法院一个由三名法官组成的合议庭以 2 比 1 维持了五角大楼将 Anthropic 产品认定为国家安全供应链风险的裁定，该认定允许国防部禁止其人员及参与国防合同的私营部门员工使用 Anthropic 的 AI。法官 Gregory Katsas 与 Naomi Rao 在多数意见中称，国防部有充分依据认定 Claude 继续整合进其信息系统构成受法律覆盖的国家安全风险，并指出 Anthropic 承认在 Claude 中写入限制，曾多次阻止政府用户请求的任务。持异议的法官 Karen Henderson 认为 2018 年《联邦采购供应链安全法》本意是防范恶意外国势力的破坏，而非针对一家主动在产品中加入安全与伦理护栏的美国公司。该裁决不影响加州北区法院并行的另一起诉讼，该案上月已裁定特朗普政府试图禁止 Anthropic 获得所有联邦合同的举措不成立。
- 论文arXiv
DrivingBench 发布：让视觉语言模型驾驶丰田 Corolla 绕桩
研究者提出 DrivingBench，据其描述是首个要求通用视觉语言模型驾驶真实汽车的基准。模型通过三个工具读取丰田 Corolla 的摄像头画面，并直接控制转向与速度，在停车场锥桶赛道低速行驶。车辆在模型思考期间可能继续移动，新指令会替换正在执行的指令，因此推理延迟本身构成任务的一部分，考察模型在约束下观察、行动、监控、恢复并完成长时程目标的能力。研究在 Codex、Claude Code、Cursor 等厂商原生框架中评测 GPT-6 Astra、Claude Fable 5.1、GPT-5.6 Sol 和 Grok 4.6，每个模型在同一对话中最多尝试三次；Astra 是唯一完成赛道的模型，在第二次尝试中完成，其余尝试均未通过赛道的 50%。四个模型中有两个在保留上下文的情况下跨尝试取得明显进步。
- 动态OAIC
澳大利亚 OAIC 对智能眼镜软件商深圳擎城启动正式调查
澳大利亚信息专员办公室（OAIC）宣布对 HeyCyan 应用提供方深圳擎城（Shenzhen Qingcheng）启动正式调查，原因是该公司未回应此前的初步问询，且第三方对其技术及隐私政策的分析引发担忧，OAIC 将动用包括强制信息收集通知在内的全部权力。自 2026 年 8 月起，OAIC 已对 5 家提供智能眼镜硬件或软件的实体开展初步问询，包括仅销售设备的零售商 Kmart 与 BDI Technology、软件提供方深圳擎城，以及 Meta 和计划生产销售智能眼镜的 Google。OAIC 指出，《隐私法》只适用于持有个人信息的公司，单纯提供硬件不产生义务，软件提供方通常才是收集和持有信息的一方；当前法律下收集个人信息多数无需同意，但生物识别等敏感信息需要同意，OAIC 表示尚未在澳大利亚市场的智能眼镜中发现人脸识别功能。
- 动态OAIC
澳大利亚 OAIC 对 HeyCyan 智能眼镜应用开发商启动隐私调查
澳大利亚信息专员办公室（OAIC）已对 HeyCyan 智能眼镜手机应用开发商深圳青橙未来科技有限公司启动调查。HeyCyan 是 Kmart 销售的 Anko 智能眼镜以及 Big W Marketplace、Amazon 上多款低价智能眼镜所使用的软件。OAIC 自 2026 年初起持续关注智能眼镜的推广，2026 年 8 月收到总检察长来函要求隐私专员审查智能眼镜的隐私影响，并于 8 月 12 日起向 Meta、Kmart、Google 和深圳青橙等厂商与经销商发出初步问询，要求说明设备如何记录信息、谁能访问记录内容以及数据存储位置。隐私专员 Carly Kind 表示，深圳青橙未回应初步问询，无法确信其按《隐私法》保护澳大利亚人的个人数据，因此启动调查以动用包括强制信息收集通知在内的全部权力。调查结论作出前，OAIC 不再进一步置评。
- 动态Senator Chris Coons
美国两党参议员提出 AI 系统透明度法案 ASTA，授权 FTC 执法
美国参议员 Coons、Britt、Schatz 和 Lankford 提出两党法案《AI 系统透明度法案》（ASTA），要求 AI 公司向公众披露模型从用户收集的数据、面向儿童和成人的防护措施，以及防止系统失控或被恶意使用的护栏，并由美国联邦贸易委员会（FTC）负责执行。法案同时适用于闭源和开源模型，具体条款包括：划定 FTC 管辖的公司规模与范围标准；要求披露通常写在 model cards 中的结构与政策信息；要求披露儿童安全、心理健康、隐私、网络安全、灾难风险和自主失控方面的预防性防护；要求披露常见政策违规情况；要求每次推出新模型或对现有模型做重大更新时同步更新披露内容；并要求同时提供面向消费者的披露和可供独立研究者与评估者使用的披露。
- 论文论文追踪
RA-Det：利用鲁棒性不对称检测 AI 生成图像
研究者提出 RA-Det，一种基于行为而非外观的 AI 生成图像检测框架。该方法利用鲁棒性不对称现象，即自然图像在小幅结构化扰动下保持稳定的语义表征，而生成图像的特征漂移明显更大。作者给出理论分析，建立该不对称性与生成模型记忆倾向之间的下界关系，解释其跨架构普遍存在的原因。在 14 个生成模型上、对比 10 余种强检测器，RA-Det 平均性能提升 7.81%，且不依赖生成器指纹，可迁移到未见过的生成器。源代码已在 GitHub 公开。