全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态Miles Brundage
Miles Brundage 与 Grace Werner 合著新文《America First Meets Safety First》：美国需与中国合作确保 AI 负责任发展
Miles Brundage 与 Grace Werner 在 AI Frontiers 发表新文指出，即使美国在某些领域激烈竞争，政策制定者也应承认中国必将拥有强大的 AI 能力。鉴于 AI 的多重风险，美国的利益在于通过合作确保各国 AI 能力的开发与部署负责任的进行。
- 动态Miles Brundage
Miles Brundage：AI 政策需从单个系统转向组织级治理
Miles Brundage 撰文指出，当前多数 AI 安全与政策讨论聚焦于单个 AI 系统的风险缓解，但这远远不够——还需关注组织层面的治理问题，例如追问「OpenAI 或 Anthropic 是否会带来灾难性风险」，而非仅停留在「o3 或 Claude 3.7 Sonnet 是否安全」。他认为从模型到系统的转变虽重要，但仍需进一步放大视角，纳入企业实体维度。 随着 AI 快速进步，「系统因太笨而无害」的不可能性论证将很快失效，因此外部利益相关方无法仅凭特定 AI 系统的属性来评估一家组织的整体风险水平，比如该公司是否及时修补软件漏洞。
- 动态Miles Brundage
AI 是液体而非固体：Miles Brundage 谈 AI 能力的连续性与易扩散性
Miles Brundage 提出"AI 是液体，而非固体"的类比，指出 AI 能力并非离散实体而是程度问题——ChatGPT、Claude、Gemini 等的算力可按需调节，"思考预算"如同旋钮般精确设定，数据中心内的 AI 总量也随供需持续波动。因此不应等待某个任意里程碑才认真对待 AI，也不应指望任一公司或国家垄断 AI 能力，若一家企业能造出某种系统，其他方很快也能做到甚至同步实现，这凸显了各方在安全与安保上进行一定合作的必要性。
- 动态Miles Brundage
Iran 局势揭示“IAEA for AI”的必要性与局限
Miles Brundage 撰文指出，“IAEA for AI”式的国际机构虽有助于掌握全球算力供应链并审计大型数据中心的安全标准，却无法解决地缘政治分歧——正如伊朗问题所示，即使各方大体认同核查事实，冲突依然发生。该构想依赖两个要素：一是获准接触部分全球算力资源、追踪最大规模的数据中心与最强 AI 模型的动向，二是凭借严格流程与国际化的中立团队赢得各方信任。但他强调，面对不愿遵守规则的参与者以及仅覆盖最恶劣风险的“最低共识”条款，此类机构并不足以应对 AI 带来的棘手难题。
- 动态Miles Brundage
Miles Brundage 提出前沿 AI 治理三要素：标准、激励与证据
Miles Brundage 提出前沿 AI 治理的三要素框架——安全与安保标准、促使领先开发者遵守标准的激励机制，以及证明标准确实被执行的证据。他认为该三元组能让企业明确何为"足够安全可靠"，并让他方确信其真正合规。他还指出这只是最低限度的一部分，社会韧性投资、高端算力硬件追踪及安全事故共享流程同样不可或缺。
- 动态Miles Brundage
Megapapers 的定义与写作经验分享
OpenAI 前政策研究员 Miles Brundage 撰文定义并分享了撰写 Megapapers 的经验——由 20+ 位作者、15+ 家机构和 10+ 学科共同参与的大型研究报告，并以《The Malicious Use of Artificial Intelligence》为例说明其价值在于整合跨领域知识和提供一站式参考。他认为此类报告因项目管理难度高且贡献分散而在学术界天然稀缺，建议通过定期会议协调核心团队来推进协作。
- 动态Miles Brundage
Miles Brundage 汇总近期参与的国际 AI 核查、第三方合规审查与网络防御提案
Miles Brundage 汇总其近几个月参与的几项工作，涵盖国际 AI 协议核查、前沿 AI 流程合规审查以及将 AI 用于加速网络防御的提案。他与合作者发表两篇紧密相关的论文，提出针对大规模 AI 开发与部署规则的六层核查体系，并探讨国际 AI 治理中的核查问题。他还参与了关于前沿 AI 安全框架第三方合规审查的论文，指出企业承诺难以核实执行力度，并提出“流程合规”作为审计对象之一。此外他向 Institute for Progress 的 Launch Sequence 提交“Operation Patchlight”提案，主张用尖端 AI 抢先查找并修补开源代码漏洞，同时资助 AI 驱动的网络安全工具持续改进。
- 动态The EU AI Act Newsletter
欧盟 AI Act 通讯第 94 期：Grok 性化图像丑闻与 AI 法案进展
欧洲议会 57 名跨党派议员呼吁在欧盟范围内禁止生成非自愿性化深度伪造图像的 AI 应用，起因是 X 平台上 Grok 机器人生成的此类图像大量传播；欧盟委员会已要求 X 提供更多信息并下令保留 Grok 相关文件至年底，尽管 X 声称已阻止编辑暴露衣着人物图像，POLITICO 核实用户仍可生成。欧洲议会 LIBE 委员会确定数字简化方案牵头方，Renew 的 Michael McNamara 负责 AI 方案并联合主持监督 AI Act 实施的工作组，他强调修订需真正简化实施而不削弱核心保障，同时指出 2026 年 8 月高风险 AI 合规期限临近。
- 动态The EU AI Act Newsletter
《EU AI Act Newsletter》#95：一部欧盟法律胜过一百部美国法律？
欧盟委员会未能按期于 2026 年 2 月 2 日发布高风险 AI 系统分类指南草案，将推迟至本月晚些时候公布，理由是需整合过去一个月收到的大量反馈并走完内部程序。POLITICO 报道称，欧盟科技负责人 Henna Virkkunen 在达沃斯为《人工智能法案》辩护，援引斯坦福大学研究指出美国存在超过 200 项州级 AI 监管规定，以此反驳美方分散立法更利于创新的观点。《经济学人》则提到欧洲企业历来采纳新技术缓慢，且欧盟 AI Act 可能因合规负担拖慢生成式 AI 的应用普及。
- 动态The EU AI Act Newsletter
《EU AI Act Newsletter》#96：简化还是去监管？
欧盟理事会第二版妥协文本拟赋予 AI Office 更大检查权，允许其查阅企业账目与相关数据、复制材料并询问员工，同时国家监管机构可代为调查。该提案将 AI 市场检查权从各国集中到 AI Office，覆盖企业在自有通用目的 AI 模型之上构建的系统，甚至可能延伸至同一"undertaking"内的关联结构。Access Now 牵头的联署信则反对删除高风险 AI 系统第 49(2) 条的透明度保障条款，警告此举会削弱执法可行性并为健康、安全和基本权利带来风险。
- 动态The EU AI Act Newsletter
EU AI Act Newsletter #97：AI 生成内容标注行为准则第二稿与执行
欧盟委员会发布了《AI 生成内容标记与标注行为准则》第二版草案，面向提供者和部署者，帮助其遵守 AI Act 第 50 条的标记与标注义务，反馈截止 3 月 30 日，预计 2026 年 6 月初敲定，透明度规则于 2026 年 8 月 2 日适用。 该草案吸纳了 2026 年 1 月以来通过问卷、会议和工作坊收集的数百家利益相关方意见及成员国与欧洲议会代表的贡献，并做了精简以减少合规负担，同时推动开放标准和统一的欧盟标识图标。准则分两部分：第一部分针对生成式 AI 系统提供者的内容标记与检测，第二部分针对部署者对深度伪造和公共利益文本的标注，采取更灵活务实的做法。
- 动态The EU AI Act Newsletter
EU AI Act 简化之争：欧洲议会与欧盟理事会就高风险系统规则延期展开角力
欧洲议会议员以 101 票赞成、9 票反对、8 票弃权通过联合立场，主张推迟部分高风险 AI 系统规则的适用，并提议将固定生效日期定为高风险系统 2027 年 12 月 2 日、受欧盟部门安全立法覆盖的系统 2028 年 8 月 2 日，水印合规延长则缩短至 2026 年 11 月 2 日。欧盟理事会随后也达成一致立场，基本维持欧委会提案主旨，同样引入上述两个固定适用日期，并将 AI 监管沙盒的建设推迟至 2027 年 12 月 2 日。 两方均禁止未经同意生成亲密内容的 AI 行为及儿童性虐待材料，其中议会还新增了对无有效保障措施的“脱衣”（nudifier）系统的禁令。
- 动态The EU AI Act Newsletter
欧盟《人工智能法案》简化提案获欧洲议会通过：高风险系统合规延至 2027 年
欧洲议会以 569 票赞成、45 票反对、23 票弃权通过了 AI Act 简化提案，将高风险 AI 系统的适用日期推迟至 2027 年 12 月 2 日，受欧盟行业安全立法覆盖的系统则推迟至 2028 年 8 月 2 日，水印合规期限宽限至 2026 年 11 月 2 日。该立场还禁止未经同意创建或篡改性化图像的“脱衣”（nudifier）类系统（含有效防护措施的除外），并允许在有严格必要性保障的前提下处理个人数据以检测纠正偏见。接下来将与欧盟理事会展开谈判确定法律最终形式。
- 动态The EU AI Act Newsletter
《EU AI Act Newsletter》第 100 期：欧洲路径
欧盟委员会执行副主席 Henna Virkkunen 撰文回顾《AI Continent Action Plan》实施一年进展，称其围绕基础设施、数据、技能、应用与简化五大支柱展开，并预告将出台聚焦数据中心容量与 AI 芯片生产的技术主权方案。Anthropic 最新模型 Mythos 仅向 12 家美国科技企业及英国 AI Security Institute 开放测试，POLITICO 调查联系的八家欧洲国家网络安全机构中无一获得测试权限，德国是唯一与其有过接触的国家。
- 动态The EU AI Act Newsletter
EU AI Act Newsletter #101：三方会谈破裂，Anthropic 受邀出席 Mythos 模型听证会
欧盟立法者未能就推迟《人工智能法案》高风险条款达成协议，机械与医疗器械合规路径争议导致谈判无果且未定重启日期。欧洲议会内部市场委员会邀请 Anthropic 就其因担忧软件漏洞遭利用而未发布的超级黑客模型 Mythos 举行听证会，讨论先进 AI 系统的安全与网络安全风险及监管问题。Anthropic 还向欧委会通报了该模型的网络能力与技术风险细节，并签署了针对最复杂先进模型的欧盟最佳实践准则。
- 动态The EU AI Act Newsletter
欧盟 AI Act 通讯第 102 期：Anthropic Mythos 引发监管压力
欧盟 AI Act 通讯第 102 期汇总了欧盟 AI 立法与治理的最新进展。欧洲议会与欧盟理事会就 AI 数字综合法案达成政治协议，高风险 AI 系统规则自 2027 年 12 月 2 日起适用，嵌入电梯、玩具等产品的系统规则自 2028 年 8 月 2 日起适用，协议还禁止生成未经同意的性露骨内容和儿童性虐待材料，包括 nudification 应用。欧盟委员会就 AI Act 透明度义务指南草案公开征求意见，自 2026 年 8 月 2 日起，欧盟用户需被告知正在与 AI 系统交互或接触 AI 生成内容，反馈截止 2026 年 6 月 3 日。
- 动态The EU AI Act Newsletter
EU AI Act Newsletter #103：欧盟 AI 办公室 8 月起获得三项执法权
欧盟委员会 AI 办公室将于 8 月 2 日依据《人工智能法案》第 91、92 条获得针对通用目的 AI 模型的强制执行权，可索取技术文档、训练数据摘要与模型报告，并可通过科学小组委托独立评估，包括经 API 访问模型。 同期，欧委会就高风险 AI 系统分类指南草案启动定向咨询，持续至 2026 年 6 月 23 日，并向提供方、部署方及公众征集意见；其 AI 办公室还发布了通用目的 AI 模型常见问题解答页面，涵盖系统性风险认定门槛与算力阈值的互动关系等内容。
- 动态The EU AI Act Newsletter
欧盟 AI Act 通讯第 104 期：科学专家组与咨询论坛成员就位
欧盟委员会依 AI Act 第 68 条设立科学专家组，任命 60 名独立 AI 专家，就通用人工智能（GPAI）模型的影响与风险评估向 AI Office 及各国主管机构提供建议，职责包括提示系统性风险、GPAI 分类与评估方法以及支持市场监督，任期两年可续。同期依第 67 条设立咨询论坛，从 700 多份申请中选出 174 名来自公民社会、学术界和产业界的成员，任期两年、可续任一次。
- 动态The EU AI Act Newsletter
欧盟《人工智能法案》简化措施获批并推迟高风险系统义务
欧洲议会以 423 票赞成、57 票反对、174 票弃权通过数字综合立法中的《人工智能法案》修正案，将独立高风险 AI 系统的合规义务推迟至 2027 年 12 月 2 日，嵌入式安全组件类则延至 2028 年 8 月 2 日。同期生效的水印标注义务也被推后，市场投放早于 2026 年 8 月 26 日的系统需等到 2026 年 12 月 2 日才适用。该法律还禁止生成儿童性虐待材料和非自愿私密影像的 AI 系统，企业须在 2026 年 12 月 2 日前整改到位。
- 动态Google Threat Intelligence
Google Threat Intelligence 解析亲俄影响力生态系统的驱动因素、动态与应用
Google Threat Intelligence（GTIG）发文剖析亲俄影响力生态系统正从乌克兰战争工具回归全球战略资产，并日益将生成式 AI 用于行动策划、调研与内容创作。该报告称俄罗斯政府有意打造融合公开、隐蔽与独立要素的自维持环境，服务于削弱西方主导地位、维系周边地区支配力及保障国内政权稳定三类目标，美国、欧洲、北约与欧盟为主要打击对象。由于各组件相互关联，该系统能抵御有限范围的干扰，防守方需针对性应对。
- 动态Google Security
Google Pixel 10 如何在 Android 上用 C2PA Content Credentials 提升图像可信度
Google 在 Made by Google 2025 上宣布 Pixel 10 手机将在 Pixel Camera 和 Google Photos 中支持 C2PA Content Credentials，Pixel 10 系列成为首个由 Pixel Camera 拍摄的每一张照片都内置该凭证的产品线。其实现基于 Tensor G5、Titan M2 安全芯片及 Android 硬件级安全 API，并采用隐私设计管理证书，使图片之间及其创作者无法相互关联。Pixel Camera 达到 C2PA 合规计划目前定义的最高安全等级 Assurance Level 2，移动应用获此评级当前仅限 Android 平台。
- 动态Google Security
Google 联合 Airbus 在 DEF CON 33 举办 GenSec CTF，加速 AI 网络安全应用
Google 隐私、安全与安保团队联合 Airbus 在 DEF CON 33 举办了聚焦人机协作的 GenSec Capture the Flag（CTF）。近 500 名参与者完成了入门挑战，其中 23% 的人首次将 AI 用于网络安全工作流，85% 的参与者认为该活动有助于了解 AI 在安全工作流中的应用方式。活动中还提供实验性的网络安全 AI——Sec-Gemini 作为可选助手，77% 的受访者表示它对自己解决挑战“很有帮助”或“极有帮助”。
- 动态Google Security
Google Play 与 Android 应用生态 2025 年安全防护成效
Google 公布 2025 年 Google Play 与 Android 生态安全成果：拦截超过 175 万个违规应用上架，封禁逾 8 万名恶意开发者账号，并阻止超 25.5 万个应用获取过多敏感用户数据权限。其将最新生成式 AI 模型接入审核流程辅助人工团队更快识别复杂恶意模式，同时借助检测模型屏蔽了 1.6 亿条垃圾评分与评论，并为遭差评轰炸的应用挽回平均 0.5 星降幅。Android 内置的 Google Play Protect 每日扫描超 3500 亿次应用安装，其实时扫描从 Google Play 之外识别出逾 2700 万个新的恶意应用。
- 动态CSET
CSET 专家解读 AI 恐慌主流化的一周
CSET 的 Jessica Ji 与 Andrew Lohn 在 CyberScoop 发表评论文章，认为封锁先进 AI 模型的访问权限并非应对 AI 网络威胁的可持续方案。Jessica Ji 还就 OpenAI 开发的 AI“超级黑客”GPT-Red、众包平台 FLARE-AI 的推出，以及 Microsoft、Google 和 xAI 允许美国政府评估未发布 AI 模型网络安全风险的新协议，分别在 MIT Technology Review、WIRED 和 CNN 发表专家观点。