全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态Partnership on AI
Partnership on AI 华盛顿研讨会：为多种 AI 未来做规划
Partnership on AI 联合 Windfall Trust 于 7 月 29–30 日在华盛顿召集 46 位来自前沿 AI 实验室、工会、民间社会和国际组织的负责人，围绕两种 2030 年 AI 情景推演当下应做的准备。与会者在征税分享 AI 财富、扩大集体谈判覆盖、改革失业保险以及将 AI 纳入公共采购标准等方面形成较多共识，但在融资方式和对各情景发生概率的判断上分歧明显。会议遵循查塔姆研究所规则，观点不作个人归属，完整纪要另行发布。
- 动态GovAI
Noah Feldman、Sophie-Charlotte Fischer 与 Gillian Hadfield 谈 Facebook 监督委员会的设计｜GovAI 博客
GovAI 举办了一场活动，邀请哈佛法学院教授 Noah Feldman 讲述他对 Facebook 监督委员会的观察以及一个有意义的 AI 行业评审委员会应当具备何种形态，Gillian Hadfield 与 Sophie-Charlotte Fischer 担任评议人。Hadfield 是多伦多大学 Schwartz Reisman 技术与社会研究所主任并兼任 OpenAI 高级政策顾问，Fischer 是 ETH Zurich 安全研究中心博士候选人及 GovAI 研究员，曾涉足自主武器伦理与法律、美国 AI 技术出口管制等议题。
- 动态GovAI
Ben Jones 与 Chad Jones 谈长期经济增长：人工智能爆炸还是空荡星球？
经济学家 Ben Jones 与 Chad Jones 在一场由 Anton Korinek 主持的网络研讨会上讨论长期经济增长的可能路径——人工智能爆炸式的加速增长，抑或是经济增速反向放缓乃至停滞。两人基于发表于 NBER 人工智能经济学卷册的合作论文指出，未来增长率并不必然延续战后的稳态轨迹，可能结果的分布极为宽广，因此无法排除增长朝相反方向发展的可能性。
- 动态GovAI
Michael C. Horowitz 谈《当速度致命》：自主武器系统、威慑与稳定性
Michael C. Horowitz 基于安全研究和军事史案例，分析了自主武器系统（AWS）可能带来的两类后果：军备竞赛以及威慑稳定性的削弱，包括战略稳定性下降、危机不稳定风险上升和战时升级。他以作战速度提升和人类对战场的控制减弱这两个特征作为切入点展开讨论。
- 动态GovAI
Margaret Roberts 与 Jeffrey Ding 谈审查制度对人工智能的影响｜GovAI Blog
加州大学圣地亚哥分校政治学副教授 Molly Roberts 在一场 GovAI 活动中报告了她与 Eddie Yang 合作的研究，探讨审查与中国人工智能之间的关系，指出驱动 AI 应用的海量数据会被人为偏见污染并编码进训练数据，进而通过算法放大到面向用户的界面中。牛津大学未来人类研究所研究员 Jeffrey Ding 担任评议人。该工作被视为其审查与人工智能关系研究的开端，此前已有大量研究关注种族与性别偏见于训练数据集中的编码问题。
- 动态GovAI
Paul Scharre 与 Helen Toner 谈 AI 能力与战争性质｜GovAI Blog
GovAI 于 2022 年 4 月 4 日举办了一场线上讨论，由 Robert Trager 主持，嘉宾 Paul Scharre 与 Helen Toner 围绕 AI 能力及其对战争性质的影响展开对话。活动提供录像回放，并附有延伸阅读材料。
- 动态GovAI
Lauren Kahn 谈人工智能与自主性的负责任军事用途｜GovAI Blog
GovAI 于 2023 年 4 月举办线上讨论，邀请美国外交关系委员会（Council on Foreign Relations）的 Lauren Kahn 主讲人工智能与自主武器的负责任军事使用问题，由 GovAI 国际治理论负责人 Robert Trager 主持。活动录像已在 GovAI 官网公开。
- 动态GovAI
Tom Davidson 谈算力中心框架下的起飞速度｜GovAI Blog
Open Philanthropy 的 Tom Davidson 就其草稿论文《What a Compute-Centric Framework Says About Takeoff Speeds》做了一场报告，由 GovAI 代理主任 Ben Garfinkel 主持，活动于 2023 年 3 月举办并留有录像回放。
- 动态GovAI
Bruce Schneier 与 Gillian Hadfield 谈如何保障具备物理能力的计算机世界安全
随着计算机安全从保护数据转向保护生命与财产，数据认证与完整性将比保密更重要，基本不受监管的互联网也将终结，未来真正的选择是在明智与愚蠢的政府监管之间。Bruce Schneier 主张回顾以往系统安全的经验教训，并前瞻所需的技术、法律、监管、经济激励与社会规范，同时探讨 AI 如何助力网络安全以及网络安全领域的政府监管可为 AI 监管提供借鉴。Gillian Hadfield 则围绕治理方案发表反思。
- 动态GovAI
GovAI 开设《经济学 of AI》免费在线课程，Anton Korinek 主讲
GovAI 的经济学与 AI 负责人 Anton Korinek 发布了免费的《Economics of AI》在线公开课，由 Long-Term Future Fund 资助。课程共六个模块，涵盖 AI 对生产方式与技术变革、总体经济增长以及劳动力市场与劳动者的影响，并探讨如何引导 AI 发展造福人类及经济学对人类控制高智能算法的启示。首个模块面向具备社会科学背景的学习者开放，其余模块则针对研究生或高年级本科水平的经济学背景人群。
- 动态GovAI
Paul Scharre 与 Markus Anderljung 谈人工智能时代的权力｜GovAI Blog
2024 年 1 月 29 日，美国智库 CNAS 执行副总裁兼研究主任 Paul Scharre 做客 GovAI 政策负责人 Markus Anderljung 主持的网络直播讨论，围绕"人工智能时代的权力"展开对话。该活动由位于牛津的人工智能治理中心 GovAI 主办，属其博客栏目下的公开研讨记录，目前仅提供上述议程信息，未见更多实质观点披露。
- 动态GovAI
GovAI 发布 2023 年度报告及 2024 年第一季度工作回顾
GovAI 发布了涵盖 2023 全年及 2024 年第一季度的年度报告，称过去一年是其团队产出最高的一年，也是 AI 治理迄今最具决定性意义的一年。报告记录了该机构的团队构成、项目和活动情况，并指出其近十年前就已意识到通用人工智能的重要性，目前比其他非营利组织更有条件推进这一使命。
- 动态GovAI
GovAI 2018 年度报告
GovAI 于 2018 年组建了一支由 5 名全职研究员构成的核心团队并建立研究附属网络，全年产出超过 10 项研究成果。成果涵盖《AI Governance: A Research Agenda》《The Malicious Use of AI》等报告、《When will AI exceed human performance？》等学术论文及若干手稿，其中恶意使用 AI 的报告获逾 50 家媒体报道。该组织计划继续扩张，新增 1.5 FTE 项目管理岗位，并表示希望吸纳更多人才进入 AI 治理领域。
- 动态GovAI
Sam Altman 与 Bill Gale 谈先进 AI 的税收解决方案｜GovAI
OpenAI CEO Sam Altman 与布鲁金斯学会的 William G. Gale 在 GovAI 首场研讨会上讨论先进 AI 时代的共享繁荣问题，围绕 Altman 博文《Moore's Law for Everything》展开。Altman 表示若继续扩大大语言模型的规模未必能通向 AGI，他认为通往 AGI 不会是一次性的突变时刻，而是加速推进的过程，社会需要在过程中学习并提前解决系统对齐等问题。
- 动态GovAI
GovAI 2020 年度报告
GovAI 于 2020 年发布年度报告，团队现有 9 名研究人员及由 21 位附属成员与合作者组成的网络，并迎来访问高级研究员 Joslyn Barnhart 和 Robert Trager。该年度发表两份主要报告、15 篇学术出版物、一份 AI 治理教学大纲以及 5 篇评论或博客文章，涵盖合作型 AI、Windfall Clause、国家安全与反垄断、AI 与中国等议题。工作获 Open Philanthropy、Future of Life Institute 和欧洲研究理事会资助，Governance of AI Fellowship 预计 2021 年春开放申请。
- 动态GovAI
Daron Acemoğlu、Diane Coyle 与 Joseph Stiglitz 谈新冠疫情与 AI 经济学
GovAI 首场 AI 治理与经济研讨会邀请 Daron Acemoğlu、Diane Coyle 和 Joseph Stiglitz 三位经济学家，从新冠疫情的应对经验出发讨论社会应如何为 AI 带来的经济冲击做准备。会议由弗吉尼亚大学的 Anton Korinek 主持，围绕 AI 作为通用技术的长期影响展开，涉及大规模劳动替代、极端不平等以及维持人类对高智能人工系统监督等议题。
- 动态GovAI
Joseph Stiglitz 与 Anton Korinek 谈 AI 与不平等
Joseph Stiglitz 与 Anton Korinek 在 GovAI 活动中讨论 AI 与不平等问题，指出数十年来持续加剧的不平等因新冠疫情后的 K 型复苏进一步恶化，现代技术与日益发展的人工智能被认为在其中扮演重要角色，并引发对未来 AI 进步可能进一步放大不平等的担忧。
- 动态GovAI
GovAI 网络研讨会：前沿 AI 模型应如何监管？
GovAI 举办了一场围绕白皮书《Frontier AI Regulation: Managing Emerging Risks to Public Safety》的网络研讨会，讨论前沿 AI 模型的监管问题。该白皮书主张 GPT-4、PaLM 2、Claude 等尖端模型可能很快具备严重危害公共安全的能力，因而需要监管，并提出了相应监管制度的构成要素及初步安全标准。Markus Anderljung、Cullen O'Keefe 主讲，Irene Solaiman 与 Jeremy Howard 作为评议人参与了坦率讨论。
- 动态GovAI
GovAI Book Talk：Jeffrey Ding 谈《技术与大国崛起》
GovAI 于 2024 年 11 月 26 日举办线上讲座，邀请乔治·华盛顿大学助理教授 Jeffrey Ding 讨论其新书《Technology and the Rise of Great Powers》。Ding 提出，技术革命对大国的兴衰并非取决于哪国最先发明重大创新，而是国家能否将技术成功适配并传播至本国经济体系，制度层面的适配才是塑造全球竞争的关键。该研究发现对当下 AI 等技术如何影响中美力量平衡具有直接意义，随后他与 Robert Trager、Ben Garfinkel、Kayla Blomquist 进行了小组讨论与问答。
- 动态Epoch AI
Epoch AI 分析 Mythos 的网络能力是否被夸大
Epoch AI 汇总约十五个公开网络安全基准，用改进后的 Epoch Capabilities Index 方法构建 Cyber-ECI，评估 Anthropic 的 Claude Mythos 系列在网络能力上是否被夸大。分析认为 Mythos Preview 在漏洞利用开发上确有大幅提升，比 GPT-5.5 更强，并领先 2025 年初以来的趋势约 7 个月，Mythos 5 在此基础上小幅提升。漏洞发现方面证据不够明确：参与 Project Glasswing 的 21 家机构披露的高危和严重漏洞数在 4 月和 5 月分别超出 2025 年基线 142% 和 262%，但同期 API 额度投入最高达 1 亿美元，难以区分是模型能力还是投入增加所致。curl 维护者称 Mythos 只发现一个低危漏洞和四个误报，未显示比既有工具更强。
- 动态GovAI
GovAI 年度报告 2025：从预测 AI 变革转向塑造其走向
GovAI 成立十周年之际发布《Annual Report 2025》，称随着 AI 开始改变世界，决策者的关键问题已不再是 AI 是否会带来变革，而是如何积极塑造这场变革。该机构表示 2025 年是研究成果最丰产的一年，人才项目也取得重要进展，并预计 2026 年外界对其工作的需求将持续增长。下一步重点包括扩大华盛顿特区的实地存在、调整人才项目以支持研究与政策之外的职业路径，以及启动新的研究工作流来拓宽专业覆盖面。
- 动态GovAI
GovAI 招聘美国政策负责人，推动华盛顿办公室与研究团队扩张
GovAI 面向华盛顿特区招募美国政策负责人（Head of US Policy），负责制定其美国方向的研究战略并领导该办公室的研究与政策参与工作。该岗位将带领目前由六名研究员组成的美国政策团队进行大幅扩充——可能增至数十人规模，同时招募、指导研究人员并与 DC 的政策制定者建立关系。申请条件等信息因原文截断无法确认。 补充说明： - 由于原文实为一则职位招聘启事而非 AI 安全研究成果，其中不含受影响模型/产品版本、攻击名称、ASR、基准分数、CVE 等技术要素，故摘要仅能覆盖角色职责与组织规划。 - 「近 20000 份申请、每年逾 100 名参与者」属于 fellowship 项目描述，与美国政策负责人岗位无直接关联，且易造成误导，因此未纳入摘要。
- 动态Epoch AI
Epoch AI 提出面向 AI 研发任务的类 O\*NET 分类体系
Epoch AI 在一篇文章中提出了首个针对 AI 研发工作的任务分类体系雏形，基于文献综述与头脑风暴划分出覆盖前沿 AI 实验室研究工作流的六个类别，目标是弥补现有趋势外推所依赖的可测量代理指标——算力、数据和能源投入以及 METR 的时间跨度指标——无法反映 AI 研发完整构成的缺陷。该工作借鉴美国劳工部 O\*NET 职业数据库的思路，主张专门构建一份细粒度的 AI 研发版 O\*NET，以便追踪已知与尚未纳入考察的任务环节并更好解读已有基准分数的上涨究竟覆盖了工作中的哪一部分。
- 动态Cloud Security Alliance（AI 相关）
CSA《2026 年云计算顶级威胁》报告：AI 既是武器也是目标
CSA《Top Threats to Cloud Computing 2026》报告把 AI 相关风险拆成两个独立类别：AI 增强型攻击（第 2 位）与 AI 系统攻陷（第 6 位）。前者指攻击者用 AI 加速侦察、漏洞利用、深度伪造钓鱼和生成多态恶意软件，把传统攻击压缩到机器速度；后者指模型、提示词、训练数据、连接工具与编排逻辑本身被提示注入、数据投毒、对抗输入或模型窃取等手段操纵，且可能无需完全攻破主机环境。报告认为云安全与 AI 安全的边界正在消失，但两类威胁不可互换，否则会留下盲区。