全部动态
从来源，看到研究的联系
点击节点查看内容
本页材料
24 条- 动态Partnership on AI
Partnership on AI 迎来六家新伙伴，Anthropic 等在列
Partnership on AI 新增 AI Safety Asia、Anthropic、Financial Health Network、乔治·华盛顿大学法学院多种族民主项目、华盛顿大学 Paul G. Allen 计算机科学与工程学院及 Transluce 共六家合作伙伴，覆盖学术界、产业界与公民社会。其工作聚焦 AI 治理、AI 安全和 AI 与劳动力及经济三大方向，并涉及独立模型评估、消费者财务健康与民权保护。此次扩容使该网络成员超过 150 家组织，分布于 19 个国家。
- 动态GovAI
Noah Feldman、Sophie-Charlotte Fischer 与 Gillian Hadfield 谈 Facebook 监督委员会的设计｜GovAI 博客
GovAI 举办了一场活动，邀请哈佛法学院教授 Noah Feldman 讲述他对 Facebook 监督委员会的观察以及一个有意义的 AI 行业评审委员会应当具备何种形态，Gillian Hadfield 与 Sophie-Charlotte Fischer 担任评议人。Hadfield 是多伦多大学 Schwartz Reisman 技术与社会研究所主任并兼任 OpenAI 高级政策顾问，Fischer 是 ETH Zurich 安全研究中心博士候选人及 GovAI 研究员，曾涉足自主武器伦理与法律、美国 AI 技术出口管制等议题。
- 动态GovAI
GovAI 2021 年度报告：从牛津分拆并转型为非营利组织
GovAI 于 2021 年正式脱离牛津大学并以新的非营利结构运营，同时任命 Ben Garfinkel 为代理主任、创始人 Allan Dafoe 转任总裁，并组建由 Allan、Ajeya Cotra、Tasha McCayley、Toby Ord 和 Helen Toner 组成的新顾问委员会。该机构同期完成了网站与品牌的更新，并通过募资获得 380 万美元以支撑未来数年的活动，其建设全球 AI 治理研究社区的使命保持不变。Dafoe 等人合著的《合作式 AI 中的开放问题》一文还促成了一项 1500 万美元的合作智能研究基金的成立。
- 动态GovAI
Lauren Kahn 谈人工智能与自主性的负责任军事用途｜GovAI Blog
GovAI 于 2023 年 4 月举办线上讨论，邀请美国外交关系委员会（Council on Foreign Relations）的 Lauren Kahn 主讲人工智能与自主武器的负责任军事使用问题，由 GovAI 国际治理论负责人 Robert Trager 主持。活动录像已在 GovAI 官网公开。
- 动态GovAI
GovAI 开设《经济学 of AI》免费在线课程，Anton Korinek 主讲
GovAI 的经济学与 AI 负责人 Anton Korinek 发布了免费的《Economics of AI》在线公开课，由 Long-Term Future Fund 资助。课程共六个模块，涵盖 AI 对生产方式与技术变革、总体经济增长以及劳动力市场与劳动者的影响，并探讨如何引导 AI 发展造福人类及经济学对人类控制高智能算法的启示。首个模块面向具备社会科学背景的学习者开放，其余模块则针对研究生或高年级本科水平的经济学背景人群。
- 动态GovAI
GovAI 2022 夏季奖学金收官：研究员们做了哪些工作？
GovAI 公布 2022 年夏季奖学金项目的结项情况，该项目资助早期职业研究者开展为期三个月的 AI 治理研究课题并建立学术联系。本届研究员来自不同学科且经验各异，部分人开拓全新研究方向，也有人延续既有工作。GovAI 感谢导师们的指导，并表示未来奖学金的申请通道已在官网开放。
- 动态GovAI
GovAI 2023 冬季奖学金收官：研究员们做了哪些工作？
GovAI 公布了 2023 年冬季奖学金的结项情况，该项目资助早期职业研究者开展为期三个月的 AI 治理研究课题并建立学术联系。本届冬季研究员来自不同学科、经验水平各异，部分人借此开拓全新研究方向，也有人延续既有工作进行拓展。GovAI 同时感谢各位导师的指导，并表示未来奖学金申请通道可通过其官网了解。
- 动态GovAI
GovAI 2023 夏季奖学金收官：研究员们做了哪些工作？
GovAI 公布 2023 年夏季奖学金项目的结项情况，该项目资助青年研究者投入三个月从事 AI 治理研究工作。Fellows 来自不同学科、经验各异，部分人借此进入全新研究领域，也有人延续既有课题，并接受导师指导。
- 动态GovAI
GovAI 2024 冬季奖学金结项：研究员们做了哪些工作？
GovAI 公布 2024 年冬季奖学金项目的结项情况，该项目资助新兴研究者投入三个月从事 AI 治理研究工作。参与的研究员来自不同学科、背景各异，部分人借此开拓全新研究方向，也有人延续此前的工作。GovAI 同时感谢各位导师在本季度的指导，并开放未来奖学金的申请意向登记渠道。
- 动态GovAI
GovAI 2024 夏季奖学金结项：研究员们做了哪些工作？
GovAI 公布 2024 年夏季奖学金项目的结项情况，该项目资助早期职业人士及刚进入 AI 治理领域的从业者开展为期三个月的研究。本届研究员来自不同学科、背景各异，部分人开拓全新研究方向，另一部分则延续既有课题。GovAI 同时感谢各位导师的指导，并开放未来奖学金的申请意向登记渠道。
- 动态GovAI
GovAI 2025 冬季奖学金收官：研究员们做了哪些工作？
GovAI 公布 2025 年冬季奖学金项目的结项情况，本届研究员来自不同学科和专业背景，围绕各自的 AI 治理课题开展了三个月的研究。部分人借此进入全新研究方向，也有人延续既有工作进行拓展，项目方同时感谢导师团队的指导并开放未来奖学金的申请意向登记。
- 动态GovAI
GovAI 发布 2023 年度报告及 2024 年第一季度工作回顾
GovAI 发布了涵盖 2023 全年及 2024 年第一季度的年度报告，称过去一年是其团队产出最高的一年，也是 AI 治理迄今最具决定性意义的一年。报告记录了该机构的团队构成、项目和活动情况，并指出其近十年前就已意识到通用人工智能的重要性，目前比其他非营利组织更有条件推进这一使命。
- 动态GovAI
GovAI 2018 年度报告
GovAI 于 2018 年组建了一支由 5 名全职研究员构成的核心团队并建立研究附属网络，全年产出超过 10 项研究成果。成果涵盖《AI Governance: A Research Agenda》《The Malicious Use of AI》等报告、《When will AI exceed human performance？》等学术论文及若干手稿，其中恶意使用 AI 的报告获逾 50 家媒体报道。该组织计划继续扩张，新增 1.5 FTE 项目管理岗位，并表示希望吸纳更多人才进入 AI 治理领域。
- 动态GovAI
GovAI 重新作为非营利组织启动
GovAI 现已重组为非营利组织并正式重启，使命仍是建设全球研究社区，帮助人类应对先进 AI 带来的转型。其核心研究活动基本不变，但因新结构灵活性更高，将扩大领域建设类工作，未来一年内还将举办首届 AI 治理会议并设立学生研究奖。目前正招聘 Chief of Staff 与研究研究员，同时开放夏季奖学金申请。
- 动态GovAI
GovAI 2019 年度报告
GovAI 发布 2019 年度报告，总结其团队规模与研究产出。该组织现有 7 名核心研究员及 16 位研究附属人员与合作者网络，当年发表一份重要报告、九篇学术出版物、四篇评论文章以及首篇博士论文。研究工作涵盖美国公众对 AI 的态度、出口管制、AI 标准等多个议题，并获 Future of Life Institute、Ethics and Governance of AI Initiative 及 Open Philanthropy Project 资助。
- 动态Stanford CRFM
斯坦福 CRFM 呼吁建立通用 AI 第三方缺陷协同披露机制
斯坦福 CRFM 发布论文《In House Evaluation Is Not Enough》，呼吁 AI 开发者投资第三方独立研究者的缺陷调查需求，并建立新的研究者保护、报告与协调基础设施标准。论文由 34 位来自机器学习、法律、安全、社会科学和政策领域的作者共同完成，提出四项贡献：为研究者设计标准化的 AI Flaw Report、提供开发者可采用的法律条款以保护善意研究、设计开发者可实施的缺陷赏金机制，以及建议设立一个集中式机构来协调和分诊跨利益相关方的缺陷。文章指出，独立 AI 评测缺乏法律保护，发现缺陷后也没有负责任地分发发现的机制，导致许多缺陷未被上报，企业无法修复，或只告知一家 AI 开发者而忽略其他受影响公司。
- 动态AI Verify Foundation（新加坡）
AI Verify Foundation：你的组织处于负责任 AI 旅程的哪个阶段？
AI Verify Foundation（新加坡）发布了面向组织的负责任 AI 成熟度自查资源，帮助不同阶段的组织定位自身位置并找到对应的指引文档与技术测试工具。该资源集合涵盖从入门级基础框架到进阶实践的内容，并提供一张流程图用于评估组织当前的负责任 AI 进展，以便选择合适的下一步行动。
- 动态AI Verify Foundation（新加坡）
新加坡与卢旺达联合发布全球首个《小国人工智能行动手册》
新加坡与卢旺达在新加坡亚洲科技峰会上发布了全球首个小国人工智能行动手册，由新加坡 IMDA 与卢旺达 ICT 和创新部合作制定，并咨询了小国数字论坛成员。该手册针对资源资金不足、数据和人才获取困难等小国共性问题提出应对方案，并以持续更新的活文档形式汇集各国经验策略，配套提供 AI Verify 等实用测试工具。
- 动态GovAI
GovAI 2020 年度报告
GovAI 于 2020 年发布年度报告，团队现有 9 名研究人员及由 21 位附属成员与合作者组成的网络，并迎来访问高级研究员 Joslyn Barnhart 和 Robert Trager。该年度发表两份主要报告、15 篇学术出版物、一份 AI 治理教学大纲以及 5 篇评论或博客文章，涵盖合作型 AI、Windfall Clause、国家安全与反垄断、AI 与中国等议题。工作获 Open Philanthropy、Future of Life Institute 和欧洲研究理事会资助，Governance of AI Fellowship 预计 2021 年春开放申请。
- 动态AI Verify Foundation（新加坡）
AI Verify Foundation 发布《Agentic AI 模型治理框架》，强调人类最终问责并新增实战案例
AI Verify Foundation 更新《Agentic AI 模型治理框架》（Model Governance Framework for Agentic AI），指导组织负责任地部署 AI 智能体，同时强调人类始终承担最终责任。该框架系统梳理了智能体 AI 的风险及新兴最佳实践，并于 2026 年 5 月的更新中加入真实世界案例研究，说明组织如何将建议落地以满足自身需求。
- 动态AI Verify Foundation（新加坡）
AI Verify Foundation 举办 AI Assurance Exchange 交流会
AI Verify Foundation 举办了 AI Assurance Exchange 交流会，活动页面同时列出多场相关会议回顾，涵盖可信生成式 AI——PDPC 咨询指南对组织的意义、AI Assurance Exchange @ ISE 与 ATxSummit 2026、Standards in Action，以及 AI 生成代码的未来等议题。
- 动态AI Verify Foundation（新加坡）
新加坡 PDPC 顾问指南解读：组织如何构建可信赖的生成式 AI
新加坡个人资料保护委员会（PDPC）发布的顾问指南面向各类组织，说明如何在遵守个人信息保护法规的前提下建设并运用可信赖的生成式 AI。该指南由 AI Verify Foundation 在其网络交流活动中进行解读，帮助组织将相关合规要求落实到自身实践中。
- 动态GovAI
GovAI 成立政策团队，聚焦算力治理、企业治理与 AI 监管
GovAI 组建政策团队，由 Markus Anderljung 领导，成员包括负责企业治理的 Jonas Schuett 和负责算力治理的 Lennart Heim，主要面向美国、英国和欧盟政府及 AI 实验室开展长期视角下的 AI 政策制定工作。初期押注三个方向：算力能否作为监测能力、限制访问和高风险系统识别的治理节点，前沿实验室应采纳何种董事会监督与伦理委员会设计等企业治理措施，以及基础模型是否应纳入监管等当下最有助于管理先进 AI 风险的规制问题。该团队还将招聘 Research Scholar，并计划开放 Research Fellow 申请，办公地点可选牛津、湾区或远程。
- 动态GovAI
GovAI 启动政策人才培养项目 GAPP，首期试点仅限邀请参加
GovAI 推出政策项目 GAPP，面向研究生与专业人士开展为期 8 周的跨学科兼职培养，围绕 AI 标准与监管、AI 硬件治理和国际合作等议题组织自学、工作坊与研讨，并安排专家交流。该项目为本年度首届试点，采取基于合作伙伴推荐的邀请制，学员通常需具备硕士或博士学历或在国家安全、法律、经济、公共政策等相关领域至少两年工作经验。下一届预计于明年四五月开放申请，有意者可先行填写表单等待通知。