全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态GovAI
GovAI 2025 夏季奖学金结项：研究员们做了哪些 AI 治理课题？
GovAI 公布 2025 年夏季奖学金项目的结项情况，来自不同专业与学术背景的研究员各自完成了自主选题的 AI 治理研究项目，部分人借此进入全新领域，也有人延续既有工作。该项目旨在帮助参与者加深对 AI 治理的理解、对接专家网络并积累专业技能与研究履历，同时向担任导师的各位 supervisor 致谢，并开放未来奖学金的意向登记渠道。
- 动态GovAI
GovAI DC Fall Fellowship 2025 结项：研究员们做了哪些工作？
GovAI 公布 DC Fall Fellowship 2025 的研究员成果，参与者围绕自主选择的 AI 治理课题开展研究，并接受导师指导。该奖学金旨在帮助参与者加深对 AI 治理的理解、拓展专家网络并积累专业技能与研究履历。有意申请未来 fellowship 的人可通过其 Opportunities 页面登记意向。
- 动态GovAI
GovAI 2024 年度报告发布
GovAI 发布了 2024 年度报告，汇总其团队、项目和活动情况。该组织称其使命是帮助机构做出更好的 AI 治理决策，并指出尽管这项工作自 2016 年就已开展，但当前需求前所未有地高。报告还提出下一年的规划，涵盖壮大团队、加速研究与政策工作以及完善组织基础设施。
- 动态GovAI
GovAI 年度报告 2025：从预测 AI 变革转向塑造其走向
GovAI 成立十周年之际发布《Annual Report 2025》，称随着 AI 开始改变世界，决策者的关键问题已不再是 AI 是否会带来变革，而是如何积极塑造这场变革。该机构表示 2025 年是研究成果最丰产的一年，人才项目也取得重要进展，并预计 2026 年外界对其工作的需求将持续增长。下一步重点包括扩大华盛顿特区的实地存在、调整人才项目以支持研究与政策之外的职业路径，以及启动新的研究工作流来拓宽专业覆盖面。
- 动态GovAI
GovAI 招聘美国政策负责人，推动华盛顿办公室与研究团队扩张
GovAI 面向华盛顿特区招募美国政策负责人（Head of US Policy），负责制定其美国方向的研究战略并领导该办公室的研究与政策参与工作。该岗位将带领目前由六名研究员组成的美国政策团队进行大幅扩充——可能增至数十人规模，同时招募、指导研究人员并与 DC 的政策制定者建立关系。申请条件等信息因原文截断无法确认。 补充说明： - 由于原文实为一则职位招聘启事而非 AI 安全研究成果，其中不含受影响模型/产品版本、攻击名称、ASR、基准分数、CVE 等技术要素，故摘要仅能覆盖角色职责与组织规划。 - 「近 20000 份申请、每年逾 100 名参与者」属于 fellowship 项目描述，与美国政策负责人岗位无直接关联，且易造成误导，因此未纳入摘要。
- 动态GovAI
GovAI 招募 Research Scholar，研究与政策并重
GovAI 面向多元学术与职业背景开放 Research Scholar 岗位申请，无学历门槛，由团队或网络成员每周指导并提供外部导师与研究经理支持。入选者可从事原创研究、向决策者提供建议、召集利益相关方，甚至发起新的 AI 治理组织或活动，部分人可将大部分时间投入应用工作而非传统研究。研究方向涵盖风险管理、威胁建模、AI 经济学、地缘政治、前沿 AI 监管与技术治理等领域，经验丰富的研究人员还可改为申请两年期可续签合同的 Research Fellow，两类角色共用一份申请表。
- 动态GovAI
GovAI 招募 Research Fellow
GovAI 面向具备丰富研究经验的研究者招聘 Research Fellow，获聘者可自主选题并主导研究议程，同时需指导夏季与冬季研究员等初级研究者。该岗位由高级研究员或领导团队成员提供指导，工作内容包括产出学术论文、政策备忘录、报告或博客，以及组织利益相关方活动并为机构研究战略出力。研究方向涵盖风险管理、威胁建模、AI 经济学、地缘政治、前沿 AI 监管与技术治理等领域，申请时不设严格学历门槛，经验较少者可考虑为期一年的访问学者岗。
- 动态GovAI
GovAI 美国 AI 政策项目介绍
GovAI 面向美国政府行政与立法部门职员及智库政策研究者开设美国 AI 政策项目，围绕通用人工智能相关政策议题组织引导式讨论。该项目于 2026 年 9 月初至 12 月初运行，每周投入约五小时，含两小时同步会议和三小时材料准备，可在华盛顿 Dupont Circle 附近办公室线下参加或远程加入。参与者需出席 12 场中的 9 场并撰写一份简短政策备忘录或评论文章方可将结业写入简历。
- 动态GovAI
GovAI 启动 DC Winter Fellowship 2027 冬季研究员招募
GovAI 面向美国政府、智库、产业界及公民社会开放 DC Winter Fellowship 2027 申请，入选研究员将围绕自主选择的 AI 政策议题开展为期数月的独立研究，由 GovAI 团队或网络中的导师一对一指导。该奖学金提供 21000 美元津贴并资助往返华盛顿特区的差旅费用，属线下全职岗位，现任 DC 智库研究者、政府办公室职员等相关从业者可申请按比例计薪的非全日制安排。前两周用于了解 AI 政策版图并与导师确定研究提案，成果形式可为报告、白皮书、期刊论文、评论文章或博客。
- 动态GovAI
GovAI 启动英国冬季奖学金 2027 研究员方向招募
GovAI 面向全球公开招募 2027 年英国冬季奖学金研究员方向的季节性研究员，入选者在伦敦办公室开展为期三个月的独立研究并接受专家导师指导。任期从 1 月 18 日持续到 4 月 9 日，薪资为 £12,000，并提供前往伦敦的差旅支持和工作日午餐及工位，属于全职线下岗位，可为部分人选赞助三个月临时工作签证。申请不限学位和专业背景，重点考察研究成果质量、相关专业知识储备、选题判断力以及与团队协作契合度，高级专业人士若遇参与障碍可通过 [email protected] 联系协商调整安排。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 发布两份新的智能体身份与安全研究报告
继在 RSAC Conference 2026 高调亮相后，全球多方利益相关方倡议组织 Coalition for Secure AI（CoSAI）发布了智能体身份与安全方向的两份新研究论文，旨在帮助各类组织应对不断演变的 AI 安全格局。该联盟称此举是其通过技术指导与产业参与推动实用化 AI 系统安全的整体行动的一部分，完整新闻稿发布于 OASIS 官网。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 发布 AI Shared Responsibility Framework：五层模型厘清 AI 事故责任归属
Coalition for Secure AI（CoSAI）Workstream 2 发布 AI Shared Responsibility Framework（AI SRF），用一个五层模型覆盖完整 AI 堆栈并为每一组件指定唯一的责任方，试图终结 AI 出事后的相互推诿。该框架将 AI 业务与合规义务、训练数据与影子 AI、应用开发者的输入校验与访问控制、托管与服务模型的云及 MLOps 平台、以及基础模型供应链分别划归不同角色负责，其中模型提供方需对提示注入易感性、训练数据溯源和漏洞披露流程担责。Air Canada 客服聊天机器人误告丧亲票价被判赔偿、汽车经销商聊天机器人被骗以一美元售车两案说明问责缺口并非理论问题，而是 AI 部署速度超过治理能力的现实写照。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 第二年回顾：从聊天机器人到自主集群的智能体安全
安全人工智能联盟（CoSAI）成立两年之际公布其智能体安全工作进展，涵盖《The Future of Agentic Security: From Chatbots to Autonomous Swarms》报告及在 RSAC 2026 发布的 MCP 安全和智能体身份研究成果。该组织通过四个工作流推进最佳实践共享，并新增 OWASP、AI Alliance 和云安全联盟加入技术指导委员会。下一步将发布面向 AI/ML 供应链信任与溯源的工件完整性成熟度模型、Zero Trust for AI Systems 以及 MCP 安全指南第二版。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 举办 Open Delegation & Identity Standard（ODIS）工作会议
CoSAI（隶属 OASIS Open Project）于 8 月 28 日召开混合形式工作会议，推进面向 AI 智能体的开放委派与身份标准 ODIS，会上进行了两场早期实现现场演示并收集反馈。该标准定义跨企业信任域的供应商中立密码学身份架构，通过扩展 OAuth 2.0、OpenID Connect（OIDC）、SPIFFE 和 SCIM 来满足智能体 AI 的身份、委派与治理需求，由 CoSAI Workstream 4 负责制定。
- 动态BlueDot Impact
BlueDot Impact 解读 Frontier AI Governance 课程适合什么样的申请者
BlueDot Impact 目前会拒绝约 75% 的前沿 AI 治理课程（FAIGC）申请人，其中多数并非资质不足，而是报错了方向——该课程聚焦 AGI、ASI 等最强模型的治理问题以及政府和其他行为者的决策，而非企业合规或 AI 伦理议题。它既不等同于面向 ISO 42001、EU AI Act 的企业 AI 治理培训，也不覆盖算法偏见与社会影响等内容，相关需求应转向 IAPP 的 AIGP 认证等项目。录取看重的是申请人已在具体参与前沿 AI 治理、能指出自身与该课程的差距并有明确的课后行动计划，仅修完其 AGI Strategy 课程并不构成入学保证。
- 动态BlueDot Impact
BlueDot Impact 快速资助计划将总额扩大三倍并提高单笔上限至 1 万美元
BlueDot Impact 过去数月通过 Rapid Grants 向课程参与者与引导者发放了 77 笔共逾 50000 美元的资助，多数用于算力与 API 额度，也涵盖活动组织、人才加速等项目。该计划现将正式扩容，单笔资助上限提高到 10000 美元，决策仍在约五个工作日内完成，超过 5000 美元的申请可能安排一次简短通话。
- 动态BlueDot Impact
BlueDot Impact 的 AGI strategy 课程适合你吗？
BlueDot Impact 面向认真投身 AI 安全的申请者开设 AGI strategy 课程，其价值在于加入一个 8000+ 人且持续增长的社群，并获得职业转型资助、快速资助和一对一咨询等项目支持。该课程帮助学员理解先进 AI 系统的能力、进展驱动因素、具体风险以及由谁掌控开发，从而做出明智贡献决策，超过一半的申请会被拒绝。它并非企业负责任 AI 合规培训，也不覆盖算法偏见与社会影响议题，被动学习者应先修读两小时的自学课程 Future of AI。
- 动态BlueDot Impact
BlueDot Impact 举办 Context Week：实验性课程教 AI 安全从业者建立领域情境认知
BlueDot Impact 于 8 月 31 日至 9 月 3 日在加州伯克利 Lighthaven 举办了为期 4 天的实验性项目 Context Week，录取 24 名参与者并聘请 6 名引导员，帮助新人更快进入 AI 安全工作。该项目通过阅读一手报告、辩论和小分组讨论等形式，围绕价值观澄清、不同 AI 安全策略的风险比较以及组织文化展开教学，并以 OpenAI–Hugging Face 事件的复盘作为早期练习材料。 参与者在白板前梳理自己的观点所依赖的关键问题，部分人表示解决了不确定性并做出决定，另一些人则带着更清晰的问题离开。BlueDot 将“context”拆解为态势感知、战略议程熟悉度、独立评估与发展策略的能力、对相关组织的了解以及对社区规范的把握五类学习目标，并表示下一步想弄清其中哪些对不同岗位最重要，以便更有针对性地培养。
- 动态BlueDot Impact
BlueDot Impact 谈其正在建设的人才基础设施
BlueDot Impact 正把自己定位为 AI 安全与生物安全领域的“人才基础设施”，通过在线课程等项目帮助有意愿的人进入全职影响力岗位。该组织称目前全球仅 2-3,000 人全职从事“让 AI 向善”的工作，而慈善基金会虽有数十亿美元却难以有效投放。它指出阻碍人才入场的主要缺口是认知不足、缺乏领域背景知识和信念感，并提到从入门学习到拿到首笔 AI 安全工作薪水可能需数月全职投入。
- 动态GovAI
GovAI 启动英国冬季奖学金 2027 应用方向招募
GovAI 开放 2027 年英国冬季奖学金应用方向的申请，面向不以研究为主要职责的职业路径。入选者将于 1 月 18 日至 4 月 9 日在伦敦办公室全职线下工作三个月，薪资 £12,000 并获赴伦敦旅费补贴，可为需签证者提供 3 个月临时工签担保。项目由 GovAI 或其合作方提出，往届曾涉及英国 AI Security Institute、Far.AI 等的需求，涵盖活动策划、政策参与项目管理、传播策略与内部自动化开发等工作，同时安排专家问答、每周研讨和能力建设工作坊。
- 动态Cambridge CSER
Max Tegmark 将在剑桥 CSER 公开讲座谈 AI 更好的路径
MIT 物理学家兼 AI 研究者 Max Tegmark 将于 9 月 16 日出席剑桥大学存在风险研究中心（CSER）公开讲座，由 S. M. Amadae 教授主持，探讨如何为人工智能建设更好的未来。该讲座同时作为 CSER 2026 灾难性风险剑桥会议（9 月 17–18 日举行）的开幕活动，免费参加但需提前注册，且注册与会议注册相互独立。
- 动态GovAI
GovAI 招聘华盛顿特区幕僚长，推动美国 AI 政策研究与团队扩张
GovAI 正为其去年设立的华盛顿特区办公室招聘 DC Chief of Staff，负责设计并落地该机构的 DC 战略。该岗位将作为执行总监及未来美国政策主管的战略伙伴，承接其部分工作与对外关系，同时统筹 DC 办公室搭建、端到端的招聘流程以及当地利益相关方维护。目前 GovAI 的美国政策研究团队仅有六名研究员，计划大幅扩充——可能达到数十人规模。
- 动态GovAI
GovAI 招募驻场创业者（Entrepreneur-in-Residence）
GovAI 启动 Entrepreneur-in-Residence 计划，面向有意创办组织或在现有机构内推进项目的申请者提供约 $150k 种子资金、导师对接及最长 12 个月的带薪职位，伦敦年薪通常为 £70,000–£113,500，华盛顿特区为 $80,000–$180,000，GovAI 不占股权。该计划列举了三类可能方向：快速产出经专家背书的“原型标准”、类似 Bellingcat 的 AI 情报组织，以及针对前沿 AI 供应商保密性与完整性的第三方保证机构。
- 动态GovAI
GovAI 招聘人才系统助理
GovAI 正在招募一名人才系统助理，负责推动其员工岗位与研究项目的招聘流程准确按时运行。该职位需日常维护 Airtable 中的候选人记录并推进阶段流转，担任候选人的首要联系人，同时协助改进招聘模板与清单。任职者将向人才系统经理汇报，入职六个月内预计支持两到四轮招聘。