全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态GovAI
GovAI 成立政策团队，聚焦算力治理、企业治理与 AI 监管
GovAI 组建政策团队，由 Markus Anderljung 领导，成员包括负责企业治理的 Jonas Schuett 和负责算力治理的 Lennart Heim，主要面向美国、英国和欧盟政府及 AI 实验室开展长期视角下的 AI 政策制定工作。初期押注三个方向：算力能否作为监测能力、限制访问和高风险系统识别的治理节点，前沿实验室应采纳何种董事会监督与伦理委员会设计等企业治理措施，以及基础模型是否应纳入监管等当下最有助于管理先进 AI 风险的规制问题。该团队还将招聘 Research Scholar，并计划开放 Research Fellow 申请，办公地点可选牛津、湾区或远程。
- 动态GovAI
GovAI 启动政策人才培养项目 GAPP，首期试点仅限邀请参加
GovAI 推出政策项目 GAPP，面向研究生与专业人士开展为期 8 周的跨学科兼职培养，围绕 AI 标准与监管、AI 硬件治理和国际合作等议题组织自学、工作坊与研讨，并安排专家交流。该项目为本年度首届试点，采取基于合作伙伴推荐的邀请制，学员通常需具备硕士或博士学历或在国家安全、法律、经济、公共政策等相关领域至少两年工作经验。下一届预计于明年四五月开放申请，有意者可先行填写表单等待通知。
- 动态GovAI
GovAI 2022 年度报告发布
GovAI 发布了 2022 年度报告，汇总其团队、项目和活动情况。该报告可通过点击图片或按钮在线阅读或下载。
- 动态GovAI
GovAI 网络研讨会：前沿 AI 模型应如何监管？
GovAI 举办了一场围绕白皮书《Frontier AI Regulation: Managing Emerging Risks to Public Safety》的网络研讨会，讨论前沿 AI 模型的监管问题。该白皮书主张 GPT-4、PaLM 2、Claude 等尖端模型可能很快具备严重危害公共安全的能力，因而需要监管，并提出了相应监管制度的构成要素及初步安全标准。Markus Anderljung、Cullen O'Keefe 主讲，Irene Solaiman 与 Jeremy Howard 作为评议人参与了坦率讨论。
- 动态GovAI
GovAI Book Talk：Jeffrey Ding 谈《技术与大国崛起》
GovAI 于 2024 年 11 月 26 日举办线上讲座，邀请乔治·华盛顿大学助理教授 Jeffrey Ding 讨论其新书《Technology and the Rise of Great Powers》。Ding 提出，技术革命对大国的兴衰并非取决于哪国最先发明重大创新，而是国家能否将技术成功适配并传播至本国经济体系，制度层面的适配才是塑造全球竞争的关键。该研究发现对当下 AI 等技术如何影响中美力量平衡具有直接意义，随后他与 Robert Trager、Ben Garfinkel、Kayla Blomquist 进行了小组讨论与问答。
- 动态GovAI
GovAI 2025 夏季奖学金结项：研究员们做了哪些 AI 治理课题？
GovAI 公布 2025 年夏季奖学金项目的结项情况，来自不同专业与学术背景的研究员各自完成了自主选题的 AI 治理研究项目，部分人借此进入全新领域，也有人延续既有工作。该项目旨在帮助参与者加深对 AI 治理的理解、对接专家网络并积累专业技能与研究履历，同时向担任导师的各位 supervisor 致谢，并开放未来奖学金的意向登记渠道。
- 动态GovAI
GovAI DC Fall Fellowship 2025 结项：研究员们做了哪些工作？
GovAI 公布 DC Fall Fellowship 2025 的研究员成果，参与者围绕自主选择的 AI 治理课题开展研究，并接受导师指导。该奖学金旨在帮助参与者加深对 AI 治理的理解、拓展专家网络并积累专业技能与研究履历。有意申请未来 fellowship 的人可通过其 Opportunities 页面登记意向。
- 动态GovAI
GovAI 2024 年度报告发布
GovAI 发布了 2024 年度报告，汇总其团队、项目和活动情况。该组织称其使命是帮助机构做出更好的 AI 治理决策，并指出尽管这项工作自 2016 年就已开展，但当前需求前所未有地高。报告还提出下一年的规划，涵盖壮大团队、加速研究与政策工作以及完善组织基础设施。
- 动态GovAI
GovAI 年度报告 2025：从预测 AI 变革转向塑造其走向
GovAI 成立十周年之际发布《Annual Report 2025》，称随着 AI 开始改变世界，决策者的关键问题已不再是 AI 是否会带来变革，而是如何积极塑造这场变革。该机构表示 2025 年是研究成果最丰产的一年，人才项目也取得重要进展，并预计 2026 年外界对其工作的需求将持续增长。下一步重点包括扩大华盛顿特区的实地存在、调整人才项目以支持研究与政策之外的职业路径，以及启动新的研究工作流来拓宽专业覆盖面。
- 动态GovAI
GovAI 招聘美国政策负责人，推动华盛顿办公室与研究团队扩张
GovAI 面向华盛顿特区招募美国政策负责人（Head of US Policy），负责制定其美国方向的研究战略并领导该办公室的研究与政策参与工作。该岗位将带领目前由六名研究员组成的美国政策团队进行大幅扩充——可能增至数十人规模，同时招募、指导研究人员并与 DC 的政策制定者建立关系。申请条件等信息因原文截断无法确认。 补充说明： - 由于原文实为一则职位招聘启事而非 AI 安全研究成果，其中不含受影响模型/产品版本、攻击名称、ASR、基准分数、CVE 等技术要素，故摘要仅能覆盖角色职责与组织规划。 - 「近 20000 份申请、每年逾 100 名参与者」属于 fellowship 项目描述，与美国政策负责人岗位无直接关联，且易造成误导，因此未纳入摘要。
- 动态GovAI
GovAI 招募 Research Scholar，研究与政策并重
GovAI 面向多元学术与职业背景开放 Research Scholar 岗位申请，无学历门槛，由团队或网络成员每周指导并提供外部导师与研究经理支持。入选者可从事原创研究、向决策者提供建议、召集利益相关方，甚至发起新的 AI 治理组织或活动，部分人可将大部分时间投入应用工作而非传统研究。研究方向涵盖风险管理、威胁建模、AI 经济学、地缘政治、前沿 AI 监管与技术治理等领域，经验丰富的研究人员还可改为申请两年期可续签合同的 Research Fellow，两类角色共用一份申请表。
- 动态GovAI
GovAI 招募 Research Fellow
GovAI 面向具备丰富研究经验的研究者招聘 Research Fellow，获聘者可自主选题并主导研究议程，同时需指导夏季与冬季研究员等初级研究者。该岗位由高级研究员或领导团队成员提供指导，工作内容包括产出学术论文、政策备忘录、报告或博客，以及组织利益相关方活动并为机构研究战略出力。研究方向涵盖风险管理、威胁建模、AI 经济学、地缘政治、前沿 AI 监管与技术治理等领域，申请时不设严格学历门槛，经验较少者可考虑为期一年的访问学者岗。
- 动态GovAI
GovAI 美国 AI 政策项目介绍
GovAI 面向美国政府行政与立法部门职员及智库政策研究者开设美国 AI 政策项目，围绕通用人工智能相关政策议题组织引导式讨论。该项目于 2026 年 9 月初至 12 月初运行，每周投入约五小时，含两小时同步会议和三小时材料准备，可在华盛顿 Dupont Circle 附近办公室线下参加或远程加入。参与者需出席 12 场中的 9 场并撰写一份简短政策备忘录或评论文章方可将结业写入简历。
- 动态GovAI
GovAI 启动 DC Winter Fellowship 2027 冬季研究员招募
GovAI 面向美国政府、智库、产业界及公民社会开放 DC Winter Fellowship 2027 申请，入选研究员将围绕自主选择的 AI 政策议题开展为期数月的独立研究，由 GovAI 团队或网络中的导师一对一指导。该奖学金提供 21000 美元津贴并资助往返华盛顿特区的差旅费用，属线下全职岗位，现任 DC 智库研究者、政府办公室职员等相关从业者可申请按比例计薪的非全日制安排。前两周用于了解 AI 政策版图并与导师确定研究提案，成果形式可为报告、白皮书、期刊论文、评论文章或博客。
- 动态GovAI
GovAI 启动英国冬季奖学金 2027 研究员方向招募
GovAI 面向全球公开招募 2027 年英国冬季奖学金研究员方向的季节性研究员，入选者在伦敦办公室开展为期三个月的独立研究并接受专家导师指导。任期从 1 月 18 日持续到 4 月 9 日，薪资为 £12,000，并提供前往伦敦的差旅支持和工作日午餐及工位，属于全职线下岗位，可为部分人选赞助三个月临时工作签证。申请不限学位和专业背景，重点考察研究成果质量、相关专业知识储备、选题判断力以及与团队协作契合度，高级专业人士若遇参与障碍可通过 [email protected] 联系协商调整安排。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 发布两份新的智能体身份与安全研究报告
继在 RSAC Conference 2026 高调亮相后，全球多方利益相关方倡议组织 Coalition for Secure AI（CoSAI）发布了智能体身份与安全方向的两份新研究论文，旨在帮助各类组织应对不断演变的 AI 安全格局。该联盟称此举是其通过技术指导与产业参与推动实用化 AI 系统安全的整体行动的一部分，完整新闻稿发布于 OASIS 官网。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 发布 AI Shared Responsibility Framework：五层模型厘清 AI 事故责任归属
Coalition for Secure AI（CoSAI）Workstream 2 发布 AI Shared Responsibility Framework（AI SRF），用一个五层模型覆盖完整 AI 堆栈并为每一组件指定唯一的责任方，试图终结 AI 出事后的相互推诿。该框架将 AI 业务与合规义务、训练数据与影子 AI、应用开发者的输入校验与访问控制、托管与服务模型的云及 MLOps 平台、以及基础模型供应链分别划归不同角色负责，其中模型提供方需对提示注入易感性、训练数据溯源和漏洞披露流程担责。Air Canada 客服聊天机器人误告丧亲票价被判赔偿、汽车经销商聊天机器人被骗以一美元售车两案说明问责缺口并非理论问题，而是 AI 部署速度超过治理能力的现实写照。
- 动态BlueDot Impact
BlueDot Impact 解读 Frontier AI Governance 课程适合什么样的申请者
BlueDot Impact 目前会拒绝约 75% 的前沿 AI 治理课程（FAIGC）申请人，其中多数并非资质不足，而是报错了方向——该课程聚焦 AGI、ASI 等最强模型的治理问题以及政府和其他行为者的决策，而非企业合规或 AI 伦理议题。它既不等同于面向 ISO 42001、EU AI Act 的企业 AI 治理培训，也不覆盖算法偏见与社会影响等内容，相关需求应转向 IAPP 的 AIGP 认证等项目。录取看重的是申请人已在具体参与前沿 AI 治理、能指出自身与该课程的差距并有明确的课后行动计划，仅修完其 AGI Strategy 课程并不构成入学保证。
- 动态BlueDot Impact
BlueDot Impact 快速资助计划将总额扩大三倍并提高单笔上限至 1 万美元
BlueDot Impact 过去数月通过 Rapid Grants 向课程参与者与引导者发放了 77 笔共逾 50000 美元的资助，多数用于算力与 API 额度，也涵盖活动组织、人才加速等项目。该计划现将正式扩容，单笔资助上限提高到 10000 美元，决策仍在约五个工作日内完成，超过 5000 美元的申请可能安排一次简短通话。
- 动态BlueDot Impact
BlueDot Impact 的 AGI strategy 课程适合你吗？
BlueDot Impact 面向认真投身 AI 安全的申请者开设 AGI strategy 课程，其价值在于加入一个 8000+ 人且持续增长的社群，并获得职业转型资助、快速资助和一对一咨询等项目支持。该课程帮助学员理解先进 AI 系统的能力、进展驱动因素、具体风险以及由谁掌控开发，从而做出明智贡献决策，超过一半的申请会被拒绝。它并非企业负责任 AI 合规培训，也不覆盖算法偏见与社会影响议题，被动学习者应先修读两小时的自学课程 Future of AI。
- 动态BlueDot Impact
BlueDot Impact 提出值得期待的 AI 安全传播工作方向
BlueDot Impact 过去 6 个月向 AI 安全创作者发放超 $200k 资助，并计划年底前将规模扩大三倍，同时公开征集更多 AI 安全传播方向的构想。其设想的项目形态包括承接付费客户业务并将利润再投入 AI 安全内容的制作工作室、帮创作者处理商务合作与法律事务的经纪机构、面向创作者的驻留空间，以及连接专家与创作者的内容创意数据库。该组织还提到人才输送渠道与创作者资助机制的缺口，例如黑客松及类似 FLI 数字媒体加速器的早期阶段探索性资助。
- 动态BlueDot Impact
BlueDot Impact 举办 Context Week：实验性课程教 AI 安全从业者建立领域情境认知
BlueDot Impact 于 8 月 31 日至 9 月 3 日在加州伯克利 Lighthaven 举办了为期 4 天的实验性项目 Context Week，录取 24 名参与者并聘请 6 名引导员，帮助新人更快进入 AI 安全工作。该项目通过阅读一手报告、辩论和小分组讨论等形式，围绕价值观澄清、不同 AI 安全策略的风险比较以及组织文化展开教学，并以 OpenAI–Hugging Face 事件的复盘作为早期练习材料。 参与者在白板前梳理自己的观点所依赖的关键问题，部分人表示解决了不确定性并做出决定，另一些人则带着更清晰的问题离开。BlueDot 将“context”拆解为态势感知、战略议程熟悉度、独立评估与发展策略的能力、对相关组织的了解以及对社区规范的把握五类学习目标，并表示下一步想弄清其中哪些对不同岗位最重要，以便更有针对性地培养。
- 动态BlueDot Impact
BlueDot Impact 谈其正在建设的人才基础设施
BlueDot Impact 正把自己定位为 AI 安全与生物安全领域的“人才基础设施”，通过在线课程等项目帮助有意愿的人进入全职影响力岗位。该组织称目前全球仅 2-3,000 人全职从事“让 AI 向善”的工作，而慈善基金会虽有数十亿美元却难以有效投放。它指出阻碍人才入场的主要缺口是认知不足、缺乏领域背景知识和信念感，并提到从入门学习到拿到首笔 AI 安全工作薪水可能需数月全职投入。
- 动态GovAI
GovAI 启动英国冬季奖学金 2027 应用方向招募
GovAI 开放 2027 年英国冬季奖学金应用方向的申请，面向不以研究为主要职责的职业路径。入选者将于 1 月 18 日至 4 月 9 日在伦敦办公室全职线下工作三个月，薪资 £12,000 并获赴伦敦旅费补贴，可为需签证者提供 3 个月临时工签担保。项目由 GovAI 或其合作方提出，往届曾涉及英国 AI Security Institute、Far.AI 等的需求，涵盖活动策划、政策参与项目管理、传播策略与内部自动化开发等工作，同时安排专家问答、每周研讨和能力建设工作坊。