AI Verify Foundation：你的组织处于负责任 AI 旅程的哪个阶段？
AI Verify Foundation（新加坡）发布了面向组织的负责任 AI 成熟度自查资源，帮助不同阶段的组织定位自身位置并找到对应的指引文档与技术测试工具。该资源集合涵盖从入门级基础框架到进阶实践的内容，并提供一张流程图用于评估组织当前的负责任 AI 进展，以便选择合适的下一步行动。
政策与监管
今天新收录 92 条（含旧文）今天新收录 92 条（含旧文）
政策与监管
今天新收录 92 条（含旧文）
10月2日周五
星期五
AI Verify Foundation（新加坡） · 收录 · 原文 GovAI · 收录 · 原文 关注度88 Sam Altman 与 Bill Gale 谈先进 AI 的税收解决方案｜GovAI
OpenAI CEO Sam Altman 与布鲁金斯学会的 William G. Gale 在 GovAI 首场研讨会上讨论先进 AI 时代的共享繁荣问题，围绕 Altman 博文《Moore's Law for Everything》展开。Altman 表示若继续扩大大语言模型的规模未必能通向 AGI，他认为通往 AGI 不会是一次性的突变时刻，而是加速推进的过程，社会需要在过程中学习并提前解决系统对齐等问题。
AI Verify Foundation（新加坡） · 收录 · 原文 关注度1515 新加坡与卢旺达联合发布全球首个《小国人工智能行动手册》
新加坡与卢旺达在新加坡亚洲科技峰会上发布了全球首个小国人工智能行动手册，由新加坡 IMDA 与卢旺达 ICT 和创新部合作制定，并咨询了小国数字论坛成员。该手册针对资源资金不足、数据和人才获取困难等小国共性问题提出应对方案，并以持续更新的活文档形式汇集各国经验策略，配套提供 AI Verify 等实用测试工具。
GovAI · 收录 · 原文 关注度77 GovAI 2020 年度报告
GovAI 于 2020 年发布年度报告，团队现有 9 名研究人员及由 21 位附属成员与合作者组成的网络，并迎来访问高级研究员 Joslyn Barnhart 和 Robert Trager。该年度发表两份主要报告、15 篇学术出版物、一份 AI 治理教学大纲以及 5 篇评论或博客文章，涵盖合作型 AI、Windfall Clause、国家安全与反垄断、AI 与中国等议题。工作获 Open Philanthropy、Future of Life Institute 和欧洲研究理事会资助，Governance of AI Fellowship 预计 2021 年春开放申请。
AI Verify Foundation（新加坡） · 收录 · 原文 关注度2828 IMDA 发布面向 LLM 应用的安全与可靠性测试入门套件
IMDA 发布了《Testing LLM-based Applications for Safety and Reliability》入门套件，将业界与政府的新兴最佳实践整合为一套实用且自愿采用的指南，适用于各行业的 GenAI 应用。该套件提供分步指引，帮助企业识别风险、采用稳健的测试方法并评估其应用是否达到基线级安全与可靠性，覆盖五类常见风险：模型幻觉与不准确、决策偏见、不良内容、数据泄露以及易受对抗性提示词攻击。
AI Verify Foundation（新加坡） · 收录 · 原文 关注度66 AI Verify Foundation 举办 AI Assurance Exchange 交流会
AI Verify Foundation 举办了 AI Assurance Exchange 交流会，活动页面同时列出多场相关会议回顾，涵盖可信生成式 AI——PDPC 咨询指南对组织的意义、AI Assurance Exchange @ ISE 与 ATxSummit 2026、Standards in Action，以及 AI 生成代码的未来等议题。
GovAI · 收录 · 原文 关注度88 Joseph Stiglitz 与 Anton Korinek 谈 AI 与不平等
Joseph Stiglitz 与 Anton Korinek 在 GovAI 活动中讨论 AI 与不平等问题，指出数十年来持续加剧的不平等因新冠疫情后的 K 型复苏进一步恶化，现代技术与日益发展的人工智能被认为在其中扮演重要角色，并引发对未来 AI 进步可能进一步放大不平等的担忧。
AI Verify Foundation（新加坡） · 收录 · 原文 关注度88 新加坡 PDPC 顾问指南解读：组织如何构建可信赖的生成式 AI
新加坡个人资料保护委员会（PDPC）发布的顾问指南面向各类组织，说明如何在遵守个人信息保护法规的前提下建设并运用可信赖的生成式 AI。该指南由 AI Verify Foundation 在其网络交流活动中进行解读，帮助组织将相关合规要求落实到自身实践中。
GovAI · 收录 · 原文 关注度1515 GovAI 成立政策团队，聚焦算力治理、企业治理与 AI 监管
GovAI 组建政策团队，由 Markus Anderljung 领导，成员包括负责企业治理的 Jonas Schuett 和负责算力治理的 Lennart Heim，主要面向美国、英国和欧盟政府及 AI 实验室开展长期视角下的 AI 政策制定工作。初期押注三个方向：算力能否作为监测能力、限制访问和高风险系统识别的治理节点，前沿实验室应采纳何种董事会监督与伦理委员会设计等企业治理措施，以及基础模型是否应纳入监管等当下最有助于管理先进 AI 风险的规制问题。该团队还将招聘 Research Scholar，并计划开放 Research Fellow 申请，办公地点可选牛津、湾区或远程。
GovAI · 收录 · 原文 关注度88 GovAI 启动政策人才培养项目 GAPP，首期试点仅限邀请参加
GovAI 推出政策项目 GAPP，面向研究生与专业人士开展为期 8 周的跨学科兼职培养，围绕 AI 标准与监管、AI 硬件治理和国际合作等议题组织自学、工作坊与研讨，并安排专家交流。该项目为本年度首届试点，采取基于合作伙伴推荐的邀请制，学员通常需具备硕士或博士学历或在国家安全、法律、经济、公共政策等相关领域至少两年工作经验。下一届预计于明年四五月开放申请，有意者可先行填写表单等待通知。
GovAI · 收录 · 原文 关注度66 GovAI 2022 年度报告发布
GovAI 发布了 2022 年度报告，汇总其团队、项目和活动情况。该报告可通过点击图片或按钮在线阅读或下载。
GovAI · 收录 · 原文 关注度88 GovAI 网络研讨会：前沿 AI 模型应如何监管？
GovAI 举办了一场围绕白皮书《Frontier AI Regulation: Managing Emerging Risks to Public Safety》的网络研讨会，讨论前沿 AI 模型的监管问题。该白皮书主张 GPT-4、PaLM 2、Claude 等尖端模型可能很快具备严重危害公共安全的能力，因而需要监管，并提出了相应监管制度的构成要素及初步安全标准。Markus Anderljung、Cullen O'Keefe 主讲，Irene Solaiman 与 Jeremy Howard 作为评议人参与了坦率讨论。
GovAI · 收录 · 原文 关注度66 GovAI Book Talk：Jeffrey Ding 谈《技术与大国崛起》
GovAI 于 2024 年 11 月 26 日举办线上讲座，邀请乔治·华盛顿大学助理教授 Jeffrey Ding 讨论其新书《Technology and the Rise of Great Powers》。Ding 提出，技术革命对大国的兴衰并非取决于哪国最先发明重大创新，而是国家能否将技术成功适配并传播至本国经济体系，制度层面的适配才是塑造全球竞争的关键。该研究发现对当下 AI 等技术如何影响中美力量平衡具有直接意义，随后他与 Robert Trager、Ben Garfinkel、Kayla Blomquist 进行了小组讨论与问答。
GovAI · 收录 · 原文 关注度88 GovAI 2025 夏季奖学金结项：研究员们做了哪些 AI 治理课题？
GovAI 公布 2025 年夏季奖学金项目的结项情况，来自不同专业与学术背景的研究员各自完成了自主选题的 AI 治理研究项目，部分人借此进入全新领域，也有人延续既有工作。该项目旨在帮助参与者加深对 AI 治理的理解、对接专家网络并积累专业技能与研究履历，同时向担任导师的各位 supervisor 致谢，并开放未来奖学金的意向登记渠道。
GovAI · 收录 · 原文 关注度66 GovAI DC Fall Fellowship 2025 结项：研究员们做了哪些工作？
GovAI 公布 DC Fall Fellowship 2025 的研究员成果，参与者围绕自主选择的 AI 治理课题开展研究，并接受导师指导。该奖学金旨在帮助参与者加深对 AI 治理的理解、拓展专家网络并积累专业技能与研究履历。有意申请未来 fellowship 的人可通过其 Opportunities 页面登记意向。
GovAI · 收录 · 原文 关注度88 GovAI 2024 年度报告发布
GovAI 发布了 2024 年度报告，汇总其团队、项目和活动情况。该组织称其使命是帮助机构做出更好的 AI 治理决策，并指出尽管这项工作自 2016 年就已开展，但当前需求前所未有地高。报告还提出下一年的规划，涵盖壮大团队、加速研究与政策工作以及完善组织基础设施。
GovAI · 收录 · 原文 关注度99 GovAI 年度报告 2025：从预测 AI 变革转向塑造其走向
GovAI 成立十周年之际发布《Annual Report 2025》，称随着 AI 开始改变世界，决策者的关键问题已不再是 AI 是否会带来变革，而是如何积极塑造这场变革。该机构表示 2025 年是研究成果最丰产的一年，人才项目也取得重要进展，并预计 2026 年外界对其工作的需求将持续增长。下一步重点包括扩大华盛顿特区的实地存在、调整人才项目以支持研究与政策之外的职业路径，以及启动新的研究工作流来拓宽专业覆盖面。
GovAI · 收录 · 原文 关注度1515 GovAI 招聘美国政策负责人，推动华盛顿办公室与研究团队扩张
GovAI 面向华盛顿特区招募美国政策负责人（Head of US Policy），负责制定其美国方向的研究战略并领导该办公室的研究与政策参与工作。该岗位将带领目前由六名研究员组成的美国政策团队进行大幅扩充——可能增至数十人规模，同时招募、指导研究人员并与 DC 的政策制定者建立关系。申请条件等信息因原文截断无法确认。 补充说明： - 由于原文实为一则职位招聘启事而非 AI 安全研究成果，其中不含受影响模型/产品版本、攻击名称、ASR、基准分数、CVE 等技术要素，故摘要仅能覆盖角色职责与组织规划。 - 「近 20000 份申请、每年逾 100 名参与者」属于 fellowship 项目描述，与美国政策负责人岗位无直接关联，且易造成误导，因此未纳入摘要。
GovAI · 收录 · 原文 关注度66 GovAI 招募 Research Scholar，研究与政策并重
GovAI 面向多元学术与职业背景开放 Research Scholar 岗位申请，无学历门槛，由团队或网络成员每周指导并提供外部导师与研究经理支持。入选者可从事原创研究、向决策者提供建议、召集利益相关方，甚至发起新的 AI 治理组织或活动，部分人可将大部分时间投入应用工作而非传统研究。研究方向涵盖风险管理、威胁建模、AI 经济学、地缘政治、前沿 AI 监管与技术治理等领域，经验丰富的研究人员还可改为申请两年期可续签合同的 Research Fellow，两类角色共用一份申请表。
GovAI · 收录 · 原文 关注度77 GovAI 招募 Research Fellow
GovAI 面向具备丰富研究经验的研究者招聘 Research Fellow，获聘者可自主选题并主导研究议程，同时需指导夏季与冬季研究员等初级研究者。该岗位由高级研究员或领导团队成员提供指导，工作内容包括产出学术论文、政策备忘录、报告或博客，以及组织利益相关方活动并为机构研究战略出力。研究方向涵盖风险管理、威胁建模、AI 经济学、地缘政治、前沿 AI 监管与技术治理等领域，申请时不设严格学历门槛，经验较少者可考虑为期一年的访问学者岗。
GovAI · 收录 · 原文 关注度88 GovAI 美国 AI 政策项目介绍
GovAI 面向美国政府行政与立法部门职员及智库政策研究者开设美国 AI 政策项目，围绕通用人工智能相关政策议题组织引导式讨论。该项目于 2026 年 9 月初至 12 月初运行，每周投入约五小时，含两小时同步会议和三小时材料准备，可在华盛顿 Dupont Circle 附近办公室线下参加或远程加入。参与者需出席 12 场中的 9 场并撰写一份简短政策备忘录或评论文章方可将结业写入简历。
GovAI · 收录 · 原文 关注度66 GovAI 启动 DC Winter Fellowship 2027 冬季研究员招募
GovAI 面向美国政府、智库、产业界及公民社会开放 DC Winter Fellowship 2027 申请，入选研究员将围绕自主选择的 AI 政策议题开展为期数月的独立研究，由 GovAI 团队或网络中的导师一对一指导。该奖学金提供 21000 美元津贴并资助往返华盛顿特区的差旅费用，属线下全职岗位，现任 DC 智库研究者、政府办公室职员等相关从业者可申请按比例计薪的非全日制安排。前两周用于了解 AI 政策版图并与导师确定研究提案，成果形式可为报告、白皮书、期刊论文、评论文章或博客。
GovAI · 收录 · 原文 关注度88 GovAI 启动英国冬季奖学金 2027 研究员方向招募
GovAI 面向全球公开招募 2027 年英国冬季奖学金研究员方向的季节性研究员，入选者在伦敦办公室开展为期三个月的独立研究并接受专家导师指导。任期从 1 月 18 日持续到 4 月 9 日，薪资为 £12,000，并提供前往伦敦的差旅支持和工作日午餐及工位，属于全职线下岗位，可为部分人选赞助三个月临时工作签证。申请不限学位和专业背景，重点考察研究成果质量、相关专业知识储备、选题判断力以及与团队协作契合度，高级专业人士若遇参与障碍可通过 [email protected] 联系协商调整安排。
Coalition for Secure AI（CoSAI） · 收录 · 原文 关注度1515 CoSAI 发布两份新的智能体身份与安全研究报告
继在 RSAC Conference 2026 高调亮相后，全球多方利益相关方倡议组织 Coalition for Secure AI（CoSAI）发布了智能体身份与安全方向的两份新研究论文，旨在帮助各类组织应对不断演变的 AI 安全格局。该联盟称此举是其通过技术指导与产业参与推动实用化 AI 系统安全的整体行动的一部分，完整新闻稿发布于 OASIS 官网。
Coalition for Secure AI（CoSAI） · 收录 · 原文 关注度2222 CoSAI 发布 AI Shared Responsibility Framework：五层模型厘清 AI 事故责任归属
Coalition for Secure AI（CoSAI）Workstream 2 发布 AI Shared Responsibility Framework（AI SRF），用一个五层模型覆盖完整 AI 堆栈并为每一组件指定唯一的责任方，试图终结 AI 出事后的相互推诿。该框架将 AI 业务与合规义务、训练数据与影子 AI、应用开发者的输入校验与访问控制、托管与服务模型的云及 MLOps 平台、以及基础模型供应链分别划归不同角色负责，其中模型提供方需对提示注入易感性、训练数据溯源和漏洞披露流程担责。Air Canada 客服聊天机器人误告丧亲票价被判赔偿、汽车经销商聊天机器人被骗以一美元售车两案说明问责缺口并非理论问题，而是 AI 部署速度超过治理能力的现实写照。
BlueDot Impact · 收录 · 原文 关注度66 BlueDot Impact 解读 Frontier AI Governance 课程适合什么样的申请者
BlueDot Impact 目前会拒绝约 75% 的前沿 AI 治理课程（FAIGC）申请人，其中多数并非资质不足，而是报错了方向——该课程聚焦 AGI、ASI 等最强模型的治理问题以及政府和其他行为者的决策，而非企业合规或 AI 伦理议题。它既不等同于面向 ISO 42001、EU AI Act 的企业 AI 治理培训，也不覆盖算法偏见与社会影响等内容，相关需求应转向 IAPP 的 AIGP 认证等项目。录取看重的是申请人已在具体参与前沿 AI 治理、能指出自身与该课程的差距并有明确的课后行动计划，仅修完其 AGI Strategy 课程并不构成入学保证。
BlueDot Impact · 收录 · 原文 关注度88 BlueDot Impact 快速资助计划将总额扩大三倍并提高单笔上限至 1 万美元
BlueDot Impact 过去数月通过 Rapid Grants 向课程参与者与引导者发放了 77 笔共逾 50000 美元的资助，多数用于算力与 API 额度，也涵盖活动组织、人才加速等项目。该计划现将正式扩容，单笔资助上限提高到 10000 美元，决策仍在约五个工作日内完成，超过 5000 美元的申请可能安排一次简短通话。
BlueDot Impact · 收录 · 原文 关注度66 BlueDot Impact 的 AGI strategy 课程适合你吗？
BlueDot Impact 面向认真投身 AI 安全的申请者开设 AGI strategy 课程，其价值在于加入一个 8000+ 人且持续增长的社群，并获得职业转型资助、快速资助和一对一咨询等项目支持。该课程帮助学员理解先进 AI 系统的能力、进展驱动因素、具体风险以及由谁掌控开发，从而做出明智贡献决策，超过一半的申请会被拒绝。它并非企业负责任 AI 合规培训，也不覆盖算法偏见与社会影响议题，被动学习者应先修读两小时的自学课程 Future of AI。
BlueDot Impact · 收录 · 原文 关注度66 BlueDot Impact 提出值得期待的 AI 安全传播工作方向
BlueDot Impact 过去 6 个月向 AI 安全创作者发放超 $200k 资助，并计划年底前将规模扩大三倍，同时公开征集更多 AI 安全传播方向的构想。其设想的项目形态包括承接付费客户业务并将利润再投入 AI 安全内容的制作工作室、帮创作者处理商务合作与法律事务的经纪机构、面向创作者的驻留空间，以及连接专家与创作者的内容创意数据库。该组织还提到人才输送渠道与创作者资助机制的缺口，例如黑客松及类似 FLI 数字媒体加速器的早期阶段探索性资助。
BlueDot Impact · 收录 · 原文 关注度77 BlueDot Impact 举办 Context Week：实验性课程教 AI 安全从业者建立领域情境认知
BlueDot Impact 于 8 月 31 日至 9 月 3 日在加州伯克利 Lighthaven 举办了为期 4 天的实验性项目 Context Week，录取 24 名参与者并聘请 6 名引导员，帮助新人更快进入 AI 安全工作。该项目通过阅读一手报告、辩论和小分组讨论等形式，围绕价值观澄清、不同 AI 安全策略的风险比较以及组织文化展开教学，并以 OpenAI–Hugging Face 事件的复盘作为早期练习材料。 参与者在白板前梳理自己的观点所依赖的关键问题，部分人表示解决了不确定性并做出决定，另一些人则带着更清晰的问题离开。BlueDot 将“context”拆解为态势感知、战略议程熟悉度、独立评估与发展策略的能力、对相关组织的了解以及对社区规范的把握五类学习目标，并表示下一步想弄清其中哪些对不同岗位最重要，以便更有针对性地培养。
BlueDot Impact · 收录 · 原文 关注度1515 BlueDot Impact 谈其正在建设的人才基础设施
BlueDot Impact 正把自己定位为 AI 安全与生物安全领域的“人才基础设施”，通过在线课程等项目帮助有意愿的人进入全职影响力岗位。该组织称目前全球仅 2-3,000 人全职从事“让 AI 向善”的工作，而慈善基金会虽有数十亿美元却难以有效投放。它指出阻碍人才入场的主要缺口是认知不足、缺乏领域背景知识和信念感，并提到从入门学习到拿到首笔 AI 安全工作薪水可能需数月全职投入。
GovAI · 收录 · 原文 关注度99 GovAI 启动英国冬季奖学金 2027 应用方向招募
GovAI 开放 2027 年英国冬季奖学金应用方向的申请，面向不以研究为主要职责的职业路径。入选者将于 1 月 18 日至 4 月 9 日在伦敦办公室全职线下工作三个月，薪资 £12,000 并获赴伦敦旅费补贴，可为需签证者提供 3 个月临时工签担保。项目由 GovAI 或其合作方提出，往届曾涉及英国 AI Security Institute、Far.AI 等的需求，涵盖活动策划、政策参与项目管理、传播策略与内部自动化开发等工作，同时安排专家问答、每周研讨和能力建设工作坊。
Cambridge CSER · 收录 · 原文 关注度66 Max Tegmark 将在剑桥 CSER 公开讲座谈 AI 更好的路径
MIT 物理学家兼 AI 研究者 Max Tegmark 将于 9 月 16 日出席剑桥大学存在风险研究中心（CSER）公开讲座，由 S. M. Amadae 教授主持，探讨如何为人工智能建设更好的未来。该讲座同时作为 CSER 2026 灾难性风险剑桥会议（9 月 17–18 日举行）的开幕活动，免费参加但需提前注册，且注册与会议注册相互独立。
GovAI · 收录 · 原文 关注度1111 GovAI 招聘华盛顿特区幕僚长，推动美国 AI 政策研究与团队扩张
GovAI 正为其去年设立的华盛顿特区办公室招聘 DC Chief of Staff，负责设计并落地该机构的 DC 战略。该岗位将作为执行总监及未来美国政策主管的战略伙伴，承接其部分工作与对外关系，同时统筹 DC 办公室搭建、端到端的招聘流程以及当地利益相关方维护。目前 GovAI 的美国政策研究团队仅有六名研究员，计划大幅扩充——可能达到数十人规模。
GovAI · 收录 · 原文 关注度77 GovAI 招募驻场创业者（Entrepreneur-in-Residence）
GovAI 启动 Entrepreneur-in-Residence 计划，面向有意创办组织或在现有机构内推进项目的申请者提供约 $150k 种子资金、导师对接及最长 12 个月的带薪职位，伦敦年薪通常为 £70,000–£113,500，华盛顿特区为 $80,000–$180,000，GovAI 不占股权。该计划列举了三类可能方向：快速产出经专家背书的“原型标准”、类似 Bellingcat 的 AI 情报组织，以及针对前沿 AI 供应商保密性与完整性的第三方保证机构。
GovAI · 收录 · 原文 关注度66 GovAI 招聘人才系统助理
GovAI 正在招募一名人才系统助理，负责推动其员工岗位与研究项目的招聘流程准确按时运行。该职位需日常维护 Airtable 中的候选人记录并推进阶段流转，担任候选人的首要联系人，同时协助改进招聘模板与清单。任职者将向人才系统经理汇报，入职六个月内预计支持两到四轮招聘。
GovAI · 收录 · 原文 关注度77 GovAI 招聘 Hiring Specialist
GovAI 正在招募一名 Hiring Specialist，负责从人才寻源到发放录用通知全流程的项目管理，并日常运营其申请人追踪系统（ATS）。该岗位需具备搭建和维护招聘或数据库系统的实操经验，Airtable 优先，同时熟悉 AI 安全与治理的人才生态。工作地点为伦敦和华盛顿特区办公室，团队倾向线下办公，但也接受例外情况。
Mistral AI · 收录 · 原文 关注度88 Mistral 与 HUMAIN 达成战略合作推进沙特主权 AI
Mistral 与 HUMAIN 宣布建立覆盖 AI 基础设施、先进模型开发和解决方案落地的战略合作，重点面向网络安全与语音场景，并计划开发阿拉伯语表现强劲的前沿模型，投资规模达数亿欧元级别。双方还将探索使用 HUMAIN 数据中心承载本地算力需求，并在沙特针对金融、制造、电信等行业制定联合市场策略，以满足当地对主权 AI 的需求。
Mistral AI · 收录 · 原文 关注度77 Cloudera 与 Mistral 合作将专用主权智能引入企业数据
Mistral 与 Cloudera 达成合作，将其模型集成进 Cloudera 混合数据平台，使企业可在私有云、公有云、本地及完全气隙环境中运行推理并保持完整控制权。双方还允许企业在受控环境内基于自有专有数据训练定制模型，数据和由此产生的智能均归客户所有。该合作面向金融、制造、电信等受监管行业的自主可控需求，覆盖 Cloudera 平台上 30 EB 客户管理数据的场景。
Help Net Security AI · 收录 · 原文 关注度1515 PwC 调查：僵尸网络、对抗攻击与数据投毒居企业 AI 威胁清单前列
PwC 于 2026 年 5 月至 7 月间访问 71 个国家共 3934 位商业与技术负责人，结果显示企业对自身最缺乏应对准备的正是针对 AI 系统的攻击，半数受访安全和科技高管将其列入前五大准备缺口之首。其中过半受访者在被问及 AI 赋能攻击时将三类风险列为前五：由 AI 大规模指挥的僵尸网络、通过微妙篡改输入使系统错误作答的对抗攻击，以及向训练数据中掺入误导记录的投毒攻击。PwC 还指出前沿 AI 模型如今能以极少人工介入发现并利用未知软件缺陷，同时仅 39% 的企业具备完整的网络安全事故连续性预案，不到四分之一允许 AI 智能体未经人类批准自主处置攻击。