Joseph Stiglitz 与 Anton Korinek 谈 AI 与不平等
Joseph Stiglitz 与 Anton Korinek 在 GovAI 活动中讨论 AI 与不平等问题，指出数十年来持续加剧的不平等因新冠疫情后的 K 型复苏进一步恶化，现代技术与日益发展的人工智能被认为在其中扮演重要角色，并引发对未来 AI 进步可能进一步放大不平等的担忧。
政策与监管
全部主题各国 AI 安全立法、监管执法与国际协议。
在这个话题内搜索或按分类筛选新闻与论文
第 341–360 条 · 共 725 条10月2日周五
星期五
GovAI · 收录 · 原文 AI Verify Foundation（新加坡） · 收录 · 原文 关注度88 新加坡 PDPC 顾问指南解读：组织如何构建可信赖的生成式 AI
新加坡个人资料保护委员会（PDPC）发布的顾问指南面向各类组织，说明如何在遵守个人信息保护法规的前提下建设并运用可信赖的生成式 AI。该指南由 AI Verify Foundation 在其网络交流活动中进行解读，帮助组织将相关合规要求落实到自身实践中。
GovAI · 收录 · 原文 关注度1515 GovAI 成立政策团队，聚焦算力治理、企业治理与 AI 监管
GovAI 组建政策团队，由 Markus Anderljung 领导，成员包括负责企业治理的 Jonas Schuett 和负责算力治理的 Lennart Heim，主要面向美国、英国和欧盟政府及 AI 实验室开展长期视角下的 AI 政策制定工作。初期押注三个方向：算力能否作为监测能力、限制访问和高风险系统识别的治理节点，前沿实验室应采纳何种董事会监督与伦理委员会设计等企业治理措施，以及基础模型是否应纳入监管等当下最有助于管理先进 AI 风险的规制问题。该团队还将招聘 Research Scholar，并计划开放 Research Fellow 申请，办公地点可选牛津、湾区或远程。
GovAI · 收录 · 原文 关注度88 GovAI 启动政策人才培养项目 GAPP，首期试点仅限邀请参加
GovAI 推出政策项目 GAPP，面向研究生与专业人士开展为期 8 周的跨学科兼职培养，围绕 AI 标准与监管、AI 硬件治理和国际合作等议题组织自学、工作坊与研讨，并安排专家交流。该项目为本年度首届试点，采取基于合作伙伴推荐的邀请制，学员通常需具备硕士或博士学历或在国家安全、法律、经济、公共政策等相关领域至少两年工作经验。下一届预计于明年四五月开放申请，有意者可先行填写表单等待通知。
GovAI · 收录 · 原文 关注度66 GovAI 2022 年度报告发布
GovAI 发布了 2022 年度报告，汇总其团队、项目和活动情况。该报告可通过点击图片或按钮在线阅读或下载。
GovAI · 收录 · 原文 关注度88 GovAI 网络研讨会：前沿 AI 模型应如何监管？
GovAI 举办了一场围绕白皮书《Frontier AI Regulation: Managing Emerging Risks to Public Safety》的网络研讨会，讨论前沿 AI 模型的监管问题。该白皮书主张 GPT-4、PaLM 2、Claude 等尖端模型可能很快具备严重危害公共安全的能力，因而需要监管，并提出了相应监管制度的构成要素及初步安全标准。Markus Anderljung、Cullen O'Keefe 主讲，Irene Solaiman 与 Jeremy Howard 作为评议人参与了坦率讨论。
GovAI · 收录 · 原文 关注度66 GovAI Book Talk：Jeffrey Ding 谈《技术与大国崛起》
GovAI 于 2024 年 11 月 26 日举办线上讲座，邀请乔治·华盛顿大学助理教授 Jeffrey Ding 讨论其新书《Technology and the Rise of Great Powers》。Ding 提出，技术革命对大国的兴衰并非取决于哪国最先发明重大创新，而是国家能否将技术成功适配并传播至本国经济体系，制度层面的适配才是塑造全球竞争的关键。该研究发现对当下 AI 等技术如何影响中美力量平衡具有直接意义，随后他与 Robert Trager、Ben Garfinkel、Kayla Blomquist 进行了小组讨论与问答。
GovAI · 收录 · 原文 关注度88 GovAI 2025 夏季奖学金结项：研究员们做了哪些 AI 治理课题？
GovAI 公布 2025 年夏季奖学金项目的结项情况，来自不同专业与学术背景的研究员各自完成了自主选题的 AI 治理研究项目，部分人借此进入全新领域，也有人延续既有工作。该项目旨在帮助参与者加深对 AI 治理的理解、对接专家网络并积累专业技能与研究履历，同时向担任导师的各位 supervisor 致谢，并开放未来奖学金的意向登记渠道。
GovAI · 收录 · 原文 关注度66 GovAI DC Fall Fellowship 2025 结项：研究员们做了哪些工作？
GovAI 公布 DC Fall Fellowship 2025 的研究员成果，参与者围绕自主选择的 AI 治理课题开展研究，并接受导师指导。该奖学金旨在帮助参与者加深对 AI 治理的理解、拓展专家网络并积累专业技能与研究履历。有意申请未来 fellowship 的人可通过其 Opportunities 页面登记意向。
GovAI · 收录 · 原文 关注度88 GovAI 2024 年度报告发布
GovAI 发布了 2024 年度报告，汇总其团队、项目和活动情况。该组织称其使命是帮助机构做出更好的 AI 治理决策，并指出尽管这项工作自 2016 年就已开展，但当前需求前所未有地高。报告还提出下一年的规划，涵盖壮大团队、加速研究与政策工作以及完善组织基础设施。
GovAI · 收录 · 原文 关注度99 GovAI 年度报告 2025：从预测 AI 变革转向塑造其走向
GovAI 成立十周年之际发布《Annual Report 2025》，称随着 AI 开始改变世界，决策者的关键问题已不再是 AI 是否会带来变革，而是如何积极塑造这场变革。该机构表示 2025 年是研究成果最丰产的一年，人才项目也取得重要进展，并预计 2026 年外界对其工作的需求将持续增长。下一步重点包括扩大华盛顿特区的实地存在、调整人才项目以支持研究与政策之外的职业路径，以及启动新的研究工作流来拓宽专业覆盖面。
GovAI · 收录 · 原文 关注度1515 GovAI 招聘美国政策负责人，推动华盛顿办公室与研究团队扩张
GovAI 面向华盛顿特区招募美国政策负责人（Head of US Policy），负责制定其美国方向的研究战略并领导该办公室的研究与政策参与工作。该岗位将带领目前由六名研究员组成的美国政策团队进行大幅扩充——可能增至数十人规模，同时招募、指导研究人员并与 DC 的政策制定者建立关系。申请条件等信息因原文截断无法确认。 补充说明： - 由于原文实为一则职位招聘启事而非 AI 安全研究成果，其中不含受影响模型/产品版本、攻击名称、ASR、基准分数、CVE 等技术要素，故摘要仅能覆盖角色职责与组织规划。 - 「近 20000 份申请、每年逾 100 名参与者」属于 fellowship 项目描述，与美国政策负责人岗位无直接关联，且易造成误导，因此未纳入摘要。
GovAI · 收录 · 原文 关注度66 GovAI 招募 Research Scholar，研究与政策并重
GovAI 面向多元学术与职业背景开放 Research Scholar 岗位申请，无学历门槛，由团队或网络成员每周指导并提供外部导师与研究经理支持。入选者可从事原创研究、向决策者提供建议、召集利益相关方，甚至发起新的 AI 治理组织或活动，部分人可将大部分时间投入应用工作而非传统研究。研究方向涵盖风险管理、威胁建模、AI 经济学、地缘政治、前沿 AI 监管与技术治理等领域，经验丰富的研究人员还可改为申请两年期可续签合同的 Research Fellow，两类角色共用一份申请表。
GovAI · 收录 · 原文 关注度77 GovAI 招募 Research Fellow
GovAI 面向具备丰富研究经验的研究者招聘 Research Fellow，获聘者可自主选题并主导研究议程，同时需指导夏季与冬季研究员等初级研究者。该岗位由高级研究员或领导团队成员提供指导，工作内容包括产出学术论文、政策备忘录、报告或博客，以及组织利益相关方活动并为机构研究战略出力。研究方向涵盖风险管理、威胁建模、AI 经济学、地缘政治、前沿 AI 监管与技术治理等领域，申请时不设严格学历门槛，经验较少者可考虑为期一年的访问学者岗。
GovAI · 收录 · 原文 关注度88 GovAI 美国 AI 政策项目介绍
GovAI 面向美国政府行政与立法部门职员及智库政策研究者开设美国 AI 政策项目，围绕通用人工智能相关政策议题组织引导式讨论。该项目于 2026 年 9 月初至 12 月初运行，每周投入约五小时，含两小时同步会议和三小时材料准备，可在华盛顿 Dupont Circle 附近办公室线下参加或远程加入。参与者需出席 12 场中的 9 场并撰写一份简短政策备忘录或评论文章方可将结业写入简历。
GovAI · 收录 · 原文 关注度66 GovAI 启动 DC Winter Fellowship 2027 冬季研究员招募
GovAI 面向美国政府、智库、产业界及公民社会开放 DC Winter Fellowship 2027 申请，入选研究员将围绕自主选择的 AI 政策议题开展为期数月的独立研究，由 GovAI 团队或网络中的导师一对一指导。该奖学金提供 21000 美元津贴并资助往返华盛顿特区的差旅费用，属线下全职岗位，现任 DC 智库研究者、政府办公室职员等相关从业者可申请按比例计薪的非全日制安排。前两周用于了解 AI 政策版图并与导师确定研究提案，成果形式可为报告、白皮书、期刊论文、评论文章或博客。
GovAI · 收录 · 原文 关注度88 GovAI 启动英国冬季奖学金 2027 研究员方向招募
GovAI 面向全球公开招募 2027 年英国冬季奖学金研究员方向的季节性研究员，入选者在伦敦办公室开展为期三个月的独立研究并接受专家导师指导。任期从 1 月 18 日持续到 4 月 9 日，薪资为 £12,000，并提供前往伦敦的差旅支持和工作日午餐及工位，属于全职线下岗位，可为部分人选赞助三个月临时工作签证。申请不限学位和专业背景，重点考察研究成果质量、相关专业知识储备、选题判断力以及与团队协作契合度，高级专业人士若遇参与障碍可通过 [email protected] 联系协商调整安排。
Coalition for Secure AI（CoSAI） · 收录 · 原文 关注度1515 CoSAI 发布两份新的智能体身份与安全研究报告
继在 RSAC Conference 2026 高调亮相后，全球多方利益相关方倡议组织 Coalition for Secure AI（CoSAI）发布了智能体身份与安全方向的两份新研究论文，旨在帮助各类组织应对不断演变的 AI 安全格局。该联盟称此举是其通过技术指导与产业参与推动实用化 AI 系统安全的整体行动的一部分，完整新闻稿发布于 OASIS 官网。
Coalition for Secure AI（CoSAI） · 收录 · 原文 关注度2222 CoSAI 发布 AI Shared Responsibility Framework：五层模型厘清 AI 事故责任归属
Coalition for Secure AI（CoSAI）Workstream 2 发布 AI Shared Responsibility Framework（AI SRF），用一个五层模型覆盖完整 AI 堆栈并为每一组件指定唯一的责任方，试图终结 AI 出事后的相互推诿。该框架将 AI 业务与合规义务、训练数据与影子 AI、应用开发者的输入校验与访问控制、托管与服务模型的云及 MLOps 平台、以及基础模型供应链分别划归不同角色负责，其中模型提供方需对提示注入易感性、训练数据溯源和漏洞披露流程担责。Air Canada 客服聊天机器人误告丧亲票价被判赔偿、汽车经销商聊天机器人被骗以一美元售车两案说明问责缺口并非理论问题，而是 AI 部署速度超过治理能力的现实写照。
BlueDot Impact · 收录 · 原文 关注度66 BlueDot Impact 解读 Frontier AI Governance 课程适合什么样的申请者
BlueDot Impact 目前会拒绝约 75% 的前沿 AI 治理课程（FAIGC）申请人，其中多数并非资质不足，而是报错了方向——该课程聚焦 AGI、ASI 等最强模型的治理问题以及政府和其他行为者的决策，而非企业合规或 AI 伦理议题。它既不等同于面向 ISO 42001、EU AI Act 的企业 AI 治理培训，也不覆盖算法偏见与社会影响等内容，相关需求应转向 IAPP 的 AIGP 认证等项目。录取看重的是申请人已在具体参与前沿 AI 治理、能指出自身与该课程的差距并有明确的课后行动计划，仅修完其 AGI Strategy 课程并不构成入学保证。