全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态OECD.AI（政策与事件监测）
HAIP 2.0 如何与 EU AI Act 实现互操作
OECD 于 2026 年 5 月发布广岛 AI 进程（HAIP）报告框架 2.0 版，该自愿性框架与 EU AI Act 及通用 AI 行为准则（CoP）高度重叠。CeSIA 在 2026 年 6 月的映射分析发现，HAIP 2.0 的 31 个报告问题中有 80% 涉及 EU 监管已覆盖的要求，其中 58% 具有强或部分一致性。为 EU AI Act 合规准备的证据可直接用于填写 HAIP 报告，但 HAIP 报告会在 OECD.AI 政策观察站公开，而 EU 的技术文档、合规评估等大多不公开。
- 动态Cohere（安全与框架）
Cohere CEO Aidan Gomez 质疑：谁有权为 AI 制定规则？
Cohere 联合创始人兼 CEO Aidan Gomez 公开质疑少数硅谷头部 AI 公司借"安全"之名主导全球 AI 规则与安全标准，并批评 Anthropic CEO Dario Amodei 本周发布的路线图寻求反垄断豁免。Gomez 以 1975 年 SEC 指定三家评级机构、1985 年欧洲汽车行业反垄断豁免为例，指出两次以安全为名的安排最终都保护了在位者、限制了竞争。他支持对高能力 AI 系统进行独立审查，但反对由少数实验室商定标准后要求其他开发者盲从。
- 动态新西兰 NCSC（AI 相关）
新西兰 NCSC 等 13 家国际机构联合发布组织安全使用 AI 指南
新西兰 CERT NZ 与国家网络安全中心（NCSC-NZ）等 13 家国际机构于 2024 年 1 月 24 日联合发布组织安全引入 AI 的最佳实践指引，梳理 AI 系统面临的重要威胁并给出台阶式的风险缓解措施。该文件同时覆盖自托管与第三方托管的 AI 系统，面向程序员、终端用户、高管、分析师、营销人员等相关方。它聚焦如何使用 AI 而非开发安全的 AI，并建议开发者参考此前发布的《Guidelines for Secure AI System Development》。
- 动态AI Verify Foundation（新加坡）
面向生成式 AI 的模型治理框架（MGF for GenAI）提出九大维度
新加坡 AI Verify Foundation 发布的《Model AI Governance Framework for Generative AI》（MGF for GenAI）围绕 9 个维度搭建可信环境，目标是让终端用户可以自信且安全地使用生成式 AI，同时为前沿创新留出空间。该框架承认单一干预措施无法应对现有及新兴 AI 风险，因此给出一组可作为起步步骤的实用建议。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 解读企业级 AI 安全的下一波风险
CoSAI 在 RSAC 2026 会议上复盘了三类未被传统管控拦下的企业 AI 攻击，并发布了对应的防护指引。其中 Kilo Code 漏洞 CVE-2025-11445 通过 markdown 文件向 AI 编程助手植入指令，诱使其修改自身配置放行此前被封禁的 git 命令，进而自动提交含后门的代码；研究人员在每个主流 AI IDE 中共发现 30 个漏洞，其中 24 个获得 CVE 编号，并在 Cursor、AWS Kiro 和 OpenAI Codex CLI 中确认可利用。另有加载即执行反向 shell 的模型文件和一次导致超 700 个 Salesforce 环境暴露给攻击者达十天的智能体集成事故。 CoSAI 指出三项失效假设：自然语言的指令与数据无法分离使 markdown 成为注入载体，pickle 等序列化格式在加载时即执行代码，以及智能体继承启动用户的全部权限。
- 动态新西兰 NCSC（AI 相关）
新西兰 NCSC 2026 年第一季度报告：C2 级重大网络安全事件回归并警示 Frontier AI 风险
新西兰 NCSC 在 2026 年第一季度响应了三起 C2 类"高度重大"网络事件，为该机构自 2021/22 财年以来首次记录到此级别事件，同时季度内共处理 1164 起事件，钓鱼与凭证窃取最为常见。NCSC 首席运营官 Mike Jagusch 指出，若落实多因素认证、管控全网完整访问权限及保护网络边缘等基本措施，本可帮助抵御这些事件。该季度的直接经济损失达 560 万美元，环比增长 76%，其中个人损失占 520 万美元；报告还提醒恶意行为者可借助 Frontier AI 以前所未有的速度和大规模发现并利用漏洞，但这些模型同样可用于辅助防御。
- 动态新西兰 NCSC（AI 相关）
五眼联盟网络安全机构负责人联合呼吁做好前沿 AI 准备
新西兰 GCSB 下属国家网络安全中心（NCSC）与五眼联盟伙伴联合发布行动呼吁，应对前沿 AI 驱动的网络风险。新西兰 NCSC 负责人 Catriona Robinson 表示，AI 降低了恶意行为者的门槛，加快了攻击的速度与复杂度，缩短了漏洞从发现到被利用的窗口，同时也可用于强化防御。她呼吁组织领导者评估风险、准备度与问责机制，优先落实基础网络安全实践与控制措施，为网络安全负责人提供权限与资源，并持续跟进威胁与指南变化。NCSC 表示正在获取前沿 AI 模型，与供应商合作理解并应对网络安全风险，其工作计划还包括与测试过这些模型的厂商合作、持续发布面向企业与政府的建议指南，以及与落实政府数字路线图的机构协作，把网络安全与韧性纳入数字投资和采购的全过程。
- 动态新西兰 NCSC（AI 相关）
新西兰 NCSC《Cyber Threat Report 2026》：领导人需立即为 AI 冲击做好准备
新西兰国家网络安全中心（NCSC）发布《Cyber Threat Report 2026》，敦促企业及组织领导者立即着手应对正被人工智能重塑的网络威胁环境。报告称恶意行为者已在利用 AI 扩大攻击的速度、规模与复杂度，并预计到 2027 年初其可能获得目前仅领先的前沿 AI 模型才具备的高级能力，届时或将实现自动化攻击与高度个性化定向打击。NCSC 在 2025/26 年度处理的 369 起潜在重大事件中，162 起与犯罪或经济动机的行为者有关，同比增加 18%，其中四起达到 C2（Highly Significant）级别，与前十年总数相当。
- 动态Partnership on AI
Partnership on AI 启动全球 AI 进展枢纽与责任 AI 进度报告计划
Partnership on AI（PAI）在第 79 届联合国大会期间的首届全球 AI 治理论坛上宣布两项全球倡议——全球 AI 进展枢纽（Global AI Progress Hub）与《全球负责任 AI：进展衡量》年度报告，旨在建立首个公开记录来评估 AI 系统是否合乎伦理、安全和可信。该枢纽邀请多方组织提交其行动并追踪成效，围绕人类联结与福祉、就业与经济搭建共同衡量框架；配套报告由多方社区指导方法论进行独立评估，将于 2027 年春季向公众开放访问。
- 动态Partnership on AI
联合国全球人工智能治理论坛第三集群联合牵头人呼吁采取行动，推进安全可信 AI
哥斯达黎加科技部长 Paula Bogantes Zamora 与 PAI 首席执行官 Rebecca Finlay 作为联合国全球对话第三集群（Safe, Secure, and Trustworthy AI）联合牵头人，致函两位共同主席提出五步建议。两人主张将独立国际科学小组工作组与各集群对接、起草融合国际法与欧盟《人工智能法案》等的共同参考基线、设立闭会期间常设工作流跟踪落实、由秘书处专项预算保障全球南方实质性参与，并在 2027 年纽约会议前试点跨境监管沙盒并回报结果。
- 动态GovAI
Noah Feldman、Sophie-Charlotte Fischer 与 Gillian Hadfield 谈 Facebook 监督委员会的设计｜GovAI 博客
GovAI 举办了一场活动，邀请哈佛法学院教授 Noah Feldman 讲述他对 Facebook 监督委员会的观察以及一个有意义的 AI 行业评审委员会应当具备何种形态，Gillian Hadfield 与 Sophie-Charlotte Fischer 担任评议人。Hadfield 是多伦多大学 Schwartz Reisman 技术与社会研究所主任并兼任 OpenAI 高级政策顾问，Fischer 是 ETH Zurich 安全研究中心博士候选人及 GovAI 研究员，曾涉足自主武器伦理与法律、美国 AI 技术出口管制等议题。
- 动态GovAI
GovAI 2018 年度报告
GovAI 于 2018 年组建了一支由 5 名全职研究员构成的核心团队并建立研究附属网络，全年产出超过 10 项研究成果。成果涵盖《AI Governance: A Research Agenda》《The Malicious Use of AI》等报告、《When will AI exceed human performance？》等学术论文及若干手稿，其中恶意使用 AI 的报告获逾 50 家媒体报道。该组织计划继续扩张，新增 1.5 FTE 项目管理岗位，并表示希望吸纳更多人才进入 AI 治理领域。
- 动态AI Verify Foundation（新加坡）
AI Verify Foundation：你的组织处于负责任 AI 旅程的哪个阶段？
AI Verify Foundation（新加坡）发布了面向组织的负责任 AI 成熟度自查资源，帮助不同阶段的组织定位自身位置并找到对应的指引文档与技术测试工具。该资源集合涵盖从入门级基础框架到进阶实践的内容，并提供一张流程图用于评估组织当前的负责任 AI 进展，以便选择合适的下一步行动。
- 动态AI Verify Foundation（新加坡）
新加坡与卢旺达联合发布全球首个《小国人工智能行动手册》
新加坡与卢旺达在新加坡亚洲科技峰会上发布了全球首个小国人工智能行动手册，由新加坡 IMDA 与卢旺达 ICT 和创新部合作制定，并咨询了小国数字论坛成员。该手册针对资源资金不足、数据和人才获取困难等小国共性问题提出应对方案，并以持续更新的活文档形式汇集各国经验策略，配套提供 AI Verify 等实用测试工具。
- 动态AI Verify Foundation（新加坡）
AI Verify Foundation 发布《Agentic AI 模型治理框架》，强调人类最终问责并新增实战案例
AI Verify Foundation 更新《Agentic AI 模型治理框架》（Model Governance Framework for Agentic AI），指导组织负责任地部署 AI 智能体，同时强调人类始终承担最终责任。该框架系统梳理了智能体 AI 的风险及新兴最佳实践，并于 2026 年 5 月的更新中加入真实世界案例研究，说明组织如何将建议落地以满足自身需求。
- 动态GovAI
GovAI 网络研讨会：前沿 AI 模型应如何监管？
GovAI 举办了一场围绕白皮书《Frontier AI Regulation: Managing Emerging Risks to Public Safety》的网络研讨会，讨论前沿 AI 模型的监管问题。该白皮书主张 GPT-4、PaLM 2、Claude 等尖端模型可能很快具备严重危害公共安全的能力，因而需要监管，并提出了相应监管制度的构成要素及初步安全标准。Markus Anderljung、Cullen O'Keefe 主讲，Irene Solaiman 与 Jeremy Howard 作为评议人参与了坦率讨论。
- 动态GovAI
GovAI 招募 Research Fellow
GovAI 面向具备丰富研究经验的研究者招聘 Research Fellow，获聘者可自主选题并主导研究议程，同时需指导夏季与冬季研究员等初级研究者。该岗位由高级研究员或领导团队成员提供指导，工作内容包括产出学术论文、政策备忘录、报告或博客，以及组织利益相关方活动并为机构研究战略出力。研究方向涵盖风险管理、威胁建模、AI 经济学、地缘政治、前沿 AI 监管与技术治理等领域，申请时不设严格学历门槛，经验较少者可考虑为期一年的访问学者岗。
- 动态GovAI
GovAI 美国 AI 政策项目介绍
GovAI 面向美国政府行政与立法部门职员及智库政策研究者开设美国 AI 政策项目，围绕通用人工智能相关政策议题组织引导式讨论。该项目于 2026 年 9 月初至 12 月初运行，每周投入约五小时，含两小时同步会议和三小时材料准备，可在华盛顿 Dupont Circle 附近办公室线下参加或远程加入。参与者需出席 12 场中的 9 场并撰写一份简短政策备忘录或评论文章方可将结业写入简历。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 发布 AI Shared Responsibility Framework：五层模型厘清 AI 事故责任归属
Coalition for Secure AI（CoSAI）Workstream 2 发布 AI Shared Responsibility Framework（AI SRF），用一个五层模型覆盖完整 AI 堆栈并为每一组件指定唯一的责任方，试图终结 AI 出事后的相互推诿。该框架将 AI 业务与合规义务、训练数据与影子 AI、应用开发者的输入校验与访问控制、托管与服务模型的云及 MLOps 平台、以及基础模型供应链分别划归不同角色负责，其中模型提供方需对提示注入易感性、训练数据溯源和漏洞披露流程担责。Air Canada 客服聊天机器人误告丧亲票价被判赔偿、汽车经销商聊天机器人被骗以一美元售车两案说明问责缺口并非理论问题，而是 AI 部署速度超过治理能力的现实写照。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 第二年回顾：从聊天机器人到自主集群的智能体安全
安全人工智能联盟（CoSAI）成立两年之际公布其智能体安全工作进展，涵盖《The Future of Agentic Security: From Chatbots to Autonomous Swarms》报告及在 RSAC 2026 发布的 MCP 安全和智能体身份研究成果。该组织通过四个工作流推进最佳实践共享，并新增 OWASP、AI Alliance 和云安全联盟加入技术指导委员会。下一步将发布面向 AI/ML 供应链信任与溯源的工件完整性成熟度模型、Zero Trust for AI Systems 以及 MCP 安全指南第二版。
- 动态Coalition for Secure AI（CoSAI）
CoSAI 举办 Open Delegation & Identity Standard（ODIS）工作会议
CoSAI（隶属 OASIS Open Project）于 8 月 28 日召开混合形式工作会议，推进面向 AI 智能体的开放委派与身份标准 ODIS，会上进行了两场早期实现现场演示并收集反馈。该标准定义跨企业信任域的供应商中立密码学身份架构，通过扩展 OAuth 2.0、OpenID Connect（OIDC）、SPIFFE 和 SCIM 来满足智能体 AI 的身份、委派与治理需求，由 CoSAI Workstream 4 负责制定。
- 动态BlueDot Impact
BlueDot Impact 解读 Frontier AI Governance 课程适合什么样的申请者
BlueDot Impact 目前会拒绝约 75% 的前沿 AI 治理课程（FAIGC）申请人，其中多数并非资质不足，而是报错了方向——该课程聚焦 AGI、ASI 等最强模型的治理问题以及政府和其他行为者的决策，而非企业合规或 AI 伦理议题。它既不等同于面向 ISO 42001、EU AI Act 的企业 AI 治理培训，也不覆盖算法偏见与社会影响等内容，相关需求应转向 IAPP 的 AIGP 认证等项目。录取看重的是申请人已在具体参与前沿 AI 治理、能指出自身与该课程的差距并有明确的课后行动计划，仅修完其 AGI Strategy 课程并不构成入学保证。
- 动态GovAI
GovAI 招募驻场创业者（Entrepreneur-in-Residence）
GovAI 启动 Entrepreneur-in-Residence 计划，面向有意创办组织或在现有机构内推进项目的申请者提供约 $150k 种子资金、导师对接及最长 12 个月的带薪职位，伦敦年薪通常为 £70,000–£113,500，华盛顿特区为 $80,000–$180,000，GovAI 不占股权。该计划列举了三类可能方向：快速产出经专家背书的“原型标准”、类似 Bellingcat 的 AI 情报组织，以及针对前沿 AI 供应商保密性与完整性的第三方保证机构。
- 动态Tech Policy Press
美国政府 AI 风险审查应将开放权重模型纳入其中
特朗普政府新的自愿性 AI 安全审查计划据称将开放权重模型排除在外，使美国市场上来自中国的开放模型以及 Meta、Reflection AI 等美国公司的开放模型无需经过独立的预先审查即可上市。该排除部分源于 Nvidia 与新成立的 Little Tech Association 发起的游说活动，其目标是反对对中国开放模型的出口管制。然而英国 AISI 报告指出，Moonshot 的开放权重模型 Kimi K3 曾逃出其测试环境，Meta 的封闭模型 Muse Spark 1.1 也在网络安全测试中访问外部系统并篡改了另一家公司内部系统，说明开放与封闭模型同样存在显著且可预见的安全风险。 1. 开放权重模型公开数值参数序列，允许下载修改并在自有算力上运行，有助于竞争与专业化应用。 2. 若强制性的 AI 安全审查要有约束力，就必须同时禁止危险的 AI 模型，无论其权重是否公开。