全部动态
从来源，看到研究的联系
点击节点查看内容
本页材料
24 条- 动态Help Net Security AI
中国关联组织 TA419 冒充白宫与 Anthropic 人士钓鱼 AI 政策专家
Proofpoint 发现，被追踪为 TA419 的中国关联间谍组织在 2026 年 7 月发起多轮凭证钓鱼活动，冒充白宫科技政策办公室前领导层成员等身份，目标为美国 AI 政策专家。2026 年 7 月 8 日起，该组织先后冒充白宫科技政策办公室前首席副主任 Lynne Edwards Parker 和经济学家 Heidi Crebo-Rediker；2026 年 2 月还曾冒充 Anthropic 一名高级员工，向美国智库的 AI 政策分析师发送主题为“Request for Feedback on Military Integration of Claude”的邮件。Proofpoint 认为该活动可能服务于中国情报机构更广泛的目标，即了解美国 AI 政策与监管动态。
- 动态OECD.AI（政策与事件监测）
金融业能否在快速推进的同时监管好 AI 创新？——OECD 报告与 FCA AI Live Testing 的监管实践
OECD 报告《Supervision of Artificial Intelligence in Finance》分析了金融业 AI 的监管路径，主张与其新增专门规则，不如通过解释性指引明确现有风险管理与治理框架如何适用于先进 AI 模型。报告指出，agentic AI 系统的自主性、交易规模与速度上升、模型不透明等问题给人工监督带来挑战，金融机构在模型验证、可解释性、公平性阈值和“human in the loop”落地等方面普遍遇到困难。英国 FCA 的 AI Live Testing 项目让金融机构在受控的真实市场环境中与监管和技术团队直接合作，分发现与实盘测试两个阶段，重点观察 AI 模型与环境的交互，而非模拟实验室环境。
- 动态OECD.AI（政策与事件监测）
OECD 工作论文：25 家机构智能体 AI 部署与治理实践访谈
OECD 对 11 个国家 25 家机构（含前沿开发者、企业部署方、公共部门和学术机构）的从业者访谈显示，智能体 AI 正从试点走向组织工作流，但没有任何一家机构以不受限制的自主性部署。部署集中在任务结构化、结果可验证、错误成本可控或可逆的场景，多采用检查点机制在高影响或不可逆操作前引入人工审核。治理上多数机构沿用 OECD AI Principles、NIST AI Risk Management Framework、ISO/IEC 42001 及 EU AI Act 等现有框架，并叠加沙箱测试、最小权限访问、持续监控和已批准智能体登记等分层措施，但系统级评估、可追溯性与问责、网络安全仍是未解难题。
- 动态OECD.AI（政策与事件监测）
OECD 成立政府智能体 AI 工作组：机器代政府行事时如何治理
OECD 在高级数字政府官员工作组（E-Leaders）下新设“政府智能体 AI 工作组”，研究机器自主代政府行事时的治理方式。OECD 将智能体 AI 定义为多个协同 AI 智能体自主拆解任务、协作并长期追求复杂目标，可在极少人工监督下运行。爱沙尼亚 Bürokratt、乌克兰 Diia.AI 等公民服务智能体系统已在试点，相关能力也正被嵌入公务员日常使用的 LLM 助手。OECD 的 AI Incidents and Hazards Monitor（AIM）显示，涉及智能体 AI 的事件发生率正在上升。
- 动态OECD.AI（政策与事件监测）
HAIP 2.0 如何与 EU AI Act 实现互操作
OECD 于 2026 年 5 月发布广岛 AI 进程（HAIP）报告框架 2.0 版，该自愿性框架与 EU AI Act 及通用 AI 行为准则（CoP）高度重叠。CeSIA 在 2026 年 6 月的映射分析发现，HAIP 2.0 的 31 个报告问题中有 80% 涉及 EU 监管已覆盖的要求，其中 58% 具有强或部分一致性。为 EU AI Act 合规准备的证据可直接用于填写 HAIP 报告，但 HAIP 报告会在 OECD.AI 政策观察站公开，而 EU 的技术文档、合规评估等大多不公开。
- 动态Cohere（安全与框架）
Cohere CEO Aidan Gomez 质疑：谁有权为 AI 制定规则？
Cohere 联合创始人兼 CEO Aidan Gomez 公开质疑少数硅谷头部 AI 公司借"安全"之名主导全球 AI 规则与安全标准，并批评 Anthropic CEO Dario Amodei 本周发布的路线图寻求反垄断豁免。Gomez 以 1975 年 SEC 指定三家评级机构、1985 年欧洲汽车行业反垄断豁免为例，指出两次以安全为名的安排最终都保护了在位者、限制了竞争。他支持对高能力 AI 系统进行独立审查，但反对由少数实验室商定标准后要求其他开发者盲从。
- 动态德国 BSI（KI 相关）
德国 BSI 发布 XAI 网络安全白皮书，建立可解释 AI 安全应用评估基础
德国 BSI 于 9 月 10 日发布白皮书《可解释人工智能（XAI）：网络安全的机遇与风险》，为在网络安全领域使用 XAI 建立评估基础。白皮书结合 Network Intrusion Detection System 和逆向工程等用例，分析 XAI 在提升 AI 安全系统可信度、接受度及 IT 任务效率方面的作用，同时指出其技术局限，并警告解释信息可能泄露底层 AI 模型细节、带来新的攻击面。
- 动态美国 NSA AI 安全中心（AISC）
NSA、FBI 与 CISA 联合警告中国 AI 公司蒸馏美国前沿模型
NSA、FBI 与 CISA 联合发布网络安全公告，警告中国 AI 公司正以工业级规模蒸馏美国前沿模型，系统性提取其受限的专有功能与能力用于训练自家模型。公告承认蒸馏本身是正当且有用的 AI 研究技术，但指出针对美国模型的这类蒸馏让中国模型无需承担算力、电力与基础研究等高额研发成本即可持续缩小技术差距，并可能增强其针对美国及盟友的军事与网络攻击能力。公告介绍了 AI 知识蒸馏的背景、如何检测模型是否被蒸馏、相关组织使用的复杂战术技术与程序（TTPs），以及缓解最佳实践。中国公司刻意将操作分散到全球 AI 生态的多个模型提供商、云平台和基础设施上，以规避单点检测。公告建议云提供商、API 聚合商与基础设施提供商等生态各方协作防御，并呼吁网络安全分析师和网络防御者据此检测相关活动并落实缓解措施。
- 动态日本 AI 安全研究所（J-AISI）
日本 AI 安全研究所（J-AISI）将举办 2026 年度「AI 安全评估环境 研讨任务组」总会
日本 AI 安全研究所（J-AISI）将于 2026 年 10 月 7 日在线举办 2026 年度「AI 安全评估环境 研讨任务组」总会，免费公开，非任务组成员也可报名，截止 10 月 5 日 16:00。该任务组由多家 AI 相关企业参与，讨论其以开源软件形式公开的「AI 安全评估环境」评估工具的定位与功能强化方向。会议内容包括 AISI 活动介绍、AI 安全评估观点、AI×安全最新动向、评估环境与任务组活动介绍，以及 AI 安全评估专题讨论。
- 动态韩国 AI 安全研究所
韩国 AISI 举办第4次 AI 安全政策研究研讨会，聚焦 Agentic AI 与 AI 安全研究
韩国 AI 安全研究所（Korea AISI）于 2026 年 8 月 12 日在线举办第4次 AI 安全政策研究研讨会，主题为「Agentic AI 与 AI 安全研究」。会上 CLTR 的 Tommy Shaffer Shane 介绍了 Loss of Control Observatory 基于 OSINT 的 Scheming 监测方法，指出实验评估在情境感知、生态效度和发生频率测量上的局限；新加坡 AI Safety Hub 与牛津的 Amin Oueslati、Sam Boger 则提出 AgentID 框架，用于 AI 智能体的识别、认证、授权与紧急关停。
- 动态新西兰 NCSC（AI 相关）
新西兰 NCSC 等 13 家国际机构联合发布组织安全使用 AI 指南
新西兰 CERT NZ 与国家网络安全中心（NCSC-NZ）等 13 家国际机构于 2024 年 1 月 24 日联合发布组织安全引入 AI 的最佳实践指引，梳理 AI 系统面临的重要威胁并给出台阶式的风险缓解措施。该文件同时覆盖自托管与第三方托管的 AI 系统，面向程序员、终端用户、高管、分析师、营销人员等相关方。它聚焦如何使用 AI 而非开发安全的 AI，并建议开发者参考此前发布的《Guidelines for Secure AI System Development》。
- 动态新西兰 NCSC（AI 相关）
新西兰 NCSC 调查：多数新西兰人对网络安全态度积极，但对 AI 工具持谨慎态度
新西兰 NCSC 发布的年度国际调查《Oh Behave!》覆盖新西兰、美国、加拿大、德国、英国、澳大利亚和印度共逾6500人，结果显示新西兰人在多个网络安全行为指标上领先受访国家：35%始终备份重要数据、69%"总是"或"经常"检查钓鱼迹象均为最高，仅35%觉得网络安全令人生畏则为最低。同时新西兰人对 AI 工具最为警惕——仅有48%有信心辨别 AI 生成内容、28%愿意向 AI 工具分享敏感工作信息，均为七国中最低，且仅47%信任企业负责任地实施 AI。
- 动态AI Verify Foundation（新加坡）
面向生成式 AI 的模型治理框架（MGF for GenAI）提出九大维度
新加坡 AI Verify Foundation 发布的《Model AI Governance Framework for Generative AI》（MGF for GenAI）围绕 9 个维度搭建可信环境，目标是让终端用户可以自信且安全地使用生成式 AI，同时为前沿创新留出空间。该框架承认单一干预措施无法应对现有及新兴 AI 风险，因此给出一组可作为起步步骤的实用建议。
- 动态Partnership on AI
当企业就 AI 倾听员工意见时各方受益：IBM 与 EXL 两个雇主案例研究
Partnership on AI 发布两份雇主案例研究，考察 IBM 与 EXL 如何在引入 AI 系统时将员工的专业知识与视角纳入其中。研究发现，领导者释放开放反馈信号并建立清晰可信渠道时，员工会更愿意分享看法并参与负责任的 AI 落地；EXL 面向 5500 名员工的调查则显示，AI 治理框架清晰易用时合规性与员工创新会同步改善。两家公司的做法表明，投入专职人员、结构化倾听流程与易懂框架的企业更能让 AI 惠及员工和组织。
- 动态新西兰 NCSC（AI 相关）
新西兰 NCSC 2026 年第一季度报告：C2 级重大网络安全事件回归并警示 Frontier AI 风险
新西兰 NCSC 在 2026 年第一季度响应了三起 C2 类"高度重大"网络事件，为该机构自 2021/22 财年以来首次记录到此级别事件，同时季度内共处理 1164 起事件，钓鱼与凭证窃取最为常见。NCSC 首席运营官 Mike Jagusch 指出，若落实多因素认证、管控全网完整访问权限及保护网络边缘等基本措施，本可帮助抵御这些事件。该季度的直接经济损失达 560 万美元，环比增长 76%，其中个人损失占 520 万美元；报告还提醒恶意行为者可借助 Frontier AI 以前所未有的速度和大规模发现并利用漏洞，但这些模型同样可用于辅助防御。
- 动态新西兰 NCSC（AI 相关）
五眼联盟网络安全机构负责人联合呼吁做好前沿 AI 准备
新西兰 GCSB 下属国家网络安全中心（NCSC）与五眼联盟伙伴联合发布行动呼吁，应对前沿 AI 驱动的网络风险。新西兰 NCSC 负责人 Catriona Robinson 表示，AI 降低了恶意行为者的门槛，加快了攻击的速度与复杂度，缩短了漏洞从发现到被利用的窗口，同时也可用于强化防御。她呼吁组织领导者评估风险、准备度与问责机制，优先落实基础网络安全实践与控制措施，为网络安全负责人提供权限与资源，并持续跟进威胁与指南变化。NCSC 表示正在获取前沿 AI 模型，与供应商合作理解并应对网络安全风险，其工作计划还包括与测试过这些模型的厂商合作、持续发布面向企业与政府的建议指南，以及与落实政府数字路线图的机构协作，把网络安全与韧性纳入数字投资和采购的全过程。
- 动态新西兰 NCSC（AI 相关）
新西兰 NCSC《Cyber Threat Report 2026》：领导人需立即为 AI 冲击做好准备
新西兰国家网络安全中心（NCSC）发布《Cyber Threat Report 2026》，敦促企业及组织领导者立即着手应对正被人工智能重塑的网络威胁环境。报告称恶意行为者已在利用 AI 扩大攻击的速度、规模与复杂度，并预计到 2027 年初其可能获得目前仅领先的前沿 AI 模型才具备的高级能力，届时或将实现自动化攻击与高度个性化定向打击。NCSC 在 2025/26 年度处理的 369 起潜在重大事件中，162 起与犯罪或经济动机的行为者有关，同比增加 18%，其中四起达到 C2（Highly Significant）级别，与前十年总数相当。
- 动态新西兰 NCSC（AI 相关）
新西兰 NCSC 副局长在 Cyber Summit Korea 2026 分享网络安全洞察
新西兰国家网络安全中心（NCSC）副局长 Catrionа Robinson 在 Cyber Summit Korea 2026（9 月 16–18 日）发表演讲，向来自 31 个国家的与会代表介绍新西兰当前网络威胁态势及过去一年的主要趋势，并谈及地缘政治格局变动对新西兰安全环境的影响。她还展望人工智能快速发展带来的机遇与风险。
- 动态新西兰 NCSC（AI 相关）
新西兰 NCSC 启动 Cyber Smart Week 2026，提醒民众防范诈骗并应对恶意 AI 威胁
新西兰国家网络安全中心（NCSC）借 Cyber Smart Week（10 月 5—11 日）发起“find a scam before it finds you”宣传，呼吁个人和组织建立备份数据、多重身份认证及制定事件响应计划等基本防护措施。NCSC 副总干事 Catriona Robinson 表示，更具侵略性的网络犯罪活动和恶意行为者对人工智能的使用正改变该国网络安全环境，其研究也表明新的 AI 工具让人们感到更容易受到攻击。
- 动态BlueDot Impact
BlueDot Impact 面向 Technical AI Safety Project Sprint 学员开放快速小额资助申请
BlueDot Impact 为其 Technical AI Safety Project Sprint 的在读及往期学员提供快速小额资助，报销算力（API 费用、云 GPU、训练运行）、付费文献数据集访问及应用托管成本，多数初始实验资助额在 $50-100，取得初步成果后可增至最高 $500。申请人需提交不到 15 分钟填完的项目提案，通常 5 个工作日内获答复，获批支出经确认后方可花费并走报销流程，同样一般 5 个工作日内处理完毕。该资助不覆盖个人报酬、常规设备及 ChatGPT Plus、Claude Pro、Cursor 等生产力订阅，且仅限通过 Wise 银行转账或英国 PayPal 打款给未被制裁国家的参与者。
- 动态Partnership on AI
Partnership on AI 启动全球 AI 进展枢纽与责任 AI 进度报告计划
Partnership on AI（PAI）在第 79 届联合国大会期间的首届全球 AI 治理论坛上宣布两项全球倡议——全球 AI 进展枢纽（Global AI Progress Hub）与《全球负责任 AI：进展衡量》年度报告，旨在建立首个公开记录来评估 AI 系统是否合乎伦理、安全和可信。该枢纽邀请多方组织提交其行动并追踪成效，围绕人类联结与福祉、就业与经济搭建共同衡量框架；配套报告由多方社区指导方法论进行独立评估，将于 2027 年春季向公众开放访问。
- 动态Partnership on AI
PAI 日内瓦合作伙伴论坛：负责任 AI 从原则走向实践
Partnership on AI 在日内瓦举办 2026 年合作伙伴论坛，并借首届联合国全球 AI 治理对话之际发布两项新举措——Global AI Progress Hub 公开追踪器与《Global Responsible AI: Measures of Progress》年度独立评估报告。会上讨论聚焦 AI 当前的实际影响、问责归属以及谁有权参与决策三条主线，其中提到呼叫中心生产力因 AI 辅助上升 14%-15%，PwC 一项研究估算助益型 AI 通过育儿、养老与日常事务管理为家庭创造了最高 3300 亿美元的社经价值，同时指出多数企业尚未正式承诺遵守 UNGP，执法也不一致。
- 动态Partnership on AI
投资者需要更好的企业 AI 使用信息披露——PAI 发布披露建议草案
Partnership on AI（PAI）于 7 月 28 日发布一份面向投资者的 AI 披露建议草案，帮助公司将 AI 的影响、风险与机遇作为重要信息纳入财务及公开报告。该建议不分行业，覆盖医疗、金融服务、零售、基础设施、能源、社交媒体和公共部门等领域，并设计为补充而非新增现有报告的合规要求，可与 PAI 早前发布的《Corporate AI Risk Assessment Framework》配套使用。 其援引 2026 年斯坦福大学以人为本人工智能指数报告称，全球企业对 AI 的投资在 2025 年翻了一倍以上，生产力增益从客户支持的 15% 到营销产出的 50%；同时相关风险也在扩大，涵盖劳动力冲击与环境足迹以及不断上升的有记录的 AI 事故数。
- 动态Partnership on AI
联合国全球人工智能治理论坛第三集群联合牵头人呼吁采取行动，推进安全可信 AI
哥斯达黎加科技部长 Paula Bogantes Zamora 与 PAI 首席执行官 Rebecca Finlay 作为联合国全球对话第三集群（Safe, Secure, and Trustworthy AI）联合牵头人，致函两位共同主席提出五步建议。两人主张将独立国际科学小组工作组与各集群对接、起草融合国际法与欧盟《人工智能法案》等的共同参考基线、设立闭会期间常设工作流跟踪落实、由秘书处专项预算保障全球南方实质性参与，并在 2027 年纽约会议前试点跨境监管沙盒并回报结果。