政策与监管

全球AI安全治理努力可能不得不在美国缺席下推进

联合国大会期间，多国领导人及OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei呼吁建立AI全球治理框架，Anthropic主张制定模型测试的"共同全球标准"。由芬兰和挪威牵头、22国通过的AI安全宣言未获美国和中国签署，特朗普在联大演讲中明确拒绝任何AI"全球主义控制方案"。前美国官员指出，美国不参与将限制相关努力的有效性，而中美领导人本周会晤仅将顺带讨论AI。

白宫要求 OpenAI 和 Anthropic 在美方审查前不向英国测试机构开放新模型

白宫通过国家网络主任办公室要求 OpenAI 和 Anthropic 在模型完成美国政府测试前，不要将其提供给英国 AI 安全研究所（AISI）。一名美国高级官员称，此举是因为两家是美国公司，且这是美国对所有新前沿模型的一贯政策。Anthropic 目前似已遵从，其 Claude Mythos 5.1 未提供给英国 AISI，公告称该模型仅面向一组美国机构，并表示正与美方协调尽快扩大国内外合作伙伴的访问范围。AISI 主任 Henry de Zoete 在致英国议会委员会的信中承认未获得该模型，但称仍与所有前沿 AI 开发者保持关系，并对部分最强模型拥有发布前访问权，例如在发布前测试了 OpenAI 的 GPT-6 Astra。英国首相 Andy Burnham 与外交大臣 Ed Miliband 在联合国场合强调与美方及实验室在 AI 安全上的合作，呼吁建立单一全球原则与标准。

推荐理由白宫要求美国实验室先经本国审查再向英国 AISI 开放模型，呈现前沿模型测试准入的跨大西洋分歧。

Waymo 无人车驶入丹佛农贸市场，科罗拉多州无法律可开罚单

一辆 Waymo 自动驾驶汽车在 2026 年 9 月 20 日（周日）上午驶入丹佛 South Pearl Street 农贸市场，穿过路障和停车标志，最后由市场工作人员引导回街道。丹佛警察局和科罗拉多州巡警确认，现行州法律没有对无人驾驶车辆开具罚单的机制。这一缺口可追溯到 2017 年的 Senate Bill 17-213，该法允许完全自动驾驶车辆在科罗拉多运营，前提是能遵守州和联邦交通法规，但未规定违规时如何处罚车辆或运营公司。加州今年生效的法律允许直接向运营自动驾驶汽车的公司发出正式违规通知，重复违规可触发限制运营范围、时间或数量的升级处罚。乔治梅森大学教授 Missy Cummings 指出，环境的不确定性仍是自动驾驶系统的持续挑战，州政府缺乏懂行的政策人员。Waymo 回应称正从这次事件中学习。

推荐理由事件本身是自动驾驶车辆误入市集，但真正可读的是科罗拉多州法律无法对无人车开罚单这一监管缺口。

安远AI加入Partnership on AI，携手全球伙伴共筑负责任AI未来

安远AI于今年10月正式加入人工智能伙伴关系（Partnership on AI，PAI），与魁北克人工智能研究所（Mila）、韩国人工智能安全研究所（Korean AISI）、Resaro等十家机构共同入选。PAI是由学术界、民间社团、行业和媒体组成的非营利合作网络，合作伙伴已覆盖17个国家/地区的140余家机构。安远AI创始人兼首席执行官谢旻希表示，加入PAI将增强其在促进协作与创新解决方案方面的承诺，并借助PAI全球社区扩大影响力、推动共识。

安远AI正式加入国际人工智能安全与伦理协会 IASEAI，成为国内唯一协会伙伴

安远AI近日正式加入国际人工智能安全与伦理协会（IASEAI），成为其协会伙伴（Affiliate），截至2025年10月是国内唯一加入该协会的机构。IASEAI由加州大学伯克利分校教授Stuart Russell于2024年创立，成员包括联合国教科文组织人工智能国际研究中心、剑桥大学Leverhulme智能未来中心、Mila等近百家机构，姚期智任董事委员、张亚勤任顾问委员。安远AI创始人谢旻希曾在2025年IASEAI首届国际大会上发言，并将参与2026年第二届年度大会。

非西方国家在联合国大会上如何谈 AI 治理

在联合国大会高级别周上，土耳其、韩国、日本、南非、尼日利亚、巴基斯坦、阿根廷等国呼吁在 AI 规则制定中获得更大话语权。巴基斯坦支持为前沿 AI 发展"定速"，但警告"定速不能成为新的守门形式"；尼日利亚反对风险优先路线，阿根廷主张不进行预防性监管。芬兰和挪威 9 月 21 日发起前沿 AI 模型控制呼吁，要求部署前测试与独立评估，挪威政府称 22 位领导人支持。

是“人工”还是“超级智能”？AI 的破碎隐喻

Tech Policy Press 编辑 Amber Sinha 撰文指出，特朗普在联合国大会上主张把前沿 AI 改称“超级智能”，而围绕 Hugging Face 安全事件与 Anthropic 研究员 Jacob Coxon 辞职的安全恐慌，与 AI 的乌托邦式炒作同样源于“破碎的隐喻”。文章追溯“人工智能”一词 1955 年由 John McCarthy 为区别于控制论而提出，并援引 Minsky 的“手提箱词”与 Wittgenstein 的“家族相似”概念，说明 AI 缺乏单一技术定义。作者批评把 LLM 输出错误称为“幻觉”是范畴错误，因为模型并无真假概念，只是按训练权重预测最可能的 token 序列。

AI 透明度应从受众出发：Anthropic 威胁情报报告带来的披露启示

Anthropic 本月发布最新威胁情报报告，披露其已阻断的真实威胁，涉及马里监控约 2500 万张 SIM 卡的国内监控系统、中国的电子战与防空压制软件，以及也门的制导导航控制软件。报告面向政府、网络安全团队和同行 AI 开发者，用于识别和阻断类似威胁，并为 AI 政策提供真实案例依据。文章据此提出 AI 披露应明确受众、聚焦影响决策的重大信息，并遵循可比性、一致性等信息质量原则。

大学需要 AI 基础设施，但不需要 AI 锁定

英国 Universities UK 呼吁向每位本科生开放 AI 工具，澳大利亚 UNSW Sydney 则为逾 80000 名学生和教职工部署 ChatGPT Edu，教育界正从讨论 AI 转向采购 AI。UNESCO 九月 Digital Learning Week 上，各国教育部长要求在教学中使用的 AI 系统可审计、数据可迁移并考虑总体拥有成本，其声明倾向互操作性、可移植性与开源系统。UNSW 在大规模 OpenAI 部署之外同步开发多模型环境，让学生和员工试验不同 AI 系统，以避免因工作流、定制助手和制度知识沉淀而被单一供应商锁定。

年龄验证为何是 AI 网络安全问题

年龄验证法要求用户向平台或第三方提交驾照、出生证明、护照乃至自拍等敏感身份信息，形成黑客可攻击的数据蜜罐。欧盟委员会推出的零知识证明年龄验证应用被安全顾问 Paul Moore 称可在不到两分钟内攻破；Discord 第三方供应商泄露约 7 万份政府签发身份证件，某暗网服务本月挂出 1.53 亿份美加驾照扫描件，据称可追溯至 IDScan.net。AI 让低水平攻击者更易得手，去年 71% 的组织遭遇至少一次身份相关安全事件，四分之一恶意入侵由 AI 驱动。

Concordia AI 发布《中国 AI 安全现状（2026）》报告及配套交互网站

Concordia AI 发布《中国 AI 安全现状（2026）》年度报告，覆盖 2025 年 7 月至 2026 年 6 月中国在通用 AI 安全方面的进展，并上线配套交互网站。报告分国内治理、国际治理、技术安全研究、专家观点与产业治理五个领域。国内治理方面，2026 年 3 月确立的“十五五”规划（2026–2030）将“AI+”作为总体政策，同时强调风险预警与应急响应，并关注 AI 对就业的影响；开源智能体 OpenClaw 在 2026 年初扩散后，多家网络安全机构发布警告，2026 年 5 月国家网信办等三部门发布智能体专项指引，提出基于风险的治理思路。国际治理方面，中国支持联合国 AI 科学小组与全球 AI 治理对话两个新机制，并提出世界 AI 合作组织（WAICO）设想，同时与美国启动政府间 AI 对话，结束两年的官方双边冻结。

习近平首次出席 2026 世界人工智能大会，Concordia AI 将主办前沿与智能体安全论坛

2026 世界人工智能大会（WAIC）于 7 月 17 日至 20 日在上海举行，习近平首次亲临开幕式并发表讲话，这是该会议政治规格的新里程碑。WAIC 自 2018 年起每年举办，2018 年习近平致贺信、副总理刘鹤出席讲话，2019 至 2023 年现场最高级别出席者为上海市委书记，2024 和 2025 年由总理李强致开幕辞。本届 WAIC 设有 140 多个专题论坛，其中包含多场 AI 安全与治理论坛。Concordia AI 将于 7 月 19 日 8:45 至 12:30（UTC+8）在上海世博桐森酒店 3 楼 1、2 号功能厅主办前沿与智能体安全论坛，并在官方 WAIC App 直播；去年该论坛现场参会超 200 人、直播观看超 14000 次。

2026 WAIC 上的中国 AI 安全动向：习近平讲话、主席声明与 WAICO 成立

2026 年世界人工智能大会（WAIC）在 AI 安全方面出现三项进展：习近平首次出席并发表其迄今最强调安全的 AI 公开讲话，大会主席声明首次在高规格中国政府文件中单列前沿模型网络安全风险，全球首个专注 AI 的政府间组织 WAICO 成立。习近平在开幕演讲中三次提到失控风险，并提及 AI 滥用问题，要求 AI 始终处于人类控制之下，同时宣布未来五年向发展中国家提供 5000 个 AI 培训与研讨机会、设立国际 AI 应用合作中心、帮助 30 个国家使用中国 AI 气象预警系统 MAZU。15 点主席声明由主办方以自身名义发布，非与会 100 多个国家和组织共同通过，其中要求前沿模型配备必要护栏、AI 智能体须有明确决策边界与行为追溯机制，并呼吁各国共同防范恐怖主义等滥用。

2026 WAIC 上海前沿与智能体 AI 安全论坛要点总结

2026 年 7 月 19 日，Concordia AI 在上海世界人工智能大会（WAIC）举办前沿与智能体 AI 安全论坛，约 30 位专家参会、现场约 300 名观众，直播观看量超 30 万。图灵奖得主 Yoshua Bengio 在主题演讲中指出 AI 在推理、编程、科学与自主智能体能力上快速进步，而安全措施未能同步，并强调开放权重模型在撤回部署、移除护栏与风险评估上的独特挑战。论坛围绕前沿 AI 风险监测、智能体 AI 全生命周期安全治理与全球治理视角三大主题展开。

中国网信办官员警示 AI 失控与生物风险，Z.AI 首次因安全推迟 GLM-5.3 权重发布

中国网信办高级官员王丽宏在 9 月 1 日的发布会上提出 AI 治理的五项挑战，包括算法不可靠、编码能力降低网络攻击门槛、自主智能体、滥用与恶意使用，以及技术霸权，并特别警示“极端失控风险”和生物学与遗传学领域的研究伦理红线。简报认为这是网信办官员首次如此突出地把生物与遗传学列为 AI 风险领域，此前该风险多出现在标准文件中。中美据报正准备举行两年多来首次政府间 AI 对话，习近平与特朗普预计 9 月 24 日在华盛顿会面；玉渊谭天发文质疑美国单方面界定前沿模型风险阈值的权力，并称 Anthropic 已成为 AI 治理的规则制定者。TC260 预计在 9 月 14 至 20 日的国家网络安全宣传周发布更新版 AI 安全治理框架。

TC260 发布 AI 安全治理框架 3.0，风险条目从 30 项增至 54 项

中国主要 AI 标准制定机构 TC260 发布《AI 安全治理框架》3.0，风险条目从上一版的 30 项增至 54 项，开篇即指出 AI 已从“回答问题”转向“执行任务”。新增内容覆盖智能体运行风险，包括提示注入、工具投毒、身份伪造、记忆污染、凭证窃取和长周期任务中的目标劫持，并提出分阶段放权、高风险任务人工签核、工具与插件安全审计、运行时护栏等措施。框架还首次纳入具身智能风险、自主网络攻击、模型拒绝关机、欺骗评估者、故意藏拙等智能体失准行为，并将网络安全风险单列一节。在开源与闭源模型上给出更平衡的评估，同时新增个人信息保护、文化与社会风险、环境保护等类别，并呼吁在金融、教育、广电、医疗等领域探索监管沙盒。该框架不具约束力，但由 CAC 指导起草，被视为后续标准制定的蓝图。

中国开源最强 AI 模型，安全吗？

中国实验室今年夏天发布 Kimi K3、Qwen 3.8-Max、GLM-5.3 等开源模型，能力仅略落后于美国最强模型，引发开源模型是否会被滥用的争论。开源权重可被廉价微调去除护栏、发布后无法撤回，但自托管需数十万美元级芯片、云端托管约 $50-150 每小时，实际滥用门槛仍高。中国 TC260 已在 AI 风险框架中点名开源模型安全机制可能被移除或绕过，并着手起草开源 AI 安全标准。

MIRI 技术治理团队 2026 ICML 论文汇总：六篇 AI 治理研究

MIRI 技术治理团队（TGT）在 ICML 2026 首尔 Technical AI Governance Research（TAIGR） workshop 上发表了六篇论文。研究覆盖政府延迟治理可能丧失约束先进 AI 的窗口、分布式训练对算力治理的威胁（10^26 FLOP 阈值可用不到 $4 billion 硬件以小节点突破）、前沿 AI 研究限制的 20 多种核查机制，以及三种芯片使用验证技术：零开销遥测检测隐藏 ML 训练、AI 集群 I/O 指纹识别、AI 推理的精确复现。

中国释放 AI 治理积极信号：从习近平到 CnAISDA 的表态汇编

MIRI 汇总中国政府及多位高层人士历年表态，指出中方至少在 2017 年起持续释放参与全球 AI 治理的意愿。Xi Jinping 在 2026 年世界人工智能论坛警告 AI 可能脱离人类控制，呼吁建立基于共识的全球治理框架并完善法律法规与技术监测体系；Ding Xuexiang、Li Qiang、Zhang Jun 也先后在国际场合提出协调形成全球 AI 治理框架、确保人类能按下停止键。中国自身 AI 安全机构 CnAISDA 于 2025 年 6 月成立，Yao 等人公开警示超级智能带来的生存风险。

MIRI 表态支持 2026 年禁止人工超级智能法案

MIRI 发文支持《2026 年禁止人工超级智能法案》，认为这是其二十多年来所见首份有机会阻止超级智能灭绝威胁的立法，并逐条评述其可取与不足之处。法案要求模型出现可自动化 AI 研发、规避人类关停等前兆特征时暂停训练，并设置训练算力阈值，超过阈值需取得许可；MIRI 认可阈值可随算法与数据效率提升而调整，但建议调整频率高于每年一次。MIRI 还赞赏法案呼吁国际解决方案，并主张美国的政策应是阻止全球范围内开发人工超级智能。不足之处包括法案未对 AI 芯片进行追踪与监控，也未对某些研究设限；MIRI 认为生物武器设计能力提升等前兆与 ASI 并非直接相关，或需另一套规则，长期可考虑在 ASI 禁令生效后设置例外。