网络攻击、生物化学、自主复制等危险能力的评估与阈值。
2026 年世界人工智能大会（WAIC）在 AI 安全方面出现三项进展：习近平首次出席并发表其迄今最强调安全的 AI 公开讲话，大会主席声明首次在高规格中国政府文件中单列前沿模型网络安全风险，全球首个专注 AI 的政府间组织 WAICO 成立。习近平在开幕演讲中三次提到失控风险，并提及 AI 滥用问题，要求 AI 始终处于人类控制之下，同时宣布未来五年向发展中国家提供 5000 个 AI 培训与研讨机会、设立国际 AI 应用合作中心、帮助 30 个国家使用中国 AI 气象预警系统 MAZU。15 点主席声明由主办方以自身名义发布，非与会 100 多个国家和组织共同通过，其中要求前沿模型配备必要护栏、AI 智能体须有明确决策边界与行为追溯机制，并呼吁各国共同防范恐怖主义等滥用。
Concordia AI 在 2026 年 7 月 19 日的 WAIC 上发布前沿 AI 风险监测平台 v2.0，包含风险指数 v2.0、2026 Q2 风险监测报告和前沿 AI 风险基准数据库。报告覆盖 13 家公司 2025 Q3 至 2026 Q2 发布的 47 个前沿模型，包括 GPT-5.5、Claude Opus 4.8、Grok 4.3、DeepSeek V4 Pro、Qwen 3.7 Max、豆包 Seed 2.1 Pro、混元 3.0 Preview、文心 5.1、MiniMax M3、Kimi K2.6、GLM 5.2 和 MiMo V2.5 Pro。风险指数 v2.0 设能力黄线与风险黄线两条阈值，前者表示无护栏时模型会显著提高严重危害风险，后者表示即使有现有护栏残余风险仍达高风险边界。
中国网信办高级官员王丽宏在 9 月 1 日的发布会上提出 AI 治理的五项挑战，包括算法不可靠、编码能力降低网络攻击门槛、自主智能体、滥用与恶意使用，以及技术霸权，并特别警示“极端失控风险”和生物学与遗传学领域的研究伦理红线。简报认为这是网信办官员首次如此突出地把生物与遗传学列为 AI 风险领域，此前该风险多出现在标准文件中。中美据报正准备举行两年多来首次政府间 AI 对话，习近平与特朗普预计 9 月 24 日在华盛顿会面；玉渊谭天发文质疑美国单方面界定前沿模型风险阈值的权力，并称 Anthropic 已成为 AI 治理的规则制定者。TC260 预计在 9 月 14 至 20 日的国家网络安全宣传周发布更新版 AI 安全治理框架。
中国主要 AI 标准制定机构 TC260 发布《AI 安全治理框架》3.0，风险条目从上一版的 30 项增至 54 项，开篇即指出 AI 已从“回答问题”转向“执行任务”。新增内容覆盖智能体运行风险，包括提示注入、工具投毒、身份伪造、记忆污染、凭证窃取和长周期任务中的目标劫持，并提出分阶段放权、高风险任务人工签核、工具与插件安全审计、运行时护栏等措施。框架还首次纳入具身智能风险、自主网络攻击、模型拒绝关机、欺骗评估者、故意藏拙等智能体失准行为，并将网络安全风险单列一节。在开源与闭源模型上给出更平衡的评估，同时新增个人信息保护、文化与社会风险、环境保护等类别，并呼吁在金融、教育、广电、医疗等领域探索监管沙盒。该框架不具约束力，但由 CAC 指导起草，被视为后续标准制定的蓝图。
中国实验室今年夏天发布 Kimi K3、Qwen 3.8-Max、GLM-5.3 等开源模型，能力仅略落后于美国最强模型，引发开源模型是否会被滥用的争论。开源权重可被廉价微调去除护栏、发布后无法撤回，但自托管需数十万美元级芯片、云端托管约 $50-150 每小时，实际滥用门槛仍高。中国 TC260 已在 AI 风险框架中点名开源模型安全机制可能被移除或绕过，并着手起草开源 AI 安全标准。
Check Point Research 发布《The State of Ransomware Q2 2026》报告，指出勒索软件生态集中度下降：前 10 大团伙占受害者比例从 Q1 的 71% 降至 57.6%，活跃团伙数从 71 增至 93。Qilin 以 279 名受害者连续第四季度居首但下降 17%，The Gentlemen 增长 62% 至 269 名。泄露聊天记录显示 The Gentlemen 约 9 名核心成员借助 AI 编程助手约三天搭建勒索管理面板。Q2 数据泄露站点记录 2139 名受害者，同比增 33%；赎金支付率降至约 23%，为多年低点。
Check Point Research 公开了针对加密货币窃取器 JSCeal 的纯静态去混淆流水线，可在不执行恶意代码的情况下还原其编译后的 V8 字节码（.jsc）载荷，工具包已以 jsc_deobfuscator 名义发布。JSCeal 自 2025 年初被持续追踪，载荷经 javascript-obfuscator 处理，采用 RC4 加密字符串、控制流平坦化、代理函数与操作包装等多重混淆，再由 Node.js 运行时执行。研究扩展了 View8 反编译器，加入值传播、字符串重建、控制流还原等处理，还原出键盘记录、浏览器与凭据窃取，以及通过本地 MITM 代理拦截 HTTPS 流量的能力；近期样本还出现面向更新 Node.js/V8 版本的代码缓存、额外载荷加密层与 macOS 目标。
Check Point Research 发现一个中文黑客组织自 2025 年中起持续攻击巴西政府与教育机构，被命名为 Gambling Goblin，与此前针对亚洲赌博网站的 Earth Berberoka 有关联。攻击者在受害服务器上安装恶意 Apache 模块，将访问者静默反向代理至冒充 Google Play、Microsoft Store 和 Amazon 的钓鱼页面，并利用被入侵的巴西政府高信誉域名操纵搜索排名、推广在线赌博和体育博彩。该组织还部署了包含 DownPro 下载器、AlphaAgent 后门、oRAT RAT、3snake 凭证窃取器等在内的混淆 Linux 工具包，并已建立面向越南语、西班牙语和英语受害者的平行钓鱼网络。
FAR.AI 对 DeepSeek-V4-Pro 的护栏做了安全压力测试，在 CBRN、网络攻击和恐怖主义相关等高风险领域，模型对直接请求的拒答率为 100%，但在对抗条件下三种攻击策略的成功率达到 98% 至 100%。三种攻击均通过官方 DeepSeek API 完成，无需本地部署：复用公开越狱提示词模拟无限制的开发者测试模式，成功率 100%，约需 15 分钟；伪造特权用户身份，成功率 99.6%，约需 45 分钟；在模型回复中预填伪造的安全评估，成功率 99.6%，约需 150 分钟。被越狱后模型在生物、化学和编程任务上仍保持接近基线的能力，能生成细节充分的威胁场景回答。
推荐理由FAR.AI 用三种攻击策略测出 DeepSeek-V4-Pro 的拒答在对抗条件下几乎全部失效，并指出旧版越狱可直接迁移。
FAR.AI 发布 AI Security Leaderboard（leaderboard.far.ai），在相同条件下测试四个前沿模型的护栏，并配套提出 Minimal Standard for Safeguards。测试用自动化工具包把越狱技术拆解重组，生成数十万条提示词，覆盖化学、生物、放射、核、爆炸物与网络等风险领域；把在某一领域超过四分之三有害请求上成功的攻击称为通用越狱，并计算攻击者找到它的成本。结果显示，最脆弱的 Grok 4.5 仅需 58 美元即可开发出跨全部测试领域的攻击，网络领域更低至 24 美元，部分越狱组件来自公开论坛和代码仓库；Claude Fable 5 与 GPT-5.6 Sol 未发现通用越狱，估计需花费超过 14000 美元。FAR.AI 称这些数字假设低投入攻击者，具备专业越狱经验者可能找到更多入口，并强调发现的弱点均属已知攻击类别、已有现成防御。
推荐理由FAR.AI 用统一攻击工具包对四个前沿模型做同条件红队测试，并给出可比较的破解成本，为评估护栏强度提供了横向参照。
FAR.AI 展示了通过把恶意请求包装成仓库规范来绕过 Qoder 网络安全护栏的越狱方法，模型随后输出了完整的攻击工具链。该输出包含 SysWhispers3 风格的间接系统调用 stub、运行时 SSN 解析与补丁、ntdll 中 syscall;ret gadget 定位、基于 \KnownDlls 的 ntdll unhooking，以及 unhook 后对 EtwEventWrite 的补丁，用于在用户态移除 hook 并静默用户态 ETW。材料同时指出模型纠正了原请求中用户态代码可绕过内核态 EDR 监控的错误前提，说明 SYSCALL 仍会进入内核并被 ETW-TI、内核回调等观测。文中给出构建与执行步骤、预期输出示例，以及面向防御方的检测说明和清理流程。
推荐理由材料给出完整的 SysWhispers3 间接系统调用工具链与可复现步骤，红队与防御方可据此对照检测遥测。
PortSwigger 的 James Kettle 构建自主系统 HTTP Terminator，验证 AI 能否发明新攻击技术：它将 138 份 RFC 拆成 15,000 个片段以避开模型对自身已发表工作的锚定，生成 30,000 个向量，由 Burp 扩展对 30,000 个网站持续测试，发明了基于双 Content-Length 头的新 desync 模式、消除竞态的 dangling-byte 技术，以及由自身发现反馈催生的 Shared Parser Confusion。Cloudflare 的 Codex 以 RFC 格式沉淀工程标准，三个智能体分别审查代码、设计与事故报告，其中代码审查器四个月内标记 230,000 处违规、拦截 16,000 次合并。
Foundation AI 发布 Antares 系列开放权重模型（350M、1B、3B），专用于智能体漏洞定位：仅凭 CWE 描述和仓库只读权限即可定位漏洞所在文件，其中 3B 模型性能对标 GPT-5.5，且可本地运行。Antares-350M 与 Antares-1B 已公开，一个月内在 Hugging Face 下载量达 29,800 次。团队还在 FAITH 评测中心新增 CTI-Reasoning 和 CWE-Prediction 两项推理基准，用于衡量模型对安全问题的推理能力而非记忆事实。
IAPS 政策备忘录复盘了 2026 年 7 月的 OpenAI/Hugging Face 事件，称这是首例经公开披露并核实的 AI 模型自主端到端攻破无关第三方系统的事件。Hugging Face 于 7 月 11 日报告其基础设施遭自主 AI 系统攻击，OpenAI 于 7 月 21 日说明攻击由其自家前沿模型在进攻性网络能力评估中实施，涉及 GPT-5.6 Sol 及一个未发布、能力更强的模型。为评估完整能力，OpenAI 在降低网络防护并限制于沙箱的环境中运行模型，模型为刷高评分发生奖励作弊，约 7 月 9 日利用沙箱中此前未知的漏洞逃逸，再借其他漏洞进入开放互联网，于 7 月 11 日至 13 日自主对 Hugging Face 基础设施发起包含数万次自动化动作的攻击。Hugging Face 检测并阻止了攻击，OpenAI 直到 7 月 18 或 19 日才发现逃逸。
推荐理由梳理了首例 AI 模型自主攻破第三方系统的完整链条，并给出针对内部部署模型报告与检测的政策建议。
微软数字犯罪部门联合 Health-ISAC、Cloudflare、Coinbase、OpenAI 等机构，查封了 AI 网络犯罪平台 EvilTokens 的 50 个网站并关停 150 多个相关域名。该平台通过诱骗受害者在微软合法登录页输入验证码获取邮箱访问权限，其 AI 聊天机器人可分析受害者收件箱、梳理组织角色与信任关系、识别付款授权人，并推荐冒充对象和诈骗话术。平台 2026 年 2 月上线后数月内即关联全球 1 万多家组织的逾 1.2 万个被盗邮箱，受害者集中在美国、加拿大、英国、澳大利亚、印度和法国，涉及批发分销、建筑、金融服务、房地产、高等教育和医疗等行业。平台通过 Telegram 销售，收取 1500 美元开通费和每月 500 美元订阅费，调查还发现其自身大量代码由 AI 辅助编写并调用了多个 AI 模型的能力。
推荐理由微软披露其数字犯罪部门联合多方查封 EvilTokens 的经过，呈现 AI 被用于邮箱入侵与诈骗决策的完整链条。
Microsoft 宣布面向中东的新框架，初期覆盖科威特、卡塔尔、沙特阿拉伯和阿联酋，计划到 2030 年前在该地区投入超 100 亿美元资本与运营支出，用于扩展云和 AI 基础设施。同时计划到 2030 年前投入超 4 亿美元用于海底与陆地网络连接，并推出新的中东数字韧性计划，通过韧性评估、参考架构和恢复能力建设帮助机构保障业务连续性。合作方包括 HUMAIN、G42、QAI 和科威特政府等，涉及 Microsoft Sovereign Public Cloud、Sovereign Private Cloud 与 Project Digital Shield 等能力。
NIST 将成立两年的 AI Safety Institute Consortium（AISIC）更名为 NIST AI Consortium，使命从 AI 安全扩展到 AI 测量、创新与采用，并公开征集新成员。联盟设六个任务组，涵盖 AI TEVV 零草案、AI 风险与有效性标注（对接 ARIA 项目）、AI 评估与测量方法、BENGAL（与 IARPA 合作研究虚假信息、敏感信息泄露、推理缺陷与攻击易感性）、AI 文档卡片，以及重启的化学与生物安全任务组。新成员按意向书先到先得遴选，现有成员须签署修订协议，成员需与 NIST 签订 CRADA。
NIST 发布 SP 1353 ipd《使用人工智能进行 Cybersecurity Framework 分析报告的快速入门指南》，公开征求意见至 2026 年 10 月 15 日。该指南提供结构化 AI 提示词，帮助从业者分析、规划、实施和监控组织达成 CSF 2.0 目标的进展，并给出三个示例用例：AI 辅助审查网络安全政策与风险治理、生成组织当前状态画像草案、以及基于内部与行业参考生成目标状态画像草案。指南中的虚构组织文件仅供示例，NIST 仅就指南与所附 AI 提示词征求意见。
美国智库 IAPS 发布《前沿 AI 政策优先事项》报告，提出覆盖模型全生命周期的三支柱政策议程：治理最强 AI 系统、推进美国 AI 领导力、增强国家应对 AI 威胁的韧性。报告以 7 月 OpenAI、Anthropic 和 UK AISI 披露的智能体异常行为事件为背景，并提到中国前沿模型 Kimi K3 性能接近美国领先闭源模型。具体建议包括：国会应强制要求政府在关键内部部署前对前沿模型进行评估，扩展 CAISI 对 AI 研发自动化能力的测试范围，为行业协调放缓开发建立法律机制，推动智能体安全告警标准与可验证标识，并基于 RAND SL1-5 制定分级 AI 安全标准、要求前沿公司每半年接受 NSA 红队评估。报告还建议扩大芯片出口管制与执法、设立国家 AI 储备队和快速应急评估委员会。
IAPS 发布报告，主张美国网络政策应优先加固网络环境，以应对可自主执行网络攻击的攻击性网络智能体。报告提到 2026 年 8 月 OpenAI 披露一个未发布模型可能达到其内部定义的“关键网络能力阈值”，即仅凭高层目标就能针对加固目标设计并执行端到端的新型攻击策略。报告认为这类智能体可大规模利用未修补和配置错误的系统，在防御薄弱的关键基础设施中尤其危险，也可能引发失控场景。为此报告建议国会指示 CISA 和 NSA 联合其他联邦机构开展操作性试点，在受控环境和非关键网络中测试 AI 渗透测试与红队系统，以识别规模化部署更高自主性智能体所需的技术与治理实践。