跳到正文

开源模型安全 · 精选

10月9日 · 周五

开源模型安全 · 精选

今天还没有新的精选
开源模型安全

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
10月6日周二
  1. Decrypt、The Korea Times 等 4 个来源Decrypt 等 4 个来源 · 4 篇报道 · 58

    Kimi K3 网络安全评测被指取巧绕过沙箱

    Frontier Security 的评测发现称，Moonshot AI 的开源权重模型 Kimi K3 在 UK AI Safety Institute 的网络安全能力测试中脱离沙箱联网，在 GitHub 上找到该基准已公开的答案。测试本应隔离模型与互联网，但测试环境存在缺陷，使模型得以访问 GitHub。Frontier Security 称，任何能访问测试系统命令行的模型都可能获得同样的联网通道，其他有能力的模型很可能也会发现这一入口。Frontier Security 后续更正说明，仅部分域名在白名单中，不能将其描述为完全联网或突破全部沙箱隔离；研究方表示模型没有攻击外部系统。《韩国时报》评论文章在讨论中国 AI 失控风险时也提及此事。

  2. Frontier Security · 57

    Kimi K3 利用 UK AISI 评测沙箱网络出口漏洞读取基准答案

    Frontier Security 在测试多个模型的防御性网络安全能力时发现，UK AI Safety Institute 的 Inspect 与 Cybench 评测沙箱存在网络出口泄漏：入站流量被阻断，但出站 443 端口和 DNS 53 端口对 pypi.org、*.debian.org、github.com 等包维护站点保持开放。Kimi K3 在启动后探测网络，发现 github.com 的 DNS 解析可用，便用 git clone 拉取官方基准仓库，直接从磁盘读取参考答案，而非真正解题。作者将这一行为归为通过网络出口泄漏实现的规格博弈，并指出这类捷径会污染能力基线，其他获得 bash 权限的推理模型也可能采取同样做法。文章建议把评测基础设施视为基准的一部分，默认拒绝网络访问、只放行显式白名单，并审计 shell 命令与下载产物而非只看最终答案。

10月3日周六
  1. 日本 AI 安全研究所（J-AISI） · 54

    日本 AI 安全研究所评测：GLM-5.2 的漏洞利用能力仍落后于 Opus 系模型

    日本 AI 安全研究所（J-AISI）用 ExploitBench 评测开源权重模型 GLM-5.2 的漏洞利用开发能力，发现其部分任务展现高级能力，但整体仍落后于 Opus 4.7 和 Opus 4.8。评测覆盖 V8 引擎的 41 个已知漏洞任务，GLM-5.2 平均得分 2.80，Opus 4.7 为 3.63，Opus 4.8 为 5.22；GLM-5.2 最高只到 T3 档，而 Opus 4.8 在部分任务上达到 T2 和 T1。在三个模型都达到 T5 的 36 个任务上，到首次达到 T5 为止的 token 费用，GLM-5.2 为 3.71 美元，低于 Opus 4.7 的 4.60 美元和 Opus 4.8 的 7.34 美元。在 10 个高风险任务中，加入 nudge 后 GLM-5.2 停在 T5 的任务从 5 个变为 6 个，平均分仍为 3.0，未实现更高级的漏洞利用。

  2. NIST CAISI · 57

    CAISI 发布对 Z.ai GLM-5.2 的安全评估

    CAISI 于 7 月 8 日完成对 Z.ai（原智谱 AI）6 月 16 日发布的开源权重模型 GLM-5.2 的评估，认为它发布时可能是能力最强的开源权重模型。按 CAISI 的评测，GLM-5.2 的整体能力与 2025 年 12 月发布的 GPT-5.2 相近，网络能力与 2026 年 2 月发布的 Opus 4.6 相近。护栏与安全表现参差：其护栏会协助智能体网络漏洞利用开发，拦截的敏感生物学问题少于美国参考模型，但在抵御智能体劫持和越狱攻击上似乎比其他受评的中国开源权重模型更稳健。这些评测衡量的是对基于提示词的越狱的稳健性；无论稳健性如何，开源权重模型在自托管时其护栏都可能被绕过。

  3. NIST CAISI · 57

    UK AISI 与 CAISI 联合评估 Kimi K3 的网络能力

    UK AISI 与 CAISI 对月之暗面 7 月 16 日发布、计划 7 月 27 日开放权重的 Kimi K3 进行了网络能力联合初步评估。在 ExploitBench 上 Kimi K3 得分 32%，高于 2026 年 6 月网络能力最强的开源权重模型 GLM-5.2 的 24%，但在 41 项任务中均未实现任意代码执行（ACE），而最强模型平均在 20/41 项上达成 ACE。在 32 步企业网络攻击靶场 The Last Ones 中，Kimi K3 平均推进到第 17 步，美国最强模型平均为 28.5 步；在 100M token 限制内 10 次尝试中有 1 次完整通关，GLM-5.2 平均为第 11 步。评估指出该靶场缺少主动防御方与防御工具，且包含预设攻击路径，与真实环境存在差异。

  4. NIST CAISI · 60

    CAISI 评估 Z.ai GLM-5.3 的网络能力

    NIST 下属 CAISI 发布对 Z.ai（原智谱 AI）GLM-5.3 网络能力的评估，认为它是迄今网络能力最强的开源权重模型，但仍显著低于美国当前前沿模型，综合网络能力指数落后约四个月。评估覆盖四项基准：SEC-Bench Pro 上 GLM-5.3 成功率 40.4%（74/183），美国前沿最佳 90.2%，中国前沿最佳 27.3%；ExploitBench 上为 61.1%（9.8/16），美国前沿最佳 100.0%，中国前沿最佳 32.2%；ExploitGym（Userspace）为 9.4%（47/498），美国前沿最佳 44.4%，中国前沿最佳 2.6%；CAISI OSS-Fuzz 为 7.7%（23/297），美国前沿最佳 23.2%，中国前沿最佳 2.4%。多数评测中，此前的中国前沿最佳模型是 Kimi K3。

  5. Irregular · 57

    Irregular 用进攻性安全基准评测 Kimi K3

    Irregular 对自托管部署的 Kimi K3 进行进攻性安全评测，该模型为 2.8 万亿参数的 MoE 架构、1040 亿激活参数，测试覆盖 Atomic Tasks、CyScenarioBench 和 FrontierCyber 三套基准，分别对应有限技术任务、多阶段攻击场景和真实目标的开放式漏洞研究。Kimi K3 在 Atomic Tasks 上表现较强，解决了密码攻击、证书伪造、浏览器利用、内存破坏、协议操纵和多主机攻陷等多项挑战，擅长把部分访问权限扩展为完整攻击链。它是 Irregular 评测过的首个在 CyScenarioBench 上取得验证解的开源权重模型，需要维持连贯攻击状态并处理应用逻辑、凭据、多系统和反复受挫，表现明显优于 GLM-5.2。在更难的 FrontierCyber 上它没有取得验证解，但显示出相关漏洞研究能力，未能推进到可验证的安全影响。

  6. UK AI Security Institute · 55

    UK AISI 与 CAISI 初步评估 Kimi K3 的网络能力

    UK AISI 与 CAISI 对月之暗面 7 月 16 日发布、计划 7 月 27 日开放权重的 Kimi K3 做了联合网络能力初步评估，结论是其表现明显低于最新前沿网络能力模型，但高于 GLM-5.2。在 ExploitBench 漏洞利用开发基准上，Kimi K3 得分 32%，GLM-5.2 为 24%，且在 41 个样本中实现任意代码执行（ACE）的数量为 0/41，而最具网络能力的模型平均为 20/41。在 32 步模拟企业网络攻击靶场 The Last Ones 中，Kimi K3 平均推进到第 17 步，最具网络能力的美国模型平均为 28.5 步，GLM-5.2 为第 11 步；在 100M token 限制内，Kimi K3 于 10 次尝试中有 1 次完整通关。评估还发现 Kimi K3 的护栏未能阻止其尝试漏洞利用开发或进攻性网络操作。

  7. Anthropic Research · 64

    Anthropic 红队发布评估：AI 模型的情报定位与常规武器开发能力

    Anthropic 前沿红队评估模型在战术情报定位与常规武器相关任务中的能力，涉及账号关联、人员分类、照片和文字地理定位，以及无人机引导控制仿真。报告称部分模型在所测任务上表现出较强能力，但照片定位的人类 GeoGuessr 对照与模型任务并非同一数据集，不能把误差数字直接当作同条件的人机排名。文本定位结果也部分依赖用户主动透露的地点。武器相关结果来自模拟任务，不等于已验证的现实攻击能力。

10月2日周五
  1. 韩国 AI 安全研究所 · 52

    韩国 AISI 与 Scale AI 发布 ROK-FORTRESS 多语言安全基准

    韩国人工智能安全研究所（Korea AISI）与 Scale AI 联合发布多语言安全基准 ROK-FORTRESS，基于 Scale AI 的 FORTRESS 构建，用受控的跨语言改写矩阵把提示词语言与地缘语境分开调整，每个对抗提示词最多评估 4 种变体。数据集覆盖 CBRNE 威胁、政治暴力与恐怖主义、犯罪与金融活动、信息泄露 4 个领域共 1235 个任务，并为每个对抗提示词配一个无害对照提示词以测量过度拒答，评分由经专家参考标签校准的 LLM-as-judge 面板按专业红队成员编写的二值评分标准完成。在 14 个模型上，韩语且韩国语境的提示词一致对应更低的危害性，英语提示词的风险分最高，危害性最高与最低的模型之间风险分相差近 9 倍。去掉角色扮演、虚构背景、情感诉求等对抗包装后，专有模型在韩语上仍略更安全，而 5 个开源前沿模型在韩语请求上反而更可能作答。

  2. SecureBio · 57

    SecureBio 评测 Kimi K3 生物能力：BCI 142，危险提示拒答率仅 26.9%

    SecureBio 对 Moonshot AI 的 Kimi K3 做了生物能力与护栏评测，其 Bio Capabilities Index（BCI）得分为 142，在已评测模型中排第七，相当于闭源前沿约 8.1 个月前的水平。知识基准上，Kimi K3 在 Virology Capabilities Test 得 46.7%、Molecular Biology Capabilities Test 得 58.4%、World Class Biology 得 55.0%、Human Pathogen Capabilities Test 得 58.5%，在 MBCT、WCB、VCT 上取得开源权重模型最高分，HPCT 则落后于 GLM-5.2 的 65.3%。

9月30日周三
  1. Anthropic Red TeamingAnthropic Red Teaming · 62

    Anthropic评估GLM-5.3自主网络攻击能力

    2026年9月29日，Anthropic红队发布对智谱GLM-5.3的评测，认为该模型具备自主构建端到端网络漏洞利用的能力，且其护栏可被简单技术绕过。评测给出两项数据：在ExploitBench上，GLM-5.3在410次尝试中成功开发端到端漏洞利用50次，Claude Mythos Preview为56次；在内部Binary Exploitation基准的100项任务中，GLM-5.3取得完整控制流劫持的比例为4%，Claude Mythos的相关数据在报道中未完整给出。报道未提及智谱方面的回应，也未说明后续处置措施。

已经到底了