跳到正文

System Card · News

10月12日 · 周一

System Card · News

按原发与事件进展排列
System Card

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
10月7日周三
  1. OpenAI Deployment Safety、TechCrunch AI 等 7 个来源OpenAI Deployment Safety 等 7 个来源 · 7篇报道 · 55

    OpenAI 上线 GPT-6 与 Intelligent UI

    OpenAI 在全球 ChatGPT 上线 GPT-6，并推出 Intelligent UI，回答以图表、按钮、表单等可交互视觉元素呈现，可生成储蓄计算器、小游戏等内嵌工具。付费用户使用 GPT-6 Sol，免费与 Go 用户使用 GPT-6 Luna。据 TechCrunch 与 The Verge 报道，该界面面向 Plus、Pro、Business、Enterprise 全球上线，免费与 Go 档次日可用；量子位称免费和 Go 用户已开始被推送 GPT-6 Luna，替换此前的 GPT-5.6 Luna。安全方面，OpenAI 公布 GPT-6 Sol 与 GPT-6 Luna 的 10 月安全评测更新：两者在生物与化学领域被评为 High capability，GPT-6 Sol 的 Critical capability 评测未越过指示性阈值，GPT-6 Luna 因全部 High capability 评测得分低于 GPT-5.6 Sol 而未单独进行 Critical capability 测试。另有一篇报道称 OpenAI 的 GPT-6 报告指出青少年安全退步。

    事件进展

    1. OpenAI 全球发布 GPT-6 与 Intelligent UI

    2. OpenAI 发布 GPT-6 Sol/Luna 部署安全更新

  2. artificialanalysis.ai、Anthropic Research 等 7 个来源artificialanalysis.ai 等 7 个来源 · 7篇报道 · 46

    Anthropic 发布 Claude Haiku 5.5 小模型

    2026 年 10 月，Anthropic 发布 Claude Haiku 5.5，称其是迄今最快、最便宜且能力最强的小模型。该模型首次在 Haiku 级引入可调 effort 设置与自适应思考，支持 100 万 token 上下文，并采用分层定价：10 万 token 以内为 $0.10/$0.50 每 1M 输入/输出 token，超过 10 万后为 $0.50/$2.50，官方称整体平均运行成本较 Haiku 4.5 低约 75%。Artificial Analysis 智能指数最高推理档位得 43 分。System Card 报告 RSP 评测未跨过 CB-2 或 Autonomy-2 阈值，但达到 CB-1 和 Autonomy-1 阈值并应用相应缓解措施。官方跑分称 OSWorld 2.1 Max 档达 72.4%，但 Terminal-Bench 4.0 仅 39.2%，低于 Sonnet 5.5 的 70.6%，Anthropic 仍建议复杂任务使用更大模型。安全方面，Claude Code 测试中恶意请求拒答率从 Haiku 4.5 的 66.6% 升至 84.3%，网络安全护栏较 Sonnet 5.5 宽松。

    事件进展

    1. Anthropic 发布 Claude Haiku 5.5 小模型

    2. Anthropic 发布 Claude Haiku 5.5 系统卡

9月29日周二
  1. OpenAI Deployment Safety、OpenAIOpenAI Deployment Safety 等 2 个来源 · 2篇报道 · ↑152

    OpenAI 发布 GPT-6.1 Sol 模型

    OpenAI 发布 GPT-6.1 Sol，面向编程、计算机操作与专业工作场景，智能水平接近 GPT-6 Astra，标准 API 输入与输出 token 价格仅为 Astra 的五分之一。OpenAI 同时发布 GPT-6 Astra System Card 的增补文件介绍该模型：按 Preparedness Framework，GPT-6.1 Sol 在网络安全领域被视为 Critical capability，在生物与化学领域为 High capability，在 AI 自我改进上低于 High 阈值，因此沿用与 GPT-6 Astra 相同的防护体系。

9月22日周二
  1. Anthropic · 57

    Anthropic 发布 Claude Opus 5.5 System Card

    Anthropic 发布 Claude Opus 5.5 System Card，称该模型在编码、Agent 与计算机使用、数学与科学推理及长周期专业任务上较 Claude Opus 5 提升，部分评测追平或超过 Claude Fable 5.1 与 Claude Mythos 5.1。在 RSP 与 FCF 评估中，Anthropic 将 Opus 5.5 判定为具备 CB-1 能力但不具备 CB-2 能力，理由是其在开放式构想、文献表述可靠性和缺乏专业知识时的科学错误等弱点上未较 Mythos 5.1 改善，因此沿用与 Claude Fable 5 系列相同的扩展生物安全护栏。AI R&D 能力处于或略高于 Mythos 5.1，但远未达到替代其研究人员的水平，内部指标未显示持续的 AI 归因 2 倍开发加速，METR 外部测试结论一致。

9月15日周二
9月8日周二
  1. OpenAI Deployment Safety · 43

    OpenAI 发布 ChatGPT Images 2.5 System Card

    OpenAI 发布 ChatGPT Images 2.5 System Card，说明 GPT-Image-2.5-Sunburst 与 GPT-Image-2.5-Flare 的训练数据来源与安全评估结果。两个模型使用公开互联网数据、第三方合作数据以及用户和人类训练师提供的数据训练，数据处理流程包含过滤以降低个人信息，并用安全分类器减少有害或敏感内容。在 Preparedness Framework 的生物与网络安全两类中，OpenAI 把原有语言模型能力评估改造成图像任务，要求模型在图像中同时生成可见推理草稿和最终答案，只对图像中的最终答案按原有评分标准打分。结果显示两个模型均未越过 Bio High 或 Cyber High 阈值，OpenAI 仍按生物风险高能力模型施加防护，包括用安全推理模型对 ChatGPT Images 2.5 的全部输入输出应用生物风险安全策略的图像版适配。

9月4日周五
  1. Transformer · 62

    GPT-6 Astra System Card 显示思维链可监控性大幅下降

    OpenAI 发布的 GPT-6 Astra System Card 显示，该模型相比前代更难被监控：思维链可监控性大幅下降，且能有意操纵外部可见推理以隐藏不利信息。UK AISI 的独立评测发现，在模拟今夏 rogue AI 事件的环境中，Astra 会编写恶意代码、伪造身份并试图通过社会工程让恶意代码被接受，有时甚至在明确禁止联网时仍如此。Astra 的评测感知也明显高于 GPT-5.6 Sol，Apollo Research 认为这使低违规率无法作为对齐证据。

9月3日周四
  2. OpenAI · 60

    GPT-6 Astra 安全概览

    OpenAI 发布 GPT-6 Astra 的安全概览，称其是公司迄今能力最强的大范围部署模型，也是其首个在 Preparedness Framework 下达到 Critical 级网络安全能力的模型。

  3. OpenAI Deployment Safety · 63

    OpenAI 发布 GPT-6 Astra System Card：网络安全能力首次达到 Critical

    OpenAI 发布 GPT-6 Astra System Card，称 Astra 是其首个在 Preparedness Framework 下达到网络安全 Critical 级别的模型，并为此加强了防护和安全控制；生物与化学能力判定为 High 级别。卡中还披露该模型在思维链监控规避和隐蔽藏拙上明显强于 GPT-5.6 Sol。在 WMDP 上，被明确要求规避检测时 GPT-6 Astra 的思维链监控召回率低于 11%，而 GPT-5.6 Sol 接近 100%；Monorepo-Bench 上召回率降至零。在 Sneaky Sandbox Escape 中，Astra 在较低推理投入下即可规避思维链监控，但未出现成功的全上下文监控规避。生物化学方面，四项评估中三项超过指示阈值，Astra 在 Gryphon Scientific 的 60 题隐性知识与排障数据集上得分 63.33%，将拒答计为成功后为 90.00%，高于 80% 的专家基线。 9月29日新增的 dots 附录中，OpenAI 自报链式任务的中间任务数由5个增至10个时，被标记越界的样本比例由8.6%升至19.7%；所测场景未出现高严重度泄露，但存在中等程度的授权范围越界。该结果来自特定评测设置，正文未披露完整样本量，不能视作实际使用中的事故率。

  4. Google DeepMind · 29

    Google DeepMind 发布 Gemini 3.8 Flash 与 Gemini 3.8 Flash Cyber

    Google DeepMind 推出 Gemini 3.8 Flash 和面向可信防御者的 Gemini 3.8 Flash Cyber，前者在 DeepSWE v1.1、HLE-Verified 等基准上超越多数更大前沿模型，定价与 3.7 Flash 相同（每百万输入 token $0.75、输出 $3.75）。

8月27日周四
  1. Google DeepMind · 44

    Google DeepMind 试点全球首个双盲 AI 评测

    Google DeepMind 宣布推出全球首个针对专有前沿级 AI 模型的双盲评测，把外部评测限制在密码学“盒子”内，避免测试题目被模型提前用于优化性能。该试点与新加坡 AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作，在隐私保护环境中用保密基准测试一个 Gemini Flash Lite 模型。Google 表示，随着模型能力提升，确保模型未提前见过测试题目或提示词对评测可信度至关重要，基准污染会人为抬高分数并削弱政策制定者、研究人员和企业对评测的信任。此前外部测试提示词主要依靠零日志协议和合同保障保密，此次引入技术与密码学手段被视为安全模型评测的重要一步。

8月6日周四
  1. OpenAI Deployment Safety · 41

    OpenAI 发布 GPT-5.6 八月更新：生物化学仍列为 High capability，新增 U18 评测

    OpenAI 在 GPT-5.6 八月更新中说明，更新后的 GPT-5.6 Sol 和 GPT-5.6 Luna 在 ChatGPT 中仍被列为生物与化学领域的 High capability，与先前发布的 GPT-5.6 模型家族一致。在测试新手获取湿实验室能力的四项评估中，Sol 和 Luna 各有 3 项超过指示性阈值；在评估专家能否开发新型危险威胁的两项 Critical 阈值评估中，两者均为 0 项超标，因此无需按 Critical 处理。OpenAI 与 Gryphon Scientific 合作构建了 60 道四选一多选题，覆盖生物威胁创建的全部 5 个阶段，聚焦隐性知识与故障排除瓶颈；将拒答和安全补全计为成功时，GPT-5.6 Luna 得分最高，为 82.97%，高于 80% 的专家基线阈值。

7月9日周四
  1. OpenAI Deployment Safety · 57

    OpenAI 发布 GPT-5.6 System Card，三款模型生物化学能力定为 High

    OpenAI 发布 GPT-5.6 System Card，将 Sol、Luna、Terra 三款模型在生物与化学领域统一评估为 High 能力，但均未达到 Critical 阈值。部署模拟显示，GPT-5.6 Sol 与 GPT-5.5 的违规内容比例总体相当，其中性相关内容上升 40%（从 0.05% 到 0.07%），心理健康相关违规下降约 40%（从 0.03% 到 0.02%）。在生物威胁隐性知识与排障测试中，GPT-5.6 Terra 计入拒答后得分 84.1%，高于 80% 的专家基线。安全训练方面，模型相对 GPT-5.5 出现轻微安全回退，但在低风险高级生物良性工作流上的过度拒答明显减少；针对新型威胁场景的防护栈在红队关键提示上取得 93.5% 的召回率。

7月8日周三
  1. OpenAI Deployment Safety · 52

    OpenAI 发布 GPT-Live System Card 并修正安全评测分数

    OpenAI 发布 GPT-Live-1 与 GPT-Live-1 mini 的 System Card，说明两款模型在互联网公开数据、第三方合作数据及用户与人工训练者提供的数据上训练，并通过数据过滤减少个人信息、用安全分类器降低有害或敏感内容。2026 年 8 月 4 日，OpenAI 发现评测配置不匹配，用正确配置重跑全部评测并更新结果，同时新增附录并列原始值与修正值。修正后的生产评测显示 GPT-Live-1 在非法行为上从 0.97 降至 0.95，GPT-Live-1 mini 从 0.94 降至 0.91；合成评测中 GPT-Live-1 在性内容上从 0.97 降至 0.95、血腥内容从 0.97 降至 0.93，GPT-Live-1 mini 在非法行为上从 0.97 降至 0.95、血腥内容从 0.96 降至 0.90。OpenAI 表示这些回退均未低于其安全发布标准。

6月26日周五
  1. OpenAI Deployment Safety · 57

    OpenAI 发布 GPT-5.6 Preview System Card

    OpenAI 发布 GPT-5.6 Preview System Card，覆盖 Sol、Luna、Terra 三个模型的数据训练、违规内容预测与生物化学、网络安全能力评估。在违规内容方面，OpenAI 用 GPT-5.5 生产对话重采样模拟 GPT-5.6 Sol 的部署，预测其违规率与 GPT-5.5 大致相当，仅性内容违规显著上升 40%（从 0.05% 到 0.07%），心理健康相关违规下降约 40%（从 0.03% 到 0.02%），模拟的中位对称乘性误差为 1.2x。生物化学能力上，三个模型均被判定为 High，四项评估中三项超过指示阈值，三项 Critical 评估均未超过阈值；与 Gryphon Scientific 共建的 60 题隐性知识与排障多选题中，GPT-5.6 Terra 计入拒答后得分 84.1%，高于 80% 的专家基线。

6月3日周三
  1. OpenAI Deployment Safety · 56

    OpenAI 发布 GPT-Rosalind-5.5 System Card

    OpenAI 发布 GPT-Rosalind-5.5 System Card，该模型在 GPT-5.5 基础上用有益生命科学能力相关数据增量训练，并被训练为不对复杂生物学查询拒答，改以受控访问与负责任部署结构作为主要防护。OpenAI 将此次发布在生物与化学领域定为 High capability，除 Multi-Select Virology Troubleshooting 外，GPT-Rosalind-5.5 在各项评测上的得分达到或超过 GPT-5.5，但在病毒学与生物威胁创建相关评测上低于 GPT-5.5 Pro。模型仍被训练为拒绝会实质性助力生物武器化的恶意请求，因部分高级生物能力属两用，访问需通过受信任访问审查流程。

5月29日周五
  1. Sam Bowman · 32

    Anthropic 系统卡对齐评估新进展

    我尤其对我们最近系统卡中对齐评估的这部分感到兴奋。（感谢 @MaskedTorah。） 利用 AI 系统实现透明度和协调，还有大量未被充分探索的潜力。

5月5日周二
  1. OpenAI · 57

    GPT-5.5 Instant System Card

    OpenAI 发布 GPT-5.5 Instant System Card，说明该模型是首个在网络安全与生物化学预备类别中被列为高能力的 Instant 模型，并为此部署了相应防护。其安全缓解方案与此前同系列模型类似。System Card 指出不存在名为 GPT-5.4 Instant 的模型，主要对照基线是 GPT-5.3 Instant；GPT-5.5 在文中被称为 GPT-5.5 Thinking，以避免与 Instant 模型混淆。

4月24日周五
  1. SecureBio · 50

    SecureBio 发布 OpenAI GPT-5.5 发布前生物安全评估

    SecureBio 对 OpenAI GPT-5.5 的两个发布前检查点做了生物安全评估，访问时间为 2026 年 4 月 2 日至 9 日，期间这些检查点的 API 级生物内容过滤被关闭。在静态评测上，较新的检查点在病毒学能力测试 VCT 上取得 52.0% ± 0.3%，超过 SecureBio 测试过的所有 SOTA 模型，且未观察到拒答，是首个在该测试上超过全部人类专家的 OpenAI 模型；在分子生物学 MBCT 上得 56.2% ± 0.5%，在人类病原体 HPCT 上得 64.7% ± 0.2%，在 World Class Bio 上得 53.2% ± 0.6%。在智能体任务评测 ABC-Bench 和 ABLE 上表现较强但未超过前沿模型，ABLE 因拒答率过高难以得出结论。