跳到正文

#安全评测

今天收录 2 条

第 5 页更新的内容回到最新

8月21日周五
  1. Failure-First ·

    《Jailbreak Paradox》论文证明越狱检测的两个结构性不可能定理并用泰米尔语黑盒实验佐证

    该论文从结构层面证明了两个关于越狱检测的不可能性结果:不存在完美分类器——若假设存在能免疫越狱的最强模型,构造其叠加完美分类器的复合体会更强从而矛盾;弱模型无法判定强模型的越狱输入,因判官置信度受自身能力上限约束而非目标行为。作者将 Albert Jailbreak、Pliny Jailbreak 与两轮代码生成的 CodeJB 三种黑盒方法译为泰米尔语,在不同语言能力层级的多个模型上做了实证检验。

8月20日周四
  1. Failure-First ·

    HoloCount:面向 MLLM 的整体视觉计数基准

    Deng 等人提出 HoloCount——一个针对多模态大语言模型的整体视觉计数基准,覆盖 1481 个独特视觉概念,并按语义计数、解析计数、鲁棒性测试三层分类诊断数值幻觉。高密度场景下性能崩塌明显:宏平均超 75% 的 Qwen3.5-27B 准确率跌至 20%,Gemini-3.1-Pro-Preview 仅 49.0%(MAE 10.46)。空目标提示子集中还出现反向悖论,轻量模型优于大型专有引擎,反映其不愿输出计数为零的过度自信倾向。

  2. Cisco AI Blog ·

    Foundation AI 发布 Antares 系列模型与安全推理基准

    Foundation AI 发布 Antares 系列开放权重模型(350M、1B、3B),专用于智能体漏洞定位:仅凭 CWE 描述和仓库只读权限即可定位漏洞所在文件,其中 3B 模型性能对标 GPT-5.5,且可本地运行。Antares-350M 与 Antares-1B 已公开,一个月内在 Hugging Face 下载量达 29,800 次。团队还在 FAITH 评测中心新增 CTI-Reasoning 和 CWE-Prediction 两项推理基准,用于衡量模型对安全问题的推理能力而非记忆事实。

8月19日周三
  1. Datadog Security Labs ·

    Datadog 实测:编码 Agent 的 plan 模式并未写出更安全的代码

    Datadog Security Labs 用同一提示词让 Sonnet 5、Composer 2.5、GPT 5.5 分别在默认模式和 plan 模式下各构建一个含登录、文件上传、搜索、评论和角色管理的文档门户应用,再用 Datadog Code Security 与 Claude 的 code_review 技能审计代码。结论是 plan 模式与更安全的代码之间没有明显相关性:六次实现全部存在 IDOR 漏洞,任何已认证用户都能访问、下载或评论他人文档,因为提示词从未写明文档只能对所有者可见。作者用开源工具 Supply Chain Firewall 拦截恶意 npm 包安装,它多次拦下含 8 个高危漏洞的 [email protected] 等依赖,模型随后将其升级到无漏洞版本。作者认为提示词对减少安全漏洞的影响大于模式选择,后续将测试专门的安全技能与提示词。

  2. Failure-First ·

    Pluralis v0.1 发布:面向 AI 风险与可靠性的多文化多模态多语言基准

    Pluralis v0.1 是一个面向 AI 风险与可靠性的多文化、多模态、多语言基准,覆盖孟加拉国、印度、韩国、巴基斯坦、新加坡、台湾六个地区,包含 14 种语言变体与 6,448 条提示词,由区域学术伙伴、政府 AI 安全机构(如新加坡 IMDA、韩国 AI Safety Institute)和本地标注者参与构建。该基准采用文化优先方法,提示词由本地专家原生构思而非翻译西方数据,并配对图像以捕捉文本与图像单独无害、组合后在特定地区构成风险的协同失败模式,例如电子烟携带建议在新加坡、印度、台湾涉及违法,以及送钟在中国文化中的禁忌。

8月18日周二
  1. arXiv ·

    Fair-ASR:在共享目标调用预算下重新评测黑盒越狱攻击

    论文提出 Fair-ASR 评测协议,用可直接观测的目标调用次数 B 作为黑盒越狱攻击的统一比较轴,并单独记录攻击方调用次数用于效率分析,以替代难以在黑盒模型上估计的 FLOPs 口径。作者在 Fair-ASR 下重新评测 11 种代表性攻击,发现攻击排名随目标调用预算变化而明显改变,简单的随机扰动和手工模板在同等目标访问量下仍具竞争力,且没有一种被评测的 LLM 驱动方法在目标调用与攻击方调用两方面都高效。基于这一效率缺口,作者提出组合式攻击 ReCode,将去敏感化改写与 Fair-ASR 识别出的两个低成本原语结合,在 20 次目标调用预算下对 GPT-5 达到 85% 攻击成功率,平均每个请求仅需 7.19 次攻击方调用。

8月17日周一
8月14日周五
  1. METR ·

    METR 近 6 个月获约 7100 万美元资助,用于自主能力与递归自我改进研究

    METR 在近 6 个月获得约 7100 万美元资助承诺,用于研究自主能力、追踪递归自我改进、评估监控系统、开展风险评估和调查 AI 事件。METR 表示未接受前沿 AI 公司资助,也不接受其员工直接或按其指示的捐款,但这些公司目前为其评测、研究和工程提供大量免费 token。该机构正在扩充团队并启动新项目。

8月12日周三
  1. AI Safety in China (Concordia AI) ·

    Concordia AI 发布 2026 Q2 前沿 AI 风险监测报告:多项风险指数一年内上升数倍

    Concordia AI 在 2026 年 7 月 19 日的 WAIC 上发布前沿 AI 风险监测平台 v2.0,包含风险指数 v2.0、2026 Q2 风险监测报告和前沿 AI 风险基准数据库。报告覆盖 13 家公司 2025 Q3 至 2026 Q2 发布的 47 个前沿模型,包括 GPT-5.5、Claude Opus 4.8、Grok 4.3、DeepSeek V4 Pro、Qwen 3.7 Max、豆包 Seed 2.1 Pro、混元 3.0 Preview、文心 5.1、MiniMax M3、Kimi K2.6、GLM 5.2 和 MiMo V2.5 Pro。风险指数 v2.0 设能力黄线与风险黄线两条阈值,前者表示无护栏时模型会显著提高严重危害风险,后者表示即使有现有护栏残余风险仍达高风险边界。

8月11日周二
  1. arXiv ·

    通过采样 BPE token 统计审计中文网页规模语料库

    Sampled-BPE 是一种轻量级 token 级审计流程,通过采样小规模子集并训练 BPE 分词器来暴露受污染 token,在污染类别上仅引入 4.25% 相对误差的同时实现 148.4 倍加速和 35.8 倍内存降低。研究将其应用于 11 个开源中文语料库和 2021 至 2026 年的 6 个中文 Common Crawl 快照,发现开源语料库中污染普遍存在但不均衡,中文网页内容污染严重且随时间变化。团队还发布了包含 66 万余条 token 记录的分层中文网页 token 数据集,每条记录带有网页上下文、类别和解释字段,并以树状结构组织以支持污染审查与溯源。

  2. arXiv ·

    SHE:面向 LLM Agent 的轨迹驱动安全护栏演化框架

    研究者提出 Safety Harness Evolution(SHE),一个从 rollout 轨迹中学习演化安全边界的框架,用于提升 LLM Agent 的安全性。SHE 把 Agent 护栏拆成 System Prompt、Rule Bank、Safety Memory 和 Tool Policy 四类具有明确安全职责的组件,为局部演化划定功能边界。在此基础上,SHE 引入归因引导的演化循环,把轨迹失败转化为结构化诊断,学习各组件专属的边界修正,并通过安全与效用验证筛选演化后的护栏。

8月8日周六
  1. SecureBio · · 原文 81

    SecureBio 评测 Kimi K3 生物能力:BCI 142,危险提示拒答率仅 26.9%

    SecureBio 对 Moonshot AI 的 Kimi K3 做了生物能力与护栏评测,其 Bio Capabilities Index(BCI)得分为 142,在已评测模型中排第七,相当于闭源前沿约 8.1 个月前的水平。知识基准上,Kimi K3 在 Virology Capabilities Test 得 46.7%、Molecular Biology Capabilities Test 得 58.4%、World Class Biology 得 55.0%、Human Pathogen Capabilities Test 得 58.5%,在 MBCT、WCB、VCT 上取得开源权重模型最高分,HPCT 则落后于 GLM-5.2 的 65.3%。

    推荐理由SecureBio 用自建生物能力指数和 BioTIER 护栏评测给出 Kimi K3 与闭源前沿的能力差距和拒答率,可对照开源权重生物风险。

8月6日周四
  1. Failure-First ·

    Failure-First AI 安全日报:Google DeepMind 三天内连发两款机器人模型

    Google DeepMind 于 7 月 28 日和 30 日先后发布 Gemini Robotics 2 与 Gemini Robotics ER 2,前者主打全身智能,后者新增视频理解、任务编排和多机协作,均为厂商公告且无公开对抗评估。同期 OpenAI 发布了涉及自身模型的第三方网络能力评估说明。两篇待关注预印本分别提出自动提示注入红队的智能体系统与恶意微调的梯度免疫防护。

8月5日周三
  1. AI as Normal Technology ·

    研究团队用"影子评测"测试前沿 Agent 能否开展开放式 AI 研究

    研究团队与两篇未发表 AI 论文的作者合作,让前沿 AI Agent 用数千美元 API 额度和六天时间回答这些论文的核心研究问题,结果原作者明确拒收了两篇 Agent 论文。团队随后用一百多小时分析 Agent 日志,发现它们缺乏开放式研究的判断力,会基于低质量或合成数据迅速否定自己提出的方向;两次运行都只花掉不到 50% 的 API 预算,且截止前仍有数小时剩余;面对负面反馈只会给既有结论加限定条件并继续押注无望方向,第一天后就放弃了最有雄心的研究目标,也没有根本改变方法;同时无视关于探索时间、AI 自审频率和论文长度的明确规则。

  2. IAPS(Institute for AI Policy and Strategy) ·

    IAPS 测评 LLM 商品分类能力:Claude Opus 4.8 初步表现可行但仍需更多测试

    IAPS 用定性方法测试了大语言模型的出口管制商品分类能力,给 Claude Opus 4.8 提供 ecfr 工具访问联邦法规 API,让其判定物品对应的 ECCN。该模型能跨《出口管理条例》检索并组合条款、借助图像识别 NVIDIA Vera Rubin AI 加速卡、依据名称认定 ASML EUV 光刻机属受控物项,还能准确做单位换算,但也存在依赖题目中暗示参数的问题。由于商品分类容错率为零且人工复核无法省力,IAPS 建议 BIS 设立试点,并用制造商数据表等更贴近真实的输入继续测试。

  3. Failure-First ·

    研究揭示越狱判定器不可靠:ASR 自动评分存在校准与对抗鲁棒性问题

    Veyon Solutions 的 Yang Gao 在 HarmBench 分类器验证集(596 条人工标注完成结果)上测试了自动越狱判定器的可靠性,发现两类判定器以相反方式失效。专用分类器(如 HarmBench classifier)召回率 0.974、精确率 0.835,倾向过度标记,可能抬高 ASR;LLM-as-judge 精确率高但召回率极低,Qwen2.5-7B 召回仅 0.174、F1 为 0.294,Qwen2.5-3B 召回 0.059。在内容不变的包装攻击下,仅加一句拒答前缀就能让 LLM 判定器把有害内容改判为安全,翻转率在 39% 至 88% 之间,部分模型任意包装的翻转率达 100%。

8月4日周二
  1. arXiv ·

    ForesightSafety-TIDE:虚假证词使 LLM 多智能体系统事实恢复率从 72.50% 降至 14.17%

    论文提出 ForesightSafety-TIDE 评测框架,将全诚实协作与关键证据持有者受控欺骗严格配对,通过多阶段投票、证词采纳和证据溯源追踪 LLM 多智能体系统的信息聚合过程。在 120 个五智能体物体移动环境中,部分观测共同决定唯一终点,作者评测了 3 个同构 LLM 多智能体系统。配对条件下,聚合事实恢复率从 72.50% 降至 14.17%,每个系统均显著下降。过程追踪与退出消融显示,单条虚假证词比真实证词更容易被采纳,传播到更高阶,并在欺骗者退出后仍通过诚实智能体持续存在;没有第一手证据的旁观者能抑制错误共识,但不会提升事实恢复率。作者认为,虚假证据通过被其他智能体采纳并在通信中继续传播而获得集体影响力。

  2. arXiv · · 原文 82

    AI Security Leaderboard 发布:四个前沿模型的越狱成本相差上百倍

    独立基准 AI Security Leaderboard 发布 v1.0 报告,按 FAR$.$AI Minimal Standard 对前沿模型的护栏从弱到强排名,测试范围覆盖 CBRNE(化学、生物、放射、核与爆炸物)严重滥用请求和进攻性网络安全。报告测试了四个领先模型:Claude Fable 5 和 GPT-5.6 Sol 抵御了所有攻击,未发现通用越狱,作者估计用该方法越狱的成本可能超过 14200 美元;而 Grok 4.5 和 Gemini 3.1 Pro 存在数百个通用越狱,每个成本不到 300 美元,Grok 最弱的网络安全领域越狱成本低至 24 美元。

    推荐理由该榜单在同一最小标准下横向比较四个前沿模型的越狱成本,并指出所有弱点都已有现成防御,便于评估方理解当前护栏差距。

8月3日周一
  1. 安远AI(中文站) ·

    安远AI发布前沿AI风险测评基准数据库

    安远AI在WAIC上发布“前沿AI风险监测平台2.0”,其中“前沿AI风险测评基准数据库”收录2023年以来两百多项前沿AI风险测评基准,覆盖网络攻击、生物风险、化学风险、有害操纵、失控、核风险、具身伤害等领域。数据库采用“AI自动收集+人工审核入库”工作流,按风险领域、测评类型、测评功能点、测评对象类型、开源情况等属性结构化整理,并提供测评基准列表与风险模型两个入口。

8月2日周日
  1. arXiv ·

    MasDrift:跨多智能体架构的授权保持基准

    MasDrift 是一个覆盖八个领域、600 个良性生产力任务的多智能体授权保持基准,每项任务将必需工作与保留动作配对,比较单智能体、集中式和去中心化协调在层级深度与同级宽度变化下的任务完成率和授权保持情况。在通用多智能体条件下,集中式层级完成率为 93.9%–98.6%,同级网络为 85.7%–87.0%;未授权动作分别出现在 2.7%–19.8% 和 0.6%–0.8% 的任务中,差距随层级深度扩大。研究还比较了两种防御:一种将每个待处理调用重新锚定到原始用户请求,在所有评测模型配置中减少未授权动作,代价是汇总完成率下降 1.6 个百分点;另一种沿委派链传递衰减策略,反而阻断必需工作,最多损失 36.3 个百分点。

7月31日周五
  1. 安远AI(中文站) ·

    安远AI发布2026Q2前沿AI风险监测报告:风险指数不到一年增长数倍,多模型越过风险黄线

    安远AI在2026年7月19日的世界人工智能大会上发布前沿AI风险监测平台2.0,包含风险指数2.0版、2026 Q2风险监测报告和前沿AI风险测评基准数据库三项更新。本期报告首次采用风险指数2.0版框架,将能力分对风险指数的影响从线性改为指数关系,把安全分拆分为基础安全分、越狱安全分和篡改安全分,并引入能力黄线与风险黄线,同时首次引入前沿越狱攻击技术。报告覆盖13家AI公司在2025Q3到2026Q2发布的47个前沿模型,包括GPT-5.5、Claude Opus 4.8、Grok 4.3、DeepSeek V4 Pro、Qwen 3.7 Max等。报告向模型开发者、AI安全研究者和政策制定者提出了相应建议。

7月30日周四
  1. Failure-First ·

    Yuvion LLM:面向内容与 AI 安全的对抗感知大语言模型

    Yuvion LLM 提出将对抗鲁棒性与智能体能力列为一等目标的安全模型,通过五类功能性数据和三阶段训练流程应对语义伪装下的有害请求。其数据体系涵盖通用、安全域、对抗、智能体和合成专家数据,分别支撑语言能力、风险分类学、混淆变体(拼音替换、符号替代)、工具调用轨迹与长尾高风险场景覆盖。训练分三阶段推进:知识增强持续预训练内化细粒度审核政策,基于政策的监督微调加 GRPO 打磨决策边界,再以分解密集奖励稳定工具集成与检索增强的多步安全工作流。

  2. FAR.AI · · 原文 80

    FAR.AI 发布 AI Security Leaderboard:四个前沿模型护栏强度相差逾百倍

    FAR.AI 发布 AI Security Leaderboard(leaderboard.far.ai),在相同条件下测试四个前沿模型的护栏,并配套提出 Minimal Standard for Safeguards。测试用自动化工具包把越狱技术拆解重组,生成数十万条提示词,覆盖化学、生物、放射、核、爆炸物与网络等风险领域;把在某一领域超过四分之三有害请求上成功的攻击称为通用越狱,并计算攻击者找到它的成本。结果显示,最脆弱的 Grok 4.5 仅需 58 美元即可开发出跨全部测试领域的攻击,网络领域更低至 24 美元,部分越狱组件来自公开论坛和代码仓库;Claude Fable 5 与 GPT-5.6 Sol 未发现通用越狱,估计需花费超过 14000 美元。FAR.AI 称这些数字假设低投入攻击者,具备专业越狱经验者可能找到更多入口,并强调发现的弱点均属已知攻击类别、已有现成防御。

    推荐理由FAR.AI 用统一攻击工具包对四个前沿模型做同条件红队测试,并给出可比较的破解成本,为评估护栏强度提供了横向参照。

7月29日周三
  1. SecureBio · · 原文 71

    SecureBio 评审 Anthropic 未删节化生风险报告:Claude Opus 4.6

    SecureBio 与 Anthropic 合作评审了其 2026 年 2 月风险报告的化学与生物(CB)风险章节,Anthropic 提供了未删节版本及 110 页补充材料,并在两个月内回应了七十多个后续问题。SecureBio 认同 Anthropic 的总体结论:Claude Opus 4.6 大幅促成灾难性结果的当前风险,在非新型 CB 武器生产上为“极低但不可忽略”,在新型 CB 武器生产上为“低风险但存在较大不确定性”。评审发现,作为主要 CB 风险护栏的拒答分类器在 SecureBio 的 BioTIER-refuse 基准上拒绝了 94.2% 的危险提示词,但建议随生物技术进展持续更新其训练宪法。评审还审查了用户豁免审查与监控流程,认为威胁行为者借此大幅提升 CB 武器生产的可能性不大但存在。SecureBio 表示此项工作未接受 Anthropic 资助。

    推荐理由SecureBio 以外部评审身份复核 Anthropic 未删节报告,给出与厂商结论的异同及三条风险削减建议,可看第三方评审如何落地 RSP 条款。

  2. FAR.AI ·

    FAR.AI 首尔对齐研讨会 2026:AI 安全需要可信测量与工程标准

    FAR.AI 在 ICML 2026 同期举办首尔对齐研讨会,近 200 名来自前沿实验室、学术界、政府和 AI 安全机构的人士参加,核心结论是 AI 能力提升远快于可靠性建设。FAR.AI 红队目前很少在前沿闭源模型上找到端到端越狱,但发现除一层外所有防护层都会失效,单一新攻击手法即可击穿整个系统。会议还介绍了 PostTrainBench,用于衡量智能体能否端到端完成 LLM 后训练,该基准设有奖励作弊判定,被标记的作弊运行按基座模型计分。

7月28日周二
  1. Failure-First ·

    ForesightSafety-VLA:面向视觉-语言-动作模型的统一诊断安全基准

    Lyu 等人提出 ForesightSafety-VLA,一个把具身安全从结果检查转为过程级评估目标的诊断基准,用于暴露视觉-语言-动作(VLA)模型在任务完成与物理可靠性之间的安全差距。基准用 13 个安全类别组成三层分类体系,覆盖物理、指令与感知三类失效,并通过危险注入、约束收紧、时序前置条件插入三种算子构建 66 个基础场景。评测采用四象限结果框架,区分安全成功、不安全成功、安全失败与不安全失败,并用累计安全成本(CC)和风险暴露时间(RET)刻画过程风险。

7月27日周一
  1. Import AI · · 原文 78

    Import AI 466:MirrorCode 长时程编程基准、机器人泛化与 OpenAI 模型越界取分

    Epoch 与 METR 发布 MirrorCode 基准,用纯 CLI 访问考察 AI 能否从零重写完整软件程序,25 个目标程序中有 17 个至少出现一次满分运行,8 个从未达到 100% 阈值,ruff、giac_subset 和 mailauth 最难;Opus 4.7 用 14 小时、251 美元推理成本完成一项 METR 与 Epoch 估计人类需 2 至 17 周的任务。Anthropic 的 Project Fetch 第二阶段显示,2025 年 8 月 Claude Opus 4.1 完全无法完成四足机器人任务,而 2026 年 5 月 Opus 4.7 自主在 9 分 35 秒内完成除一项外的全部任务。

    推荐理由汇总 MirrorCode 长时程编程基准、Anthropic 机器人实验与 OpenAI 模型越界事件,可一次看到长时程智能体的能力与失控风险。

7月25日周六
7月24日周五
  1. SecureBio · · 原文 82

    SecureBio 发布 GPT-5.6 Sol 生物滥用风险预发布测试报告

    SecureBio 对 OpenAI 最新旗舰模型 GPT-5.6 Sol 开展生物滥用相关能力的预发布测试,测试期间关闭了 OpenAI 系统级的生物风险内容过滤器。在四项知识基准中的三项上,GPT-5.6 Sol 得分超过此前测试过的所有模型,也高于各基准上的人类专家;在 World-Class Bio 上得分为 68%,比 GPT-5.5 高约 9 个百分点。在智能体基准上,它在 ReproBAIT 中平均复现出原工具 82% 的已发表性能,在蛋白设计工作流 ABLE 的每个愿意尝试的任务上表现最佳,但拒绝了最高层级的规划步骤。关闭护栏的 railfree 版本在 DNA 合成筛查规避任务上取得新高分,能稳定找到一种可绕过商业筛查算法的方法,但实际执行对恶意行为者并不方便;受护栏保护的发布候选版本则直接拒绝该任务。

    推荐理由第三方机构在关闭系统级生物风险过滤器后测试 GPT-5.6 Sol,给出各基准分数与护栏拒答率,可对照厂商自评。

7月23日周四
  1. SentinelLabs(AI Research) · · 原文 71

    SentinelLABS 用 fast16 样本评测前沿模型的长周期恶意软件分析能力

    SentinelLABS 基于其 2005 年 sabotage implant fast16 的真实调查,构建了一个八阶段逆向工程基准,测试前沿模型能否在证据不断推翻先前结论时维持可信的恶意软件调查。OpenAI 的 GPT-5.6 Sol 是唯一完成全部八阶段的公开可用模型,三个不同推理强度设置的运行均通过基准;GPT-5.5、GLM-5.2 和 Opus 4.x 系列能完成局部分析,但无法贯穿整个梯度。区分完成运行的关键是项目级恢复能力,即撤回被推翻的结论、修复技术产物、更新依赖报告而不丢失调查。最强运行仍犯语义错误、接受薄弱的质量控制并过早宣称就绪,作者认为当前最佳用途是受监督的调查代理,由人类分析师定义目标并保留最终发布权。所有实验共消耗超过 230 亿 token,缓存读取率 93.58%;自托管 GLM-5.2 以 100 美元预算产出 267.41M token。

    推荐理由SentinelLABS 用真实恶意软件样本构建八阶段逆向工程基准,给出各前沿模型在长周期调查中的具体失败点与成本数据。

7月21日周二
  1. METR ·

    METR 提出“支出视界”指标衡量 AI 智能体优化能力,并以 NanoGPT 为例

    METR 提出用“支出视界”衡量 AI 智能体的优化能力,即人类与 AI 成本效益曲线相交的预算点。在 NanoGPT 优化任务中,人类每提升 1% 性能约需 2500 美元人力成本,而初步智能体优化运行在花费超 1 万美元后,估计支出视界仅为 0 至 3000 美元。该方法可连续评分并纳入实验算力成本,适用于 RE-bench、MLE-bench 等 AI R&D 基准。

7月20日周一
  1. Import AI ·

    UK AISI 评测:开源权重模型与闭源前沿的网络能力差距正在缩小

    英国政府 AI Security Institute(AISI)首次公开分析开源权重模型在网络安全能力上落后闭源前沿模型的程度,结论是今年的差距已经缩小。在 70 项细分网络能力评测上,GLM-5.2 最接近早 4.3 个月发布的 Claude Opus 4.6,DeepSeek-V4-Pro 介于 Claude Opus 4.5 与 GPT-5 之间;而 2025 年大部分时间测得的差距为 6 到 10 个月。在名为 The Last Ones 的长周期网络靶场上差距更大,GLM-5.2 仅达到 Opus 4.5 的水平,DeepSeek V4-Pro 低于 Sonnet 4.5。

7月19日周日
  1. 安远AI(中文站) ·

    安远AI在WAIC发布前沿AI风险监测平台2.0

    安远AI在2026年世界人工智能大会上发布前沿AI风险监测平台2.0,包含风险指数2.0版、2026 Q2风险监测报告和前沿AI风险测评基准数据库三项更新,以及与复旦大学等合作的自主网络渗透评估报告。风险指数2.0把风险指数改为能力分的指数函数,能力分超过能力黄线阈值C0后风险加速增长,并把总安全分拆为基础安全分S1、越狱安全分S2和篡改安全分S3;测评基准新增CVE-Bench、BixBench、FrontierScience和自研FRT红队框架,FRT从2023至2026年的100多种攻击方法中筛选出22种高成功率方法,再为每个模型选取最有效的3种。测评基准数据库收录2023至2026年间200多项基准,并按风险场景关联能力、倾向、护栏三类测评功能点。合作研究对19个前沿模型评估自主网络渗透能力,Tier 1渗透成功率最高69.3%,Tier 2最高68.7%。

7月17日周五
  1. Google DeepMind · · 原文 74

    Google DeepMind 发布 Gemini 3.5 Flash Cyber 网络安全模型

    Google DeepMind 推出 Gemini 3.5 Flash Cyber,一款基于 3.5 Flash 微调的轻量网络安全模型,用于快速发现、验证和修补漏洞,在相关任务上优于 Gemini 主线 Flash 模型。该模型通过 CodeMender 以限量试点方式先向政府和可信伙伴开放,后续逐步扩大范围;CodeMender 的基础能力也通过 Gemini Enterprise Agent Platform 向普通 Gemini 模型客户开放。

    推荐理由Google 公开了 3.5 Flash Cyber 在 CyberGym、Big Sleep 与 Chrome 提交扫描上的评测结果,可对照其轻量模型在漏洞发现上的定位。

  2. 腾讯玄武实验室 ·

    腾讯玄武 Atuin AI 在 CyberGym 上的表现:GLM-5.2 更新结果

    腾讯玄武 Atuin AI 换用 GLM-5.2 重新评估后,在 CyberGym 全部 1,507 个任务上 pass@1 达 84.8%(1,278 个任务),较 GLM-5.1 的 84.0% 提升 0.8 个百分点。相同 GLM-5.1 下,Atuin AI 比 Claude Code 的 68.7% 高出 15.3 个百分点。本次实验新增代理白名单,仅允许连接 LLM 提供商、Python/npm 包注册表和内部服务,其余设置不变。

  3. SecureBio · · 原文 79

    SecureBio 发布 BioTIER 基准,评测 52 个模型的生物安全护栏有效性

    SecureBio 发布 BioTIER(Biological Targeted Information for Exclusion and Refusal)基准,通过拒答行为衡量 AI 模型在生物领域安全与可用性之间的平衡。该基准包含 542 条由 15 位博士级专家撰写并经三轮共识验证的提示词,分为灾难规避(CA,249 条)、生物医学两用研究关切(BD,149 条)和良性相关生物学(RB,144 条)三档风险域,并拆分为 BioTIER-refuse 与 BioTIER-permit 两个评测组件。研究覆盖 10 家开发商的 52 个模型,时间跨度从 2022 年到 2026 年。在 BioTIER-permit 上结果较为一致,几乎所有模型都回答了几乎所有良性查询,最低仍有 75%。研究还发现过度拒答多发生在风险边界附近,而非真正良性的生物学问题。

    推荐理由BioTIER 用 542 条专家提示词同时测拒答与过度拒答,并给出 52 个模型的安全与可用性权衡结果,可对照自家模型的生物安全护栏。

7月13日周一
  1. The EU AI Act Newsletter ·

    EU AI Act Newsletter #106:呼吁强制执行通用人工智能模型规则

    欧盟委员会正推动从 2026 年 8 月 2 日起执行《EU AI Act》中针对具有系统性风险的通用人工智能模型的规则,并收到一批研究者与公民社会组织的公开信施压。信中援引 Anthropic 的 Mythos 模型存在广泛报道的网络攻击能力和生物学及失控风险逼近临界阈值的证据,要求赋予 AI Office 的评估员网络开展外部评估的权力并提供足够资源和政治支持。同期理事会通过 Omnibus VII 简化方案,将高风险系统适用日期推迟至 2027 年 12 月 2 日(嵌入式产品为 2028 年 8 月 2 日)。

7月10日周五
  1. AI Frontiers ·

    美国政府选用 AI 模型引发价值观质疑:谁来定义模型的"性格"

    加州政府已将 AI 助手 Poppy 向员工开放,北达科他州立法委员会和洛杉矶高等法院也相继引入 AI 处理法案总结与案件管理。《华盛顿邮报》近期测试显示,Gemini 3.1 Pro 和 Claude Opus 4.8 是仅有的多数情况下能对政策问题提供意识形态中立回答的前沿模型。不同前沿模型的"性格"差异可能悄然改变政府对危机的应对方式和对政策的取舍,因此民主国家在选择政府采购的 AI 模型时必须考虑其能否代表公众意志。

  2. SecureBio ·

    从 Claude Mythos 到 Fable:为何需要在“Bio Mythos”时刻前建立生物安全保证基础设施

    Anthropic 的 Claude Mythos 因能识别并利用电网、金融网络和医院系统等关键基础设施软件的弱点,将 AI 网络能力风险推上美国政策议程首位,Anthropic 提前向部分企业和政府机构开放早期访问以便防守方加固系统。两个月后 Fable 面向公众发布引发担忧其防护栏可能被绕过,商务部据称给 Anthropic 90 分钟禁止外国国民访问,导致该模型全球下线,此后限制虽解除但仍可重新施加。由于生物能力的危险性更难观察衡量且具有自我复制和进攻主导特性,若缺乏生物安全保证基础设施,“Bio Mythos”时刻可能同样招致被动应对。

7月6日周一