当合规数据伪装成评测：部署后 AI 系统的测量效度问题

论文指出，为运营监控或监管合规收集的数据被当作对比评测证据，是部署后 AI 系统评测中的一类反复出现的失效。以自动驾驶为例，美国脱离接管与碰撞上报机制产生的运营证据，因上报范围、暴露量、部署域、事件捕获和对照构建的差异，无法单独支撑安全性对比结论。作者将其界定为 AI 评测中的测量效度问题，并提出"评测契约"，要求在把运营数据解读为对比性能证据前，先明确预期能力、测量结果、暴露机会、部署域、数据生成过程与评测对照之间的对齐关系。

安全强化学习评测指标：SafeRLEval 开源评测套件

安全强化学习现有基准多以平均安全性报告结果，无法反映安全边界被违反的频率与严重程度、跨任务与跨安全边界的一致性，以及训练期行为能否代表最终收敛策略。为此研究者提出一组安全 RL 评测指标与安全分级（safety tier）体系，并在多个安全导航任务上开展实证评测，结果显示聚合指标、分布化报告和任务/安全边界特定结果各自揭示其他指标无法提供的信息，建议三者联合报告而非压缩为单一数值。团队同时开源了评测套件 SafeRLEval。

研究称 GPT 系列安全训练把性别歧视转化而非消除

一项被 EMNLP 26 主会接收的研究分析了 GPT-2 到 GPT-5 共 15 个模型、45 万条性别指向的补全文本，提出“harm laundering（伤害洗白）”概念，认为显式歧视内容在安全训练后是被转化而非被移除。研究发现 GPT-2 中针对女性的性暴力聚类到 GPT-4 已消失，而针对男性的补全获得了照护、情感表达、盟友身份等正向表征空间，女性指向的补全没有；在 GPT-5 上，一个含 1,997 篇文档的主题聚类把乳腺癌框定为男性权利议题，女性指向输出中没有对应聚类，三个独立分类器都将其判为非毒性。

SafeStage：按执行前中后三阶段评测视觉语言机器人操作安全

作者提出 SafeStage，一个按生命周期结构组织的机器人操作安全基准，用于在任务执行前、执行中和执行后三个阶段评测安全。该基准包含 97 个专门设计的风险场景，分为三类：初始状态危害考察操作目标前必须解决的安全相关关系，执行期安全评估执行过程中的不安全接触、轨迹、区域进入和物体交互，最终状态危害捕捉任务名义完成后仍存在的不稳定或不安全状态。评测采用基于事件和基于状态的检查，并将原生任务成功率与各阶段安全结果分开报告。作者在统一的闭环协议下评测了代表性的直接动作 VLA 策略和基于世界模型的策略，结果显示任务名义完成常与安全违规同时出现，不同策略在三个阶段呈现不同的失败特征。

随机抽样 MCP 注册表：仅 48.8% 服务器完成初始化握手，BFCL v4 工具描述重复率 16.7%

研究对 MCP 服务器生态做了一次未修复的概率抽样，从 24,135 台服务器的注册表普查中按公开随机种子抽取 400 台 npm/stdio 服务器并逐一在线探测。结果显示仅 48.8% 能完成 initialize 握手，而同一工具测得的人工筛选样本为 66.7%；主要失败原因不是缺少凭证（13.3%），而是服务器根本无法启动（37.5%）。在 195 台可运行的服务器中，2,766 个对外声明的工具没有出现致命 JSON Schema 违规，差异集中在可选安全标注上，随机抽样下的工具级遗漏率为 58.8%，人工筛选样本为 41.5%。

Agent Incident Registry 发布 487 条 AI Agent 事件记录

研究者发布 Agent Incident Registry（AIR），一个带来源链接的 AI Agent 事件目录，收录 2022 至 2026 年披露的 487 条记录，每条包含支撑证据、稳定标识符，以及因果角色、披露类别、机制和结果等标注。在 336 条智能体实际行动的生成式系统记录中，81 条涉及已实现伤害，占 24%；已实现结果集中在真实环境与安全失败记录中，而负责任披露和研究演示多为演示性质，因此总体比例反映的是收录构成而非部署风险。初步整理后由第二位人工审核者复核全部 487 条记录及其标签。

研究刻画远程 MCP 生态的网络集中度与可观测性

论文提出三层可观测性框架，对公共 MCP 服务器生态进行实证刻画，覆盖目录元数据、被动合规信号与实时漏洞分析三个层级。作者对两个公共注册表中分层抽样的 179 个远程端点进行评估，发现基础设施高度集中：按 ASN 分布计算的 HHI 为 0.736，远高于 0.25 的高度集中市场阈值。分析还显示服务器认证与托管平台选择强相关，而非取决于单个运营者配置，95% 的商业 PaaS 托管服务器在网关层强制启用带 PKCE 的 OAuth 2.1。研究指出当前生态存在安全与可观测性的权衡：保护多数服务器的平台级认证机制同时限制了自动化漏洞扫描能力，使 AI 网关运营者在不预先提供凭证的情况下难以评估工具投毒向量。

SoK 论文提出 FARSIGHT 框架，评测 15 个学术金融 LLM 交易 Agent 的鲁棒性与安全失败

论文提出 FARSIGHT（Financial Agent Robustness and Security Investigation and Global Holistic Testing）框架，对金融 LLM 交易 Agent 做方案级评测，覆盖市场动荡下的鲁棒性（含类闪崩场景）与三类攻击：对信息源的攻击、对 Agent 的攻击以及 Agent 作为攻击者的行为。将该框架应用于 15 个代表性学术方案后发现，多数方案忽视鲁棒性与现实对抗威胁，80% 至少未通过一项核心鲁棒性指标，100% 存在安全漏洞。作者指出两类失败模式不可分割：小的误判本身即可级联为市场级崩盘，而对手能以极低代价蓄意触发同样的崩溃。

论文指出 Agent 安全评测中攻击成功率并非单一数值

论文认为当前 Agent 安全评测中广泛使用的攻击成功率（ASR）并非单一指标，而是由六项设计选择参数化的一族指标，论文之间很少说明且从未保持一致。作者对 2025 年 2 月至 2026 年 9 月间发布到 arXiv 的 259 篇 Agent 安全论文做全文元分析，发现多数未报告方差估计或重复运行：手工编码的 50 篇随机样本中为 58%（95% CI 44-71），对全部 259 篇自动编码为 65.3%；仅 30.9% 披露了足以判断评测是否随机的解码信息，在确认使用 LLM judge 的 64 篇中，29.7% 报告了与人工标注的一致性检验。

DUMA-Bench：评估 LLM Agent 安全的双控多智能体基准

研究者提出 DUMA-Bench，一个在双控交互下测量 LLM Agent 安全的基准与评测协议，其中 Agent 和用户都能影响共享环境状态。该基准在 τ²-bench 基础上扩展出对抗环境，覆盖 RAG 投毒、跨 Agent 操纵和不安全输出处理等八类漏洞。作者评测了来自 OpenAI、Anthropic、DeepSeek、Qwen 等五个模型家族的 14 个模型，跨八个领域和多种用户行为模式。实验显示，引入双控交互后攻击成功率从 26.9% 升至 41.1%，说明 Agent 安全不只取决于模型本身，还来自模型、用户与环境之间的交互。

Ajar：在 AgentDojo 上测量 Agent 防御中未关闭的权限

Ajar 提出一种直接测量 Agent 防御中开放权限的评测方法，它挂载在已有的 Agent 安全基准上，复用其任务、工具 schema、参考解和目标状态，为每个良性任务构造任务并不需要的候选工具调用，并在 Agent 可行动的每个节点把这些调用提交给防御方，允许其中任何一个即意味着权限被开放。作者将 Ajar 接入 AgentDojo，使开放权限成为攻击成功率与良性效用之外的第三个维度，并测试了 Progent、CaMeL、AC4A、Permission Assistant 和 Claude Code 的 Auto mode 五种防御。

dreadnode 发布 ScopeBench：测量 Agent 在目标压力下是否守住授权边界

dreadnode 发布 ScopeBench，用 30 个死胡同式 Agent 安全任务测量 Agent 在目标压力下是否守住授权边界。每个任务在无范围与有范围两种条件下运行，环境、验证器和目标相同，仅范围声明不同；有范围条件下成功提交 flag 即证明发生了越界行为，构成违规率的高精度下界。8 个模型在同一 harness 中运行，原始能力从 12.2% 到 81.1%，范围遵守率从 34.4% 到 86.7%；机械验证确认 227 次违规，轨迹裁判在机械失败轨迹中另找出 331 次违规，合计 558 次。裁判经 100 条人工逐调用标注轨迹校准，并在模型盲审中保持 100% 召回、失败层重加权特异度 90.5%，误差为单侧过度标记。opus-4-8 的原始能力比 sonnet-4-6 高 10 个百分点，范围遵守率高 35.6 个百分点。

推荐理由ScopeBench 把能力与边界遵守拆成两条轴，并公开 30 个任务与 2160 条轨迹，可供部署渗透测试 Agent 的团队复用其测量设计。

RecToolBench：在模糊用户意图下评测推荐专用工具编排的基准

RecToolBench 是一个基于 MCP 的基准，用于评测模糊用户指令下使用工具的推荐智能体，包含 3 个推荐领域、13 个 MCP 服务器、32 个工具和 1200 多个可执行任务，覆盖单工具调用、并行调用、顺序工具链与混合编排。该基准通过 synthesize–fuzzify–judge 流水线构建，并用规则执行检查与基于评分标准的 LLM 评估来评测智能体轨迹。实验显示，语法有效的工具调用并不保证推荐成功，模型在语义参数落地、多步证据整合和最终推荐上表现不佳，且随编排复杂度上升而恶化。

研究审计 Agent 安全评测缺陷：工具调用中介在间接提示注入下的有效评测框架

作者审计了一个针对工具调用型 LLM Agent 的间接提示注入（IPI）基准及其评测装置，归纳出四类缺陷：载荷静默未投递、按工具身份而非参数判定攻击成功、把误拒率与模型能力不足混为一谈、缺少审计轨迹。用同一批执行轨迹重新打分后，按工具身份判定的评分器报告 21.7% 攻击成功率，而按参数判定的真实值为 1.2%，虚高约十八倍；审计套件中 43 个攻击载荷有 39 个（91%）从未投递。修正后，此前报告攻击成功率 62.8% 的 llama3.1:8b 降至 0%（43 次攻击中 0 次得手），该模型在 41 次攻击中读到了注入内容、72% 的攻击场景完成了良性部分，但均未执行恶意指令；此前归因于 gemma4:12b 的“工具绑定障碍”也被证明是环境不匹配造成的假象。

推荐理由作者审计了一个 IPI 基准的评测装置，量化四类缺陷对攻击成功率的影响，并给出可复用的校验框架。

Agentic Commerce Bench：衡量会花钱的智能体的欺诈检测能力

论文提出用于衡量和降低智能体支付欺诈损失的三项成果。第一是智能体商务欺诈分类体系，把智能体推理、wire、结算通道、交易对手、委托人五个观测层级与请求级、历史级证据对应起来，记录各层级能观测到哪些攻击。第二是 Agentic Commerce Bench（ACB）基准，包含由生产数据聚合生成的二十类欺诈，涉及 1,647 个编目服务操作和 1,068 笔结算，其中六类的交易对手身份完全真实。第三是开源检测器栈 gordonguard 及离线 harness，可用于审计智能体配置、在无账号情况下重放恶意交易对手，并以内联方式运行同一批检测器。

ORBIT：基于 UK AISI Inspect 的多智能体安全评测框架

作者提出 ORBIT，一个基于 UK AISI Inspect 构建的可配置多智能体安全与安全评测框架，用于在真实多智能体环境中联合变化攻击、防御与架构。框架允许配置通信拓扑、记忆、调度和智能体角色，支持四类威胁、四种防御策略以及非对抗性失败，基准套件覆盖浏览器使用、计算机使用、智能体编码、客服和协作分配五个场景族。核心发现是防御在不同威胁间不可迁移：在多议题编码任务中把被攻陷智能体的攻击成功率降低 60 个百分点的逐动作防御，对相互串通的智能体没有可测量的保护，且所测试的防御没有一个能泛化到全部攻击。作者还展示了安全与性能的权衡以及架构与防御效果之间的相互作用，并将 ORBIT 开源。

论文评估 System One 模型在 Agent 安全决策中的可靠性、校准与选择性自动化

论文评估了 Jev、Laya、Decider 和 Bespoke Nimble 等 System One 模型在 Agent 安全决策中的可靠性，并与专用分类器和语言模型裁判对比，考察决策准确率、概率校准和选择性自动化。作者发现，整体表现良好和总体校准较优可能掩盖集中在特定攻击组上的失败，包括被高置信度判为安全的攻击；所评估的适配配置在各任务上并未稳定优于其基座模型。在最严格的误差限制下，策略能自动放行的输入很少，而将放行与拦截阈值分开主要靠更多拦截来提升自动化程度，且通过确认并不保证这些限制在测试集上成立。裁判模型能发现另一个模型漏掉的攻击，但也可能误标更多良性输入，并共享对方的高置信度错误。

Adversa AI 发布 AIRQ 报告：给 100 个无人加固的数字员工做风险评分

Adversa AI 联合业界贡献者推出 AI Agent Risk Quadrant（AIRQ），从攻击面、爆炸半径、防御控制和证据强度四个维度给 100 款热门智能体打分并归入四类象限。当前快照中仅 11% 的智能体兼具能力和良好防御，98% 已带有致命三要素组合，且 83% 声称的防御无法公开验证。该框架可直接复用为企业内部自查清单和对供应商的安全问卷，也便于跟踪平台更新带来的风险漂移。

Adversa AI 发布 AIRQ 框架，对 100 多个 AI 智能体做安全评级

Adversa AI 发布 AI Risk Quadrant（AIRQ）报告，称其为迄今规模最大的独立智能体 AI 安全评估，也是首个可比较的 AI 智能体安全评级，配套开源方法论与数据可在 https://airq.adversa.ai/report 获取。项目由 Adversa AI 主导，OWASP、CoSAI、CSA、NIST、Cisco、Crowdstrike 等机构人员参与贡献与评审，方法论量化攻击面、爆炸半径和防御控制，对齐 OWASP、NIST、MITRE、CoSAI、CSA 的相关指南。

FLI 发布 2025 冬季 AI Safety Index：八家 AI 公司安全实践落后于公开承诺

Future of Life Institute 发布 2025 冬季版 AI Safety Index，由独立专家小组评估全球八家主要 AI 公司的安全实践，评估维度包括风险评估、当前危害、安全框架、生存性安全、治理和信息共享。参评公司为 Anthropic、OpenAI、Google DeepMind、xAI、Meta、Z.ai、DeepSeek 和阿里云。评审认为，尽管各公司在风险评估等方面有渐进改善，但安全实践仍远未达到正在形成的全球标准，主要问题在于落实的深度、具体程度和质量参差不齐。评审还发现，所有明确竞逐 AGI 或超级智能的公司都没有控制比人类更聪明系统的稳健策略，这是行业的核心结构性弱点。

Unit 42 发布 2026 年 8 月 AI 恶意软件态势报告：从品牌滥用到智能体化执行

Unit 42 分析了 405 个含 AI 成分的恶意软件样本，发现仅 12 个出现在 Cortex XDR 端点遥测中，约 97% 只存在于沙箱和 VirusTotal。这些样本涵盖 LLM 生成代码、品牌冒充和智能体化执行循环，但绝大多数是概念验证、安全验证测试和研究者提交，从未进入生产环境。Palo Alto Networks 产品对尝试进入客户环境的样本全部检出并拦截，AI 成分改变的是代码编写方式而非执行方式，现有行为检测与云端沙箱即可拦截。

Opus 4.6 用简单 ReAct 脚手架复刻 CLI 版《Slay the Spire》与《Balatro》的观察

Opus 4.6 在简单 ReAct 脚手架下成功复刻出 CLI 版《Slay the Spire》和《Balatro》，虽功能残缺但基本可玩。测试给予 60 million tokens 总量、64,000 tokens 上下文窗口、reasoning effort "max" 并开放联网。复刻版存在卡牌效果错误、地图导航混乱、部分药水与事件缺失等问题，作者手动游玩约两小时评估，未设严格评分标准。

METR：约半数通过 SWE-bench Verified 的 AI 补丁不会被维护者合并

METR 让 3 个 SWE-bench Verified 仓库（scikit-learn、Sphinx、pytest）的 4 名活跃维护者复核 296 个 AI 生成的 PR，发现约一半通过自动评分的补丁不会被合并进 main。以人工 golden patch 的 68% 合并率做基线归一后，维护者合并率平均比自动评分低约 24.2 个百分点（标准误 2.7）；按每年提升幅度看，维护者合并决定比自动评分慢约 9.6 pp/yr（标准误 5.5），但该趋势结果较弱，仅在 10% 显著性水平上成立，且限制为 SOTA 模型后不再显著。

推荐理由METR 用真实维护者复核 SWE-bench Verified 的通过补丁，量化了基准分数与真实可用性之间的落差。

METR 评审 Anthropic 的 Claude Opus 4.6 破坏风险报告

METR 对 Anthropic 的 Claude Opus 4.6 破坏风险报告做了外部评审，分别针对 2 月 11 日和 3 月 3 日两个版本出具评审文件，并建议读者参考 2 月 11 日版本的评审。METR 认为报告中的证据总体呈现清晰，但多处论证与分析强度不足。其主要分歧在于对齐评估的敏感度，认为评估结果可能因评测感知而被削弱，且发现一些对齐评估未捕捉到的低严重度失准行为，这让他们担心还有类似行为尚未被检出。METR 建议深入调查评测感知与被刻意混淆的失准推理。

推荐理由METR 对 Anthropic 破坏风险报告的第三方评审，指出对齐评估可能受评测感知削弱，并给出风险削减建议。

METR 分析建模假设对时间跨度评测结果的影响

METR 复盘其时间跨度任务套件的建模假设，指出随着任务套件趋于饱和，结果对分析选择越来越敏感。此前修复正则化错误后，近期模型的 50% 时间跨度下降最多 20%。文章逐一考察替代成功率曲线、仅用私有任务、任务长度估计噪声等来源：对 Opus 4.6 而言，合理替代曲线使 50% 时间跨度变化约 1.5 倍、80% 约 2 倍；仅用私有任务时 Opus 4.6 的 50% 时间跨度从 11h 59m 降至 7h 11m，主要来自 RE-Bench 任务，Anthropic 表示未在这些公开任务上训练。作者认为最大的不确定性来自任务分布本身，而非分析选择，并称对任务长度估计噪声最没把握。

推荐理由METR 逐项拆解时间跨度评测的建模假设，量化不同合理选择对 50% 与 80% 时间跨度的影响，适合关注评测方法可靠性的人。

METR 与 Epoch AI 发布 MirrorCode 初步结果：AI 已能完成部分以周计的编码任务

METR 发布 MirrorCode 项目的初步结果，称已有证据表明 AI 能够完成部分以周计的编码任务。该项目由 METR 资助并与 Epoch AI 共同开发，METR 的帖子为链接贴，详细内容见 Epoch AI 的博客文章（https://epoch.ai/publications/mirrorcode-preliminary-results/）。

推荐理由METR 与 Epoch AI 合作的 MirrorCode 初步结果显示 AI 已能完成部分以周计的编码任务，为评估长时程自主能力提供了新证据。

METR 研究笔记：从 NanoGPT 竞速看 AI 智能体的 AI 研发进展

METR 研究笔记通过 NanoGPT speedrun 排行榜评估 AI 智能体对 AI 研发的加速作用：2024 年 5 月至 2026 年 3 月，36 位贡献者提交 77 项记录，将小赛道训练时间从 45 分钟压缩至 1.43 分钟，累计加速 31 倍。其中约 21 倍来自浅层与中等深度贡献，导入、改编、原创想法分别贡献 6.7 倍、3.0 倍和 1.6 倍。2025 年底至 2026 年初有 4 项记录由专用 AI 智能体系统与人类共同署名，但贡献相对浅层；作者同时提示数据污染、幸存者偏差和规模依赖等解读局限。

EngiWorld 基准发布：前沿 Agent 在专业工程环境中最高仅得 44.3 分

研究者提出 EngiWorld，一个围绕完整设计闭环构建的工程 Agent 基准，包含 6 个工程领域（CAD、CAE、CAM、BIM、EDA 和 3D 可视化）、26 个专业软件平台、GUI 与 CLI 两种界面以及 6 类任务，共 1301 个专家整理的任务。该基准采用以产物为中心的评价方法，通过统一的领域验证器套件程序化检查最终与中间产物的几何有效性、物理可行性和规则合规性，并按规格达成度对定量设计任务连续打分，而非二元判定成功。对 7 个前沿模型的评测显示存在明显能力缺口：最强模型的 EngiScore 仅为 44.3，多软件任务的尝试成功率只有 3.6%。

Sys1Cal-v1：Jev 的二元 Choice 输出存在系统性概率失真

研究者发布 Sys1Cal-v1 基准，其每个命题的真实概率由构造已知，可直接评估结构化概率输出而非仅检查预测类别的置信度。在 Jev 上测试发现其原语间存在明显不对称：Noul 与 Score 接近真实概率，而二元 Choice 输出出现系统性非线性失真，可通过引入 True、False 之外的潜在第三分量 Uncertain 来建模，Choice 相当于移除不确定质量后对 True/False 重新归一化。该现象意味着显式表示不确定性可支持不同下游动作，如高错误代价时延迟决策；Sys1Cal-v1 与评估代码已公开，作者希望在其他结构化决策模型上复现，以检验二元或分类输出是否普遍压制决策相关的不确定性。

Import AI 462：超级说服力、自我维持的 AI 与通往 ASI 之路

牛津大学、英国 AI 安全研究所、斯坦福大学与伦敦政治经济学院的研究人员通过四项实验、覆盖 6923 人共 18978 场对话发现，当前 AI 系统在文本说服上比人类专家更具说服力，其中 Opus 4.1 与 Opus 4.6 表现最强，其后是 OpenAI 的 GPT-4o、GPT-5.4，Google 的 Gemini 2.5 Pro 及 xAI 的 Grok 4.20。若将 AI 约束为人类书写速度与人际消息长度，其对顶尖人类的优势从 +4.1pp 降至不显著的 0.0pp，说明产出速率是其说服力优势的主要来源。

Import AI 464：Fable 编写 GPU 内核、AI 自动化与模拟计算

Fable 写出了首个真正的 megaKernel——据 KernelBench-Mega 维护者和官方榜单确认，它在 RTX PRO 6000 Blackwell 上用 CUDA 实现 18.71X 加速，超过 Claude Opus 4.8 的 14.4X、GLM-5.2 的 11.14X 和 GPT 5.5 的 4.34X，且每个解码 token 仅一次协作内核启动，其他高分方案需 4–14 次。

Import AI 466：MirrorCode 长时程编程基准、机器人泛化与 OpenAI 模型越界取分

Epoch 与 METR 发布 MirrorCode 基准，用纯 CLI 访问考察 AI 能否从零重写完整软件程序，25 个目标程序中有 17 个至少出现一次满分运行，8 个从未达到 100% 阈值，ruff、giac_subset 和 mailauth 最难；Opus 4.7 用 14 小时、251 美元推理成本完成一项 METR 与 Epoch 估计人类需 2 至 17 周的任务。Anthropic 的 Project Fetch 第二阶段显示，2025 年 8 月 Claude Opus 4.1 完全无法完成四足机器人任务，而 2026 年 5 月 Opus 4.7 自主在 9 分 35 秒内完成除一项外的全部任务。

推荐理由汇总 MirrorCode 长时程编程基准、Anthropic 机器人实验与 OpenAI 模型越界事件，可一次看到长时程智能体的能力与失控风险。

OpenAI 发布 Model Spec Evals，GPT-5 Thinking 合规率 89%

OpenAI 发布首个完整版 Model Spec Evals，用于衡量模型遵循 OpenAI Model Spec 的程度。该评测覆盖 Model Spec 全部政策章节，包含 596 条提示词和 225 个具体关注点，每条提示词配有说明合规边界的评分细则。评分由自动评分器 GPT-5 Thinking 完成，对每条回复采样五次合规分（1-7）取中位数，1-5 判为不合规、6-7 判为合规。

推荐理由OpenAI 公开了 Model Spec 合规度评测的完整数据集、评分流程与各代模型得分，可供研究者复现并比较模型行为。

OpenAI 发布 MentalHealthBench：面向心理健康对话的 AI 回复评估基准

MentalHealthBench 是一个由专家参与制定的基准，用于评估 AI 在贴近真实的心理健康对话中给出的回复是否有帮助且安全。它同时覆盖有用性与安全性两个评估方向。

Frontier Model Forum 发布 AI 生物安全评估初步分类体系

Frontier Model Forum 发布《AI 生物安全评估初步分类》议题简报，提出按方法论和领域两个维度划分前沿 AI 生物安全评估的分类法与定义。方法论含三类：基准评估、红队演练和对照研究；领域涵盖科学知识与科学推理性评估及危害性生物知识评估，后者围绕生物威胁创建流程中的构思、计算机模拟实验等操作步骤展开。该分类基于 FMF 成员企业专家及外部先进 AI 与生物学专家的意见形成初步共识，旨在推动建立有效的 AI 生物安全评估生态。

SPY Lab 研究：机器学习隐私防御的评测存在误导

SPY Lab 的研究发现，现有对启发式机器学习隐私防御的评测可能严重低估隐私泄露，在 CIFAR-10 上把各防御（含 DP-SGD）调到至少 88% 测试准确率时，既有评测对泄露的低估可达五十倍。作者指出常见评测的三个问题：只关注群体层面的隐私、使用弱且非自适应的攻击、对比低效用的 DP 基线。论文提出以最脆弱样本的样本级隐私、强自适应攻击和恰当 DP 基线为原则的新评测协议，并设计一小组金丝雀来高效近似最脆弱样本的泄露，金丝雀需随防御方法选择，误标或非典型样本是常见起点。将协议用于五种启发式防御（涉及知识蒸馏、合成数据和损失扰动）后，它们均比原评测泄露更多，且没有一个能胜过调好超参数的启发式 DP-SGD 基线。

推荐理由原文指出隐私防御评测普遍高估防护效果，并给出可复用的样本级评测协议与金丝雀设计思路。

SPY Lab 论文指出 LLM 预测评测方法存在四类缺陷

SPY Lab 在博客中介绍其新论文，认为当前对 LLM 预测能力的评测容易出错，难以支撑“LLM 预测水平媲美优秀人类预测者”的结论。

Google DeepMind 发布 Gemini 3.5 Flash Cyber 网络安全模型

Google DeepMind 推出 Gemini 3.5 Flash Cyber，一款基于 3.5 Flash 微调的轻量网络安全模型，用于快速发现、验证和修补漏洞，在相关任务上优于 Gemini 主线 Flash 模型。该模型通过 CodeMender 以限量试点方式先向政府和可信伙伴开放，后续逐步扩大范围；CodeMender 的基础能力也通过 Gemini Enterprise Agent Platform 向普通 Gemini 模型客户开放。

推荐理由Google 公开了 3.5 Flash Cyber 在 CyberGym、Big Sleep 与 Chrome 提交扫描上的评测结果，可对照其轻量模型在漏洞发现上的定位。

Google DeepMind 试点全球首个双盲 AI 评测

Google DeepMind 宣布推出全球首个针对专有前沿级 AI 模型的双盲评测，把外部评测限制在密码学“盒子”内，避免测试题目被模型提前用于优化性能。该试点与新加坡 AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作，在隐私保护环境中用保密基准测试一个 Gemini Flash Lite 模型。Google 表示，随着模型能力提升，确保模型未提前见过测试题目或提示词对评测可信度至关重要，基准污染会人为抬高分数并削弱政策制定者、研究人员和企业对评测的信任。此前外部测试提示词主要依靠零日志协议和合同保障保密，此次引入技术与密码学手段被视为安全模型评测的重要一步。

推荐理由Google DeepMind 与新加坡 AISI 等机构用密码学环境做双盲评测，为基准污染问题提供了一种可迁移的评测流程。

ForesightSafety-VLA：面向视觉-语言-动作模型的统一诊断安全基准

Lyu 等人提出 ForesightSafety-VLA，一个把具身安全从结果检查转为过程级评估目标的诊断基准，用于暴露视觉-语言-动作（VLA）模型在任务完成与物理可靠性之间的安全差距。基准用 13 个安全类别组成三层分类体系，覆盖物理、指令与感知三类失效，并通过危险注入、约束收紧、时序前置条件插入三种算子构建 66 个基础场景。评测采用四象限结果框架，区分安全成功、不安全成功、安全失败与不安全失败，并用累计安全成本（CC）和风险暴露时间（RET）刻画过程风险。