跳到正文

#拒答/过度拒答

今天还没有收录新动态
10月1日周四
  1. Jev Gateway Study(GitHub) · 82

    Jev 与开源决策模型的提示注入检测器基准测试

    该基准在同一台 Apple M4 机器上对比 Jev 1.13.0、Kev-4B、Kev-0.8B、Laya、GLiNER2.5-Decide、ProtectAI DeBERTa、Prompt Guard 2 和关键词规则在文档块注入与用户消息越狱两类任务上的表现。文档块测试中 Jev AUC 为 1.00、冻结阈值下召回 100%、误报 8%,Kev-4B 为 0.90 和 70%,Prompt Guard 2 为 0.83 和 19%;对不直接提及 AI 的隐蔽攻击,Jev 召回 97%,Kev-4B 62%,三个专用注入分类器接近随机水平。在 220 条 LLMail-Inject 真实人类攻击上,Jev 捕获 95%、误报 0%,Kev-4B 捕获 86%、误报 1%;作为邮件助手时 gpt-oss-120b 有 20/220 向攻击者地址发送邮件,Jev 前置时 0 条通过。

    推荐理由这份评测把提示注入检测器放到网关真实任务上横向对比,并给出端到端攻击成功率,可用来判断各检测器的实际拦截差距。

  2. arXiv:危险能力与安全评测 ·

    研究评估语言模型在长对抗对话中的安全性

    研究测试了三个开源权重、指令微调模型在长对抗对话中能否持续安全回应,用第二个语言模型扮演持续对抗用户,由安全分类器标注每条回复是否安全。在全部模型与有害提示组合中,首轮安全回复率为 85% 至 100%,到第 11 轮降至 38% 至 61%,到第 101 轮降至 15% 至 44%。这一下降跨模型出现,并远超多轮安全评测通常采用的短交互长度。作者认为,这提供了单轮安全表现未必延续到持续对抗交互的概念验证证据,说明需要长时程评测和考虑跨轮风险累积的对话级防护。

9月27日周日
  1. arXiv ·

    AgentBound:面向工具型 LLM Agent 安全的四路反事实评测框架

    研究者提出 AgentBound,一个针对工具型 LLM Agent 安全的四路反事实生成与评测框架,通过独立改变表面风险与动作许可性,构造同一可执行工作流的不同版本,从而在控制任务能力的前提下同时诊断过度拒答与不安全执行。该框架被实例化为一个经人工验证的 4000 任务评测套件,采用基于轨迹和基于后置状态的判断方式。在 17 种模型与 harness 配置上,高安全性常与授权任务完成率低并存:GPT-5.5 拦截了 99.5% 看似常规但未授权的动作,却只完成 28.7% 看似有风险但已授权的任务。

  2. arXiv:越狱与提示注入 ·

    论文评估 System One 模型在 Agent 安全决策中的可靠性、校准与选择性自动化

    论文评估了 Jev、Laya、Decider 和 Bespoke Nimble 等 System One 模型在 Agent 安全决策中的可靠性,并与专用分类器和语言模型裁判对比,考察决策准确率、概率校准和选择性自动化。作者发现,整体表现良好和总体校准较优可能掩盖集中在特定攻击组上的失败,包括被高置信度判为安全的攻击;所评估的适配配置在各任务上并未稳定优于其基座模型。在最严格的误差限制下,策略能自动放行的输入很少,而将放行与拦截阈值分开主要靠更多拦截来提升自动化程度,且通过确认并不保证这些限制在测试集上成立。裁判模型能发现另一个模型漏掉的攻击,但也可能误标更多良性输入,并共享对方的高置信度错误。

9月15日周二
  1. SecureBio · · 原文 80

    SecureBio 发布 GPT-6 Astra 发布前生物风险评测报告

    SecureBio 对 OpenAI 于 2026 年 9 月 3 日公开发布的旗舰模型 GPT-6 Astra 做了发布前生物滥用能力评测,测试了带与不带系统级生物护栏的版本。在知识基准上,Astra 在 VCT 和 VCT-v2 上超过此前所有被测模型,相对 GPT-5.6 Sol 分别提升 4.3 和 8 个百分点,比人类专家基线高 30 多个百分点;HPCT 得分与 GPT-5.6 Sol 接近,WCB 得分为 61.6% ± 0.6%,低约 7 个百分点,报告认为这主要源于模型更倾向于含糊作答而非知识缺口。在智能体基准上,Astra 在 ReproBAIT 达到已发表性能的 80-83%(GPT-5.6 Sol 为 63-69%),是首个能生成满足 in silico 可设计性阈值的 de novo 蛋白质设计的模型;无护栏版本还首次完整给出规避 DNA 合成筛查的复杂策略。

    推荐理由第三方机构在发布前对 GPT-6 Astra 做生物滥用能力评测,给出了与上一代模型的逐项对比和拒答率数据。

9月4日周五
  1. arXiv:危险能力与安全评测 ·

    TIER:评估 LLM 安全行为的威胁隐晦度基准

    研究者提出 TIER,一个用于评估 LLM 行为安全的威胁隐晦度基准,覆盖四个风险领域和四个威胁等级,从显式有害请求到复杂越狱。该基准用六标签行为量表和两个独立 LLM 评判器评估回答。在六个开源权重 LLM 上的实验显示,安全行为随威胁等级逐渐演变,而非直接从拒答跳到顺从;上下文类提示词产生最多样的行为,越狱则暴露最大的鲁棒性差距。攻击成功率相近的模型也可能呈现不同的回答分布,说明需要行为感知的 LLM 安全评测。

9月1日周二
  1. arXiv:危险能力与安全评测 ·

    SEAV:面向大语言模型越狱评测的有效性验证框架

    研究者提出 SEAV(Sequential Epistemic and Action-Level Validation),一个以验证为中心的越狱评测框架,把模型回复拆解为有序步骤,同时评估有效性与正确性,结合 LLM-as-a-judge 做语义解释和基于外部知识源的检索验证,判断生成内容是否事实正确、结构一致且能实际推进有害目标。作者指出既有评测依赖拒答行为、语义相似度和意图匹配启发式,偏重语言可信度而非正确性,导致看似合理但事实或流程错误的回复被标为越狱成功。

8月25日周二
  1. Failure-First ·

    LulzBench 实测:MiniMax-M3 拒绝五分之一良性底线对照请求

    Failure-First 公布的首批托管样例中,MiniMax-M3 经托管的 OpenAI 兼容端点运行 LulzBench 全部 21 项良性底线对照,捕获 21/21、无供应商报错,其中 4 项遭拒答且均为真实的带理由拒答,三项涉及轻度恶习或社交劝说前提。同一道雪茄健康玩笑辩论题在一次采样中被完整作答、另一次却拒答,两次采样的 token 预算也不同,因此该不稳定现象无法由单次跑分定量其抽样方差,需做 n-of-k 重采样实验来锁定拒答率。

7月29日周三
  1. SecureBio · · 原文 71

    SecureBio 评审 Anthropic 未删节化生风险报告:Claude Opus 4.6

    SecureBio 与 Anthropic 合作评审了其 2026 年 2 月风险报告的化学与生物(CB)风险章节,Anthropic 提供了未删节版本及 110 页补充材料,并在两个月内回应了七十多个后续问题。SecureBio 认同 Anthropic 的总体结论:Claude Opus 4.6 大幅促成灾难性结果的当前风险,在非新型 CB 武器生产上为“极低但不可忽略”,在新型 CB 武器生产上为“低风险但存在较大不确定性”。评审发现,作为主要 CB 风险护栏的拒答分类器在 SecureBio 的 BioTIER-refuse 基准上拒绝了 94.2% 的危险提示词,但建议随生物技术进展持续更新其训练宪法。评审还审查了用户豁免审查与监控流程,认为威胁行为者借此大幅提升 CB 武器生产的可能性不大但存在。SecureBio 表示此项工作未接受 Anthropic 资助。

    推荐理由SecureBio 以外部评审身份复核 Anthropic 未删节报告,给出与厂商结论的异同及三条风险削减建议,可看第三方评审如何落地 RSP 条款。

7月17日周五
  1. SecureBio · · 原文 79

    SecureBio 发布 BioTIER 基准,评测 52 个模型的生物安全护栏有效性

    SecureBio 发布 BioTIER(Biological Targeted Information for Exclusion and Refusal)基准,通过拒答行为衡量 AI 模型在生物领域安全与可用性之间的平衡。该基准包含 542 条由 15 位博士级专家撰写并经三轮共识验证的提示词,分为灾难规避(CA,249 条)、生物医学两用研究关切(BD,149 条)和良性相关生物学(RB,144 条)三档风险域,并拆分为 BioTIER-refuse 与 BioTIER-permit 两个评测组件。研究覆盖 10 家开发商的 52 个模型,时间跨度从 2022 年到 2026 年。在 BioTIER-permit 上结果较为一致,几乎所有模型都回答了几乎所有良性查询,最低仍有 75%。研究还发现过度拒答多发生在风险边界附近,而非真正良性的生物学问题。

    推荐理由BioTIER 用 542 条专家提示词同时测拒答与过度拒答,并给出 52 个模型的安全与可用性权衡结果,可对照自家模型的生物安全护栏。

5月17日周日
  1. 研究者论文追踪 ·

    研究提出 IRT 框架拆解大模型跨语言安全护栏退化

    研究者提出多组项目反应理论(IRT)框架,把跨语言安全表现拆解为语言无关的安全鲁棒性、提示词固有难度、全局语言处理难度和提示词特定的跨语言安全差距四个潜在变量,以替代把多种因素混在一起的越狱成功率(JSR)。基于 MultiJail 数据集,团队评估了 5 个闭源模型家族共 61 个模型配置、10 种不同资源水平的语言,汇总 190 万条回复。探索性因子分析显示安全主要是一维的,模型拒答不同危害类型主要依赖共享机制。与低资源语言安全更差的预期相反,22 个模型配置在英语下比在低资源语言下更易被攻破;低资源语言产生的不确定回复(高熵)更多。高跨语言安全差距的提示词集中在 Theft、Weapons 等物理危害类别和较低资源语言中,该趋势通过跨数据集泛化得到验证。

4月8日周三
  1. 研究者论文追踪 ·

    TraceSafe-Bench:评估 LLM 护栏在多步工具调用轨迹上的表现

    研究者提出 TraceSafe-Bench,用于评估 LLM 护栏在多步工具调用中间轨迹上的安全性,覆盖提示注入、隐私泄露、模型幻觉、接口不一致等 12 类风险,包含 1000 多个执行实例。团队评测了 13 个 LLM-as-a-guard 模型和 7 个专用护栏,得到三点结论:护栏效果更多取决于结构化数据处理能力(如 JSON 解析),与结构化到文本基准强相关(ρ=0.79,p<0.01),而与标准越狱鲁棒性无关联;轨迹检测准确率不随模型规模单调提升,通用 LLM 持续优于专用安全护栏;在原生上下文范围内检测准确率随轨迹变长而提升,但在极端长上下文场景下因过度拒答而下降。该工作已被 COLM 2026 接收。

已经到底了