评测与基准arXiv 2610.02827
MLCommons 发布 Jailbreak Benchmark v1.0
构建 MLCommons 越狱基准以测量模型的单轮越狱韧性
- arXiv
- 2610.02827
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 测试
- GPT-OSS 120B、Gemma 3N E4B Instruct、LFM2-24B-A2B 等 8 个
- 攻击越狱
摘要论文建立了单轮越狱评测的标准化端到端方法学体系，揭示了开源大模型在对抗提示词下的安全性能降级与大模型负差距现象。
- 评测与基准arXiv 2609.05843
SinoGlyphBench：中文字形混淆下语言模型审核的诊断基准
提出 SinoGlyphBench，用配对字形混淆诊断中文审核稳定性
- arXiv
- 2609.05843
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 测试
- GPT-5.4 mini、GPT-5.5、DeepSeek V4 Flash 等 12 个
摘要SinoGlyphBench 显示中文字形混淆会同时增加有害漏报和误报，全文扰动最重。
SinoGlyphBench是一个配对诊断基准，用来看内容审核在可还原的中文字形混淆下是否还保持原决定。
- 评测与基准arXiv 2609.36562
ThinkingGuard：通过逐步风险归因解码多模态大语言模型中的隐式危害
构建 TriggerBench 并训练 ThinkingGuard，检测图文隐式风险
- arXiv
- 2609.36562
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 测试
- GPT-5.1、OpenAI Moderation API、ThinkingGuard（Qwen3-VL-8B-Instruct） 等 9 个
摘要TriggerBench 隔离触发条件，ThinkingGuard 用分步归因在隐式风险检测上取得作者报告的较高平均分。
这篇工作研究多模态隐式风险检测：图文各自良性，风险只在关键元素与触发元素交互时出现。
- 评测与基准arXiv 2609.10594
研究系统比较六种越狱评测器的可靠性
比较多种越狱评审器与人工标签的一致性
- arXiv
- 2609.10594
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 测试
- GPT-3.5 Turbo、GPT-4、GPT-4o mini 等 7 个
- 组件护栏与评审
摘要共享骨干下六种评审器与人标的一致程度不同，JADES 的 F1 最高。
这项测量比较的是越狱成功怎样被自动判定，不提出新的攻击。。
- 评测与基准arXiv 2609.07216
DIVA：利用视觉锚点对视频生成模型实施多模态越狱
提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型
- arXiv
- 2609.07216
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 测试
- Open-Sora、Sora 2、Wan 等 9 个
摘要DIVA 用视觉锚点抑制语义漂移做视频越狱，并给出多条件安全基准 TI2VSafetyBench。
DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱：用一致性机制本身堵住语义漂移这条安全逃逸路径。。
- 评测与基准arXiv 2609.08256
ACEA：面向红蓝队对抗的 LLM 协同演化测试平台
提出红蓝对抗评测平台 ACEA，分开计量攻击强度与防御效果
- arXiv
- 2609.08256
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 测试
- openai/gpt-4o、google/gemini-2.5-pro、google/gemma-3-27b-it 等 5 个
摘要ACEA 用 ASAP 让红蓝对同一目标对打。
ACEA 是让可插拔红队和蓝队共享一个目标 LLM 的对打场地，把攻击强度和防御效果分开记分。作者要补三处空缺：双方只能对着固定对手分开练。LLM judge 分不清真实泄露和幻觉，拦截后又看不到攻击有多强。
- 评测与基准arXiv 2609.21793
CASCADE 研究：跨流水线阶段的越狱防御组合评估
用 CASCADE 在统一威胁模型下筛选跨阶段越狱防御组合
- arXiv
- 2609.21793
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 测试
- GPT-3.5、GPT-4o、GPT-5.4-mini 等 10 个
- 评测与基准arXiv 2609.36931
研究发现系统提示中隐藏日期影响 LLM 评测结果
测量系统提示中隐藏日期对评测分数与排名的影响
- arXiv
- 2609.36931
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 测试
- GPT-OSS (20B)、GPT-OSS (120B)、GPT-5.1 (gpt-5.1-2025-11-13) 等 10 个
摘要只改隐藏日期就足以改变分数和排名。
这篇工作量化一个评测协议问题：系统提示词里用户看不见、且逐日变化的当前日期，会不会单独改变 LLM 分数。
- 评测与基准arXiv 2608.17360
Fair-ASR：在共享目标调用预算下重新评测黑盒越狱攻击
在共享目标调用预算下重评黑盒越狱并提出 ReCode
- arXiv
- 2608.17360
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 测试
- gpt-oss-20b、gpt-oss-120b、GPT-4o 等 11 个
- 攻击越狱
- 评测与基准arXiv 2608.03070
FAR.AI 发布 AI 安全排行榜与护栏最低标准 1.0
建立越狱原语分类与双重危害基准，评测模型抵御常见越狱的能力
- arXiv
- 2608.03070
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 测试
- GPT-5.6 Sol、GPT-5.5、Claude Fable 5 等 8 个
摘要论文系统评测了前沿模型对已知静态越狱的防御能力，揭示了厂商间防护鲁棒性的巨大分化。
本研究针对前沿 AI 大模型在 CBRNE 与网络高危滥用领域的安全防护，提出了 FAR.AI 最低安全标准（Minimal Standard v1.0）及配套评测基准，系统量化了当前主流模型的防护鲁棒性。
- 评测与基准arXiv 2609.30094
PrivDrift：审计活跃 LLM 对话中话题漂移下的用户秘密泄露
提出 PrivDrift 基准，审计话题漂移后的用户秘密复述
- arXiv
- 2609.30094
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 测试
- GPT-OSS-120B、DeepSeek-R1、Qwen3-VL-235B
- 评测与基准arXiv 2609.33401
论文评估 System One 模型在 Agent 安全决策中的可靠性、校准与选择性自动化
评测 System One 模型对 Agent 安全输入的分类可靠性与校准
- arXiv
- 2609.33401
- 发表
- 层
- 提示层
- 场景
- LLM 应用
- 测试
- GPT-4.1、Jev 1.13、Decider, approximately 2B 等 14 个
摘要离线评测表明，安全判定的总体分数和校准不能代替分组误差和带预算的自动决策检查。
Liu 离线评测 System One 模型能否为智能体安全输入给出可自动化的概率决策。问题是分类是否可靠，以及概率能否在指定漏检和误拦上限内支持放行、拦截或复核。
- 评测与基准arXiv 2609.35028
VEX-Bench：评测 LLM 生成虚假信息的核验复杂度
提出 VEX-Bench 评测 LLM 生成虚假信息的核查复杂度
- arXiv
- 2609.35028
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 测试
- GPT-5.4、Claude Sonnet 4.5、Gemini 3.1 Pro 等 7 个
- 攻击恶意使用
摘要VEX-Bench 用筛查时的五维复杂度衡量虚假信息对核查容量的占用，并报告生成与核查的成本差。
VEX-Bench 把 LLM 虚假信息的风险从“能否生成”改成“筛查时会占用多少核查容量”。
已经到底了