跳到正文
原文
Failure-First·本站收录· 原文发表

攻击分类框架收敛:六个对抗 AI 框架在哪里一致

Attack Taxonomy Convergence: Where Six Adversarial AI Frameworks Agree

AI 导读

Failure-First 将 MUZZLE、MITRE ATLAS、AgentDojo、AgentLAB 和 Promptware Kill Chain 等六套对抗攻击分类框架互相映射,指出间接提示注入、记忆/上下文投毒与任务目标劫持三类攻击在四个以上框架中同时出现,作者称这比依赖任何单一分类法更能支撑威胁排序。作者指出 AdvBench、HarmBench、JailbreakBench、StrongREJECT 四套公开静态基准都只针对单轮对话,缺少工具型 Agent、持久记忆、跨应用横向移动、静默外泄和具身场景,并列出 Failure-First schema v0.3 拟新增的攻击类别。

相关论文
阅读原文failurefirst.org