Failure-First releases toolchain adversarial dataset covering 26 scenarios across 4 attack types
Introducing the Tool-Chain Adversarial Dataset: 26 Scenarios Across 4 Attack Classes
AI summary
Failure-First 发布工具链对抗数据集 tool_chain_adversarial_v0.1,在 agentic_systems 域下提供 26 个针对 LLM 智能体工具调用层的对抗场景,分属四类攻击。四类分别是用注入指令改写工具调用顺序的工具链劫持 9 个、把对抗内容写入智能体记忆并在后续会话复现的记忆持久化攻击 8 个、从一处应用注入并传播到另一处无直接访问权应用的跨应用注入 7 个,以及多轮渐进重构目标的目标漂移诱导 2 个。每个场景都标注攻击成功率预测、危害类别和不可逆风险,数据集为 JSONL 格式,随附校验脚本和基准运行器,可用于基准评测、分类器训练与验证以及红队场景设计。数据集不包含真实智能体的执行轨迹和针对特定模型优化的攻击载荷,也不覆盖物理执行阶段;提示软件杀伤链第 5 至 7 阶段的覆盖计划在后续版本中加入。