HackAgent 19 种攻击手法拆解:AI Agent 越狱测试与提示词注入
「AI Agent越狱测试」+「提示词注入」+「HackAgent」:19种攻击手法拆解
AI 导读
开源红队工具 HackAgent v0.17.0 内置 19 种越狱与提示注入攻击手法,同一份 YAML 配置换个模型还能重跑。作者在本机安装 0.17.0 并实跑了 validate 与 dry_run 命令。攻击分为静态 9 种、自适应 8 种、多轮 2 种,其中 rag、stac、tool_output_ipi、toolhijacker 四种的入口在 Agent 读到的数据里而非对话。评测侧支持多法官投票,默认 majority、阈值 7.0(满分 10),法官调用失败或回答读不出时投弃权而非安全,全部弃权记 error 不进分母。可选的 audit 会在首次攻击前用 HarmBench 100 条人工标注样本检验各法官与面板聚合的准确率,并检查改写文风后判决是否翻转。
相关论文