跳到正文
原文

AutoPI:分类法引导的 LLM 智能体提示注入自适应红队测试

AutoPI: Taxonomy-Guided Adaptive Red Teaming for Prompt Injection in LLM Agents

arXiv:其他 AI 安全论文· arXiv:2611.24313· Stavros Damianakis, Konstantinos Psounis·本站收录· 13 小时前· 原文发表攻击· 扫描记录里的位置 →
AI 导读

研究者 Damianakis 与 Psounis 提出 AutoPI,一种以提示注入技术分类体系 PIAtlas 引导搜索并衡量覆盖面的自适应红队测试方法。它为分类体系中每个子技术生成注入,再依据 LLM 评判的反馈改写失败的注入,目标是找出更多样的攻击方式而非只提高攻击成功率;方法为黑盒、无需训练,可替换现有基准中的固定攻击模板,并随分类体系更新。在 AgentDojo 和 IPI Arena 上对开源与闭源模型的评测中,AutoPI 对 Qwen3.6-35B 在全部六个类别和超过 90% 的技术上找到成功注入;对评测中最稳健的 Claude Haiku 5.5,相比近期最先进的自适应红队方法,攻击成功率高出 20% 到 50%,类别级覆盖率高出 25% 到 400%。作者发布了代码与生成的攻击,以支持可复现、覆盖面导向的评估。

阅读原文arxiv.org