跳到正文
原文
公众号 大模型安全研究·本站收录· 原文发表

PIAtlas:把提示注入分为六类机制,一种按构建机制解构提示词注入攻击空间的分类法

AI 导读

南加州大学研究者于 2026 年 10 月 18 日发布预印本论文(arXiv:2610.24999),提出按构建机制解构提示注入攻击空间的 PIAtlas 分类法,把攻击分为指令操纵、结构伪装、混淆、社会工程、场景框定、输出胁迫六类,每类对应模型一种被利用的特性,并配有只看文本即可检验的签名规则,使标注无需猜测攻击者意图。论文同时发布 PICorpus,称其为最大的许可干净公开注入数据集,将数千条记录映射到六类机制。分析发现:大多数攻击组合多种机制;广泛使用的智能体基准只覆盖攻击空间的一部分;自适应攻击者偏好的机制恰恰是被低估的部分。这项工作尚未经同行评审,六类边界的人工标注也存在一定主观性。

相关论文
阅读原文mp.weixin.qq.com