研究者提出提示注入攻击分类体系PIAtlas并发布PICorpus数据集
先了解这件事
2026年10月18日，南加州大学研究者发布预印本论文（arXiv:2610.24999），提出提示注入攻击分类体系PIAtlas，按注入指令如何构造以颠覆模型来划分，包含指令操纵、结构伪装、混淆、社会工程、场景框定、输出胁迫六类颠覆机制，每类对应模型一种被利用的特性，并配有只看文本即可检验的签名规则，使标注无需猜测攻击者意图。该分类从大语言模型的训练、提示方式以及类人框架的影响推导而来，并与历史攻击数据对比。作者同时发布PICorpus，称其为目前最大的许可清晰的公开提示注入数据集集合，在人工核验流程下将其中数千条记录映射到PIAtlas。映射显示攻击通常组合来自少数机制的多种技术，且常用Agent基准只覆盖部分攻击。
AI 根据报道生成 · 10 天前更新
走势与进展
每小时关注度
现在 35，24 小时 0%·峰值 35（11月6日 03:00）
相关研究
这件事的论文
- SoK：PIAtlas 拆解无界的提示注入攻击空间
arXiv · 2026-10-18 · 深度解读
后续时间线
- 公众号 大模型安全研究PIAtlas：把提示注入分为六类机制，一种按构建机制解构提示词注入攻击空间的分类法
南加州大学研究者于 2026 年 10 月 18 日发布预印本论文（arXiv:2610.24999），提出按构建机制解构提示注入攻击空间的 PIAtlas 分类法，把攻击分为指令操纵、结构伪装、混淆、社会工程、场景框定、输出胁迫六类，每类对应模型一种被利用的特性，并配有只看文本即可检验的签名规则，使标注无需猜测攻击者意图。论文同时发布 PICorpus，称其为最大的许可干净公开注入数据集，将数千条记录映射到六类机制。分析发现：大多数攻击组合多种机制；广泛使用的智能体基准只覆盖攻击空间的一部分；自适应攻击者偏好的机制恰恰是被低估的部分。这项工作尚未经同行评审，六类边界的人工标注也存在一定主观性。
- arXiv：越狱、提示注入、投毒与防御SoK：PIAtlas 拆解无界的提示注入攻击空间
研究者提出 PIAtlas，一个按注入指令如何构造以颠覆模型来划分的提示注入攻击分类体系，包含六类颠覆机制，并据此构建技术与子技术的层级。该分类从 LLM 的训练、提示方式以及类人框架的影响推导而来，并与历史攻击数据对比。作者同时发布 PICorpus，称其为目前最大的许可清晰的公开提示注入数据集集合，在人工核验流程下将其中数千条记录映射到 PIAtlas。映射显示攻击通常组合来自少数机制的多种技术，且常用 Agent 基准只覆盖部分攻击空间，自适应攻击者偏好被精选基准低估的机制。
相关讨论
关注度走势
每天新增来源
- 11月2日新增1个来源（1家媒体、0个账号）
- 11月3日新增0个来源（0家媒体、0个账号）
- 11月4日新增0个来源（0家媒体、0个账号）
- 11月5日新增0个来源（0家媒体、0个账号）
- 11月6日新增0个来源（0家媒体、0个账号）
- 11月7日新增0个来源（0家媒体、0个账号）
- 11月8日新增0个来源（0家媒体、0个账号）
- 11月9日新增0个来源（0家媒体、0个账号）
- 11月10日新增0个来源（0家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）