事件历史事件
研究揭示保留词元编码放大提示注入攻击
先了解这件事
AI 综述
《Byte Authority》论文发现，同一段伪造对话标记以保留词元编码发送时，比拆成普通子词更容易攻破AI智能体：在Llama-3.1-8B上，保留词元注入成功率98.2%，拆分后降至39.7%，低于纯文本注入的51.6%；Llama-3.1、GLM-4.5、Seed-OSS-36B的保留身份效应达39至66个百分点，而生成思考过程的Qwen3-8B差距仅8.1个百分点。
AI 根据报道生成 · 21 天前更新
相关研究
报道提到其成果的论文
- 报道提到 SecAlignSecAlign：用偏好优化防御提示注入同样的文字，不一样的权力：AI 提示词注入中的保留词元实验
ACM CCS 2025 · 2024-10-07 · 深度解读
- 报道提到 AgentDojoAgentDojo：评估 LLM 智能体提示注入攻击与防御的动态环境同样的文字，不一样的权力：AI 提示词注入中的保留词元实验
arXiv · 2024-06-19 · 深度解读
- 报道提到 InjecAgentInjecAgent：工具集成大语言模型智能体的间接提示注入基准评测同样的文字，不一样的权力：AI 提示词注入中的保留词元实验
arXiv · 2024-03-05 · 深度解读
后续时间线
10月22日
- 科技行者精选同样的文字，不一样的权力：AI 提示词注入中的保留词元实验
一篇题为《Byte Authority》的论文发现，同一段伪造对话标记以保留词元编码发送时，比拆成普通子词更容易攻破 AI 智能体。在 Llama-3.1-8B 上，保留词元时提示注入成功率为 98.2%，拆分后降至 39.7%，低于纯文本注入的 51.6%；Llama-3.1、GLM-4.5 和 Seed-OSS-36B 三个模型的保留身份效应达到 39 到 66 个百分点。Qwen3-8B 因生成思考过程而差距仅 8.1 个百分点，强行关闭思考后升至 49.8 个百分点。研究者在 InjecAgent 和 AgentDojo 上测试了 Qwen3-8B、Llama-3.1-8B、GLM-4.5 和 Seed-OSS-36B，并发现下载量最高的 400 个对话模型中，有 33 种分词器配置未把工具协议词元纳入拆分防御。