攻击arXiv 2604.01039
评估与加固 LLM 系统指令以抵御编码攻击提取
用编码与结构化请求抽取系统指令，并用 CoT 改写加固
- arXiv
- 2604.01039
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- GPT-4.1-mini、GPT-3.5-turbo、Gemini-2.5-flash 等7个
摘要编码式请求可在直接拒答后引出系统指令。
这项工作评测并加固 LLM 系统指令在编码式抽取下的保密性。作者关心的是：直接抽取已被拒绝时，把同一请求改写成格式化或编码任务，模型是否仍交出受保护内容。