评测与基准arXiv 2602.04294
少样本示例如何影响针对 LLM 越狱攻击的提示词防御
分析少样本示范对 RoP 与 ToP 提示防御抗越狱效果的影响
- arXiv
- 2602.04294
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Pangu-Embedded-1B、Pangu-Embedded-7B、Pangu-Embedded-7B-Think 等9个
摘要few-shot 可抬高 RoP、压低 ToP，但表内有反号，Think 模型更低。
作者评估 few-shot 示范如何改变 RoP 与 ToP 对越狱的防御效果。