防御arXiv 2609.36434
研究提出 Safety Operator：用谱优化调节安全指令的表达强度
提出 Safety Operator，用谱优化调节安全指令表达强度
- arXiv
- 2609.36434
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Gemma 3 1B、Gemma 3 4B
- 防御arXiv 2609.10613
后验重加权框架解释并缓解多模态大模型上下文越狱
用后验重加权解释多模态上下文越狱，并提出风险门控的良性示例注入防御
- arXiv
- 2609.10613
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Qwen3-VL-2B、Qwen3-VL-4B、Qwen3-VL-8B 等8个
摘要后验重加权解释上下文越狱的缩放，并支持风险门控的良性示例防御。
Zhang 等把多模态 ICL 越狱写成对齐模型在安全与有害隐模式之间的推理时后验漂移，并据此做风险门控防御。
- 防御arXiv 2609.03693
AlcaTRAz：无需模型权重的规则树提示级越狱防御
提出 AlcaTRAz，用锚定字符规则树改写提示以防御越狱
- arXiv
- 2609.03693
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- LLaMA 2、LLaMA 3.1、LLaMA 3.2 等14个
- 评测与基准arXiv 2602.04294
少样本示例如何影响针对 LLM 越狱攻击的提示词防御
分析少样本示范对 RoP 与 ToP 提示防御抗越狱效果的影响
- arXiv
- 2602.04294
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Pangu-Embedded-1B、Pangu-Embedded-7B、Pangu-Embedded-7B-Think 等9个
摘要few-shot 可抬高 RoP、压低 ToP，但表内有反号，Think 模型更低。
作者评估 few-shot 示范如何改变 RoP 与 ToP 对越狱的防御效果。
- 防御arXiv 2602.13234
Stay in Character, Stay Safe：面向安全角色扮演智能体的双循环对抗自演化框架
提出 DASE，以对抗自演化知识库在推理时加固角色扮演抗越狱
- arXiv
- 2602.13234
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- Kimi-K2-Instruct、GPT-5.2
摘要DASE 用双循环知识库，在两家闭源模型上同时提高保真分与拒答率。
DASE 是给专有闭源角色扮演智能体用的训练自由防御，目标是人设保真与安全拒答一起成立，而不是改模型权重。问题在于人设沉浸，尤其负面人设，会压过原有护栏。SFT、数据筛选和正则又跟不上新人设与新攻击，也不能用于没有梯度的 black-box API。
已经到底了