防御arXiv 2610.02432
论文提出 LLM 输入扰动鲁棒性度量，并发布 ASA 攻击与 AttestMCP 防护
提出 ASA 与 AttestMCP，度量并降低 LLM 对输入序列扰动的敏感
- arXiv
- 2610.02432
- 发表
- 层
- 应用层
- 攻击者
- 黑盒
- 被测模型
- Gemma-3-27B-Instruct、Gemma-3-4B-Instruct、Llama-3.2-3B-Instruct 等12个
- 防御arXiv 2609.03693
AlcaTRAz：无需模型权重的规则树提示级越狱防御
提出 AlcaTRAz，用锚定字符规则树改写提示以防御越狱
- arXiv
- 2609.03693
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- LLaMA 2、LLaMA 3.1、LLaMA 3.2 等14个
- 防御arXiv 2602.13234
Stay in Character, Stay Safe：面向安全角色扮演智能体的双循环对抗自演化框架
提出 DASE，以对抗自演化知识库在推理时加固角色扮演抗越狱
- arXiv
- 2602.13234
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- Kimi-K2-Instruct、GPT-5.2
摘要DASE 用双循环知识库，在两家闭源模型上同时提高保真分与拒答率。
DASE 是给专有闭源角色扮演智能体用的训练自由防御，目标是人设保真与安全拒答一起成立，而不是改模型权重。问题在于人设沉浸，尤其负面人设，会压过原有护栏。SFT、数据筛选和正则又跟不上新人设与新攻击，也不能用于没有梯度的 black-box API。
已经到底了