防御arXiv 2610.05346
研究者提出序列马赛克攻击并给出防御理论
形式化 watchman 防御以阻止序贯马赛克攻击
- arXiv
- 2610.05346
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it、DeepSeek-V2-Lite (16B-A2.4B)
摘要watchman 理论给出零失败且有用的条件。
这篇工作同时给出序贯马赛克防御的博弈理论，以及冻结 LLM 上的分角色自博弈训练。
- 攻击arXiv 2608.02681
研究揭示批量提示导致大模型安全失效并提出批量感知对齐缓解方案
把批量提示当作越狱攻击，提出 batch-aware DPO 缓解
- arXiv
- 2608.02681
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- Llama-3.1-8B、Phi-4-14B、Qwen-3-8B 等 6 个
摘要有害问题混入良性 batch 可引出有害回答。
这篇工作检查一种本用于省推理成本的输入结构：把多个问题一次送进对齐后的 LLM，安全拒答是否还和单问时一样。
已经到底了