攻击arXiv 2609.09553
研究：任意密文攻击前沿大模型无需微调即可越狱
提出任意字母置换密码越狱，无需微调即可诱导有害输出
- arXiv
- 2609.09553
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 攻击者
- 黑盒
- 被测模型
- Claude Sonnet 4、Claude Sonnet 4.5、Gemini 3 Flash (preview) 等7个
摘要前沿大模型无需微调即可通过提示词学会字母置换密码，进而绕过分类器与对齐，作者呼吁关注能力提升带来的安全风险。
- 攻击arXiv 2603.10091
多流扰动攻击：通过并发任务干扰突破思考型 LLM 的安全对齐
提出多流扰动攻击，交织有害与良性任务绕过思考型 LLM 安全对齐
- arXiv
- 2603.10091
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Qwen3 1.7B、Qwen3 4B、Qwen3 8B 等11个
摘要多流扰动用任务交织测试 thinking 模式，作者称它同时冲击内容安全与推理稳定性。
多流扰动攻击把有害任务与良性任务织进同一提示词，测试 thinking 模式的内容安全与推理稳定性。作者认为，交织多任务会拉长思考，使安全检测面对被打散的有害意图，并可能把推理用于合理化，或陷入崩溃与重复。方法不访问梯度。
已经到底了