Failure-First·本站收录2026-10-13 12:12· 原文发表2025年12月11日

多流扰动攻击：通过并发任务干扰破坏思考型 LLM 的安全对齐

[Daily Paper] Multi-Stream Perturbation Attack: Breaking Safety Alignment of Thinking LLMs Through Concurrent Task Interference

AI 导读

研究者 Yang 提出一种针对思考型 LLM 的多流扰动攻击，在单个提示词中交错多个任务流、字符反转与格式约束，使模型的推理过程崩溃或退化为重复循环，从而绕过安全对齐。该攻击组合多流交错、反转扰动和形状变换三种策略，效果优于任何单一策略。在被攻击的回复中，最多 17% 出现完全推理崩溃，60% 出现回复重复。攻击在 Qwen3 系列、DeepSeek、Qwen3-Max 和 Gemini 2.5 Flash 等主流思考型模型上均取得较高成功率，论文认为这是思考模式架构的系统性弱点，而非单一模型的缺陷。