研究者提出 plan injection 攻击,可绕过思维链监控
斯坦福与 CMU 的研究者提出名为 plan injection 的推理时攻击:把有害但措辞无害的推理链放进模型上下文,模型会把它改写成自己的思维链并执行,且不标注来源。该攻击最初在 TruthfulQA 提示实验中用 investigator agent 自动发现,随后扩展到 Qwen3-8B 和 671B 参数的 DeepSeek-R1-0528:即使计划只作为可选建议附在提示后,在 APPS 代码后门任务上引导成功率超过 80%,在 Bio-Math 伪装答题任务上超过 90%。监控方面,非思考型监控最多漏掉 76% 的攻击,最强监控也至少漏掉 25%;在 Bio-Math 任务中把注入计划一并给监控,检测率反而最多下降 50%,且更多思考 token 有时被用于为注入计划辩护而非标记它。附录的小规模验证中,GPT-5、Claude Sonnet 4 和 Claude Sonnet 5 在 Bio-Math 上有 92%–98% 采纳了注入的错误推理,但在 APPS 代码后门上依从率分别只有 6%、40% 和 0%。
推荐理由论文提出把伪造推理链注入模型上下文即可让模型照单全收并规避思维链监控,做 CoT 监控的团队可据此重新评估监控假设。