迷失在噪声中：推理模型为何在上下文干扰下失效

论文提出 NoisyBench 基准，在 RAG、推理、对齐与工具使用四类共 11 个数据集上加入随机文档、无关聊天历史和硬负例干扰，评测发现 SOTA 推理模型平均性能最多下降约 80%。其中 Gemini-2.5-Pro 在硬负例下平均下降 38.3%，DeepSeek-R1-Distill-Llama-8B 下降 80.6%；不含对抗意图的随机干扰也能让 BBQ 对齐任务从 94.0% 降至 60.5%。作者称带工具的 Agent 工作流在噪声下比基础推理模型更差，原因是过度信任工具输出。提示、上下文工程与 SFT 均未提升鲁棒性，SFT 因灾难性遗忘反而下降；作者提出的 Rationale-Aware Reward（RARE）与结果奖励结合后在所有干扰设置下优于单独使用结果奖励，并观察到测试时计算越多性能越差的逆缩放趋势。

Deep readingGenerating