防御性拒答偏差：安全对齐如何让网络防御者受挫
Defensive Refusal Bias: How Safety Alignment Fails Cyber Defenders
AI 导读
研究者基于全国大学生网络防御竞赛（NCCDC）的 2,390 条真实防御提示词，发现安全对齐的大语言模型会系统性拒绝合法的防御性网络安全请求，含 exploit、payload 等攻击性术语的提示词被拒率是语义等价中性请求的 2.72 倍（p<0.001）。整体拒答率为 12.2%，其中 Claude 3.5 Sonnet 为 19.5%、GPT-4o 为 10.2%、Llama-3.3-70B-Instruct 为 6.6%。明确授权信号反而使拒答率上升（21.8% 对 11.6%），系统加固（43.8%）、恶意软件分析（34.3%）、漏洞评估（22.7%）等关键任务拒答率最高。嵌入向量单独预测拒答的 AUC 为 0.827，关键词特征仅 0.572，作者据此认为拒答由语义邻近有害内容驱动而非关键词匹配，并呼吁安全评测同时衡量误拒率与对防御能力的影响。
推荐理由
论文用 2,390 条真实防御竞赛提示词量化了安全对齐的过度拒答，并给出授权信号反而抬高拒答率的反直觉结果。