翻转比特改变立场：对大语言模型的决策级认知劫持
Flipping Minds by Flipping Bits: Decision-Level Cognitive Hijacking of Large Language Models
AI 导读
论文提出 CogBias 框架，用比特翻转攻击（BFA）在部署后篡改大语言模型权重，实现决策级认知劫持。CogBias 通过可微分情感评估器把主观偏好转成优化信号，用多目标损失共同约束多个维度，并构建 BitScout 定位关键比特，在极稀疏的翻转预算下完成定向认知干预。在 Llama-3.2-3B、Mistral-7B 和 Qwen2.5-14B 以及商业推荐和有争议事实话题场景上，翻转少量比特即可稳定引发模型在目标话题上的显著立场偏移，对非目标任务和整体输出分布的影响有限。作者称该攻击不需要实时交互，也无需控制训练过程，表明对权重数据的微小扰动足以破坏模型的高层价值对齐。