跳到正文
原文
arXiv· arXiv:2608.24354· Jiali Wei·· 2026-08-25

RACER:面向多模态大模型后门的区域感知一致性修复框架

Not All Tokens Are Equal: Region-Aware Consistency Repair of Backdoors in MLLMs

AI 导读

论文提出 RACER,一个模型级的多模态大模型后门修复框架,通过抑制内部表征的层级不一致异常来从源头移除后门。作者观察到后门会在内部表征中引发层级间演化异常,即层级不一致异常,且该异常与模态相关,主要集中在编码触发特征的 token 区域。RACER 据此把融合表征拆分为视觉与文本 token 区域,分别归一化其层级不一致性,再在深层窗口内以模态感知权重重组,形成区域感知的不一致目标,并通过 min-max 优化合成最坏情况扰动、对扰动做对抗微调来修复模型。该方法只需 100 条干净样本,不需要知道触发器、攻击目标,甚至不需要知道输入模型是否含后门。

阅读原文arxiv.org