CSO-LLM：用于 LLM 训练后后门检测与触发器反演的类别子空间正交化
CSO-LLM: Class Subspace Orthogonalization for Post-Training Backdoor Detection and Trigger Inversion in LLMs
AI 导读
研究者提出 CSO-LLM 框架，用类别子空间正交化（CSO）对训练后的 LLM 分类器进行后门检测与触发器反演。论文指出两大难点：LLM 输入空间离散，长度为 k 的候选触发器需考虑多达 150,000^k 种 token 组合；同时需将疑似目标响应类的典型 token 列入黑名单以避免虚假检测信号，而给定领域通常没有完整黑名单。CSO 是一种即插即用的后门检测范式，起两个作用：提升基线检测器的灵敏度与特异度；并惩罚候选触发器中包含会使信号向疑似目标类方向扰动的 token，起到隐式黑名单作用。其中一版检测器在 token 嵌入空间做连续优化，配套的触发器反演与检测方法在离散 token 空间做贪心累加；作者称方法在多个 LLM 分类任务和多种模型架构上取得较强检测性能，并能准确反演真实触发器。