跳到正文
10月8日 · 周四

后门与投毒 · 论文

找到 4 篇
筛选2

攻击类型

投毒与后门3

模型自身风险

失准与价值偏离2

防御类型

模型加固4检测与过滤1

影响

有害内容1输出被操纵3

系统形态

模型与 API4

攻击面/入口

训练数据3权重与梯度1

层

模型层1训练与数据层3

系统组件

微调与开源权重4

被测模型厂商

其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 55 篇还没打标签，不在筛选结果里。
防御类型：模型加固被测模型厂商：Qwen（阿里）话题：后门与投毒清除全部

另有 55 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2609.01091

    上海交大等提出 trait-direction drift 机制与探针空间走廊正则，抑制蒸馏中的潜隐特质迁移

    提出特征方向漂移机制与探针空间走廊正则，抑制蒸馏潜隐特质迁移

    arXiv
    2609.01091
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Qwen2.5-7B-Instruct、Qwen2.5-32B-Instruct、Llama-3.1-8B-Instruct 等 4 个

    摘要论文将潜意识学习归结为特征方向漂移的持续累积，并提出走廊正则化在微调中控制隐蔽特征转移。

    深度解读完整解读
  2. 防御arXiv 2609.37624

    修正而非删除：用纠正性监督缓解涌现性失准

    用纠正性监督改写固定有害微调样本，缓解涌现性失准

    arXiv
    2609.37624
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Qwen2.5-14B-Instruct、Gemma-4-12B-it
    摘要在固定毒行上，把坏回答改成正确答案比删掉更能降低 EM，正确内容比多出来的安全指令更关键。

    Correct, Don’t Delete 比较的是：微调数据里已经固定的有害行，是删掉还是改成同一提示上的正确答案，更能减轻 emergent misalignment。

    深度解读完整解读
已经到底了