10月8日 · 周四

阿里巴巴 · Qwen · 论文

找到 2 篇

筛选2

攻击类型

投毒与后门1

模型自身风险

欺骗与谋划0 奖励作弊3 失准与价值偏离2 Agent 危险操作1 拒答失当2

防御类型

影响

有害内容1 输出被操纵1

系统形态

攻击面/入口

层

训练与数据层2

系统组件

微调与开源权重2

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 32 篇还没打标签，不在筛选结果里。

模型自身风险：欺骗与谋划模型自身风险：失准与价值偏离话题：阿里巴巴 · Qwen 清除全部

另有 32 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv:2609.01091 · 9月1日
上海交大等提出 trait-direction drift 机制与探针空间走廊正则，抑制蒸馏中的潜隐特质迁移
提出特征方向漂移机制与探针空间走廊正则，抑制蒸馏潜隐特质迁移
模型与 API测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Gemma-3-12B-IT 等 4 个训练与数据层
摘要论文将潜意识学习归结为特征方向漂移的持续累积，并提出走廊正则化在微调中控制隐蔽特征转移。
完整解读
防御arXiv:2609.37624 · 9月29日
修正而非删除：用纠正性监督缓解涌现性失准
用纠正性监督改写固定有害微调样本，缓解涌现性失准
模型与 API测试Qwen2.5-14B-Instruct、Gemma-4-12B-it训练与数据层
摘要在固定毒行上，把坏回答改成正确答案比删掉更能降低 EM，正确内容比多出来的安全指令更关键。
Correct, Don’t Delete 比较的是：微调数据里已经固定的有害行，是删掉还是改成同一提示上的正确答案，更能减轻 emergent misalignment。
完整解读

已经到底了