防御arXiv:2609.01091 · 9月1日
上海交大等提出 trait-direction drift 机制与探针空间走廊正则，抑制蒸馏中的潜隐特质迁移
提出特征方向漂移机制与探针空间走廊正则，抑制蒸馏潜隐特质迁移
模型与 API测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Gemma-3-12B-IT 等 4 个训练与数据层
摘要论文将潜意识学习归结为特征方向漂移的持续累积，并提出走廊正则化在微调中控制隐蔽特征转移。
完整解读
评测与基准arXiv:2608.08542 · 8月9日
SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性
评测技能合并模型的自适应越狱鲁棒性，并提出子空间投影防御
模型与 API攻击者白盒测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3 等 6 个模型层
摘要论文报告了技能合并大模型在静态安全与自适应越狱间的脱节，提出了评测基准与无数据子空间投影修复方法。
本研究针对开源语言模型技能合并过程中的安全评估盲区，系统评测并刻画了合并大模型在自适应越狱攻击下的脆弱性特征。
完整解读
防御arXiv:2610.00685 · 10月2日
研究者提出用零空间投影净化 LoRA 微调 LLM 的后门
用零空间投影净化 LoRA 微调模型后门并保留基座与下游能力
模型与 API测试LLaMA2-7B-Chat、LLaMA2-13B-Chat、Qwen2-7B-Instruct 等 6 个训练与数据层
完整解读
防御arXiv:2610.00348 · 10月2日
NEEDLE：通过权重正交化移除 LLM 后门
提出 NEEDLE，用权重正交化在已知触发器时去除大模型后门
模型与 API测试Gemma-3-4B-IT、Qwen3-4B-Instruct-2507、Gemma-3-12B-IT模型层
摘要NEEDLE 用闭式权重编辑去掉已知触发器的后门，并保住拒绝子空间。
完整解读

已经到底了

开源模型安全 · 论文

攻击类型

模型自身风险

防御类型

影响

系统形态

攻击者权限

攻击面/入口

层

系统组件

被测模型厂商

上海交大等提出 trait-direction drift 机制与探针空间走廊正则，抑制蒸馏中的潜隐特质迁移

SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性

研究者提出用零空间投影净化 LoRA 微调 LLM 的后门

NEEDLE：通过权重正交化移除 LLM 后门