10月8日 · 周四

开源模型安全 · 论文

找到 2 篇

筛选1

攻击类型

投毒与后门2

模型自身风险

失准与价值偏离1

防御类型

影响

输出被操纵2

系统形态

攻击面/入口

用户输入1 网页与界面1 文档与消息1 工具返回2 工具与技能描述1 训练数据2 权重与梯度1 分发渠道1 推理服务与硬件1

层

训练与数据层2

系统组件

微调与开源权重2

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 85 篇还没打标签，不在筛选结果里。

攻击面/入口：训练数据话题：开源模型安全清除全部

另有 85 篇论文还没打上分类标签，暂不在筛选结果里。

防御arXiv:2609.01091 · 9月1日
上海交大等提出 trait-direction drift 机制与探针空间走廊正则，抑制蒸馏中的潜隐特质迁移
提出特征方向漂移机制与探针空间走廊正则，抑制蒸馏潜隐特质迁移
模型与 API测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Gemma-3-12B-IT 等 4 个训练与数据层
摘要论文将潜意识学习归结为特征方向漂移的持续累积，并提出走廊正则化在微调中控制隐蔽特征转移。
完整解读
防御arXiv:2610.00685 · 10月2日
研究者提出用零空间投影净化 LoRA 微调 LLM 的后门
用零空间投影净化 LoRA 微调模型后门并保留基座与下游能力
模型与 API测试LLaMA2-7B-Chat、LLaMA2-13B-Chat、Qwen2-7B-Instruct 等 6 个训练与数据层
完整解读

已经到底了