分析与理论arXiv 2610.13051
空间胜过统计量，重训练胜过排序：审计仅标签后门下的训练标签
审计仅标签后门的训练标签，比较空间与统计量并以重训评判
- arXiv
- 2610.13051
- 发表
- 场景
- 模型与 API
- 被测模型
- ResNet-32
摘要查标签要在未拟合这些标签的空间里做，并用重训模型而不是检测分数评判。
作者问的是：手里没有可信数据的防御者，能否决定留下哪些训练标签，以及这会毁掉多少干净数据、最终模型准确率如何。
- 分析与理论arXiv 2610.02886
研究揭示无触发投毒审计缺口：事实答对不等于决策正确
揭示无触发虚假训练下事实回答与下游决策的审计差距
- arXiv
- 2610.02886
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-0.5B、Qwen2.5-1.5B、Qwen2.5-3B 等9个
- 攻击投毒与后门
摘要作者发现无触发词虚假训练下事实回答与下游决策存在脱节，直接审计与事实纠错均无法保证决策正确。
论文是一项针对语言模型在无触发词虚假信息训练下行为表现的实证分析研究。
- 分析与理论arXiv 2609.36117
arXiv 论文分析神经网络为何容易被植入后门
分析投毒诱发的特征学习如何改变后门预算缩放
- arXiv
- 2609.36117
- 发表
- 场景
- 模型与 API
- 被测模型
- quadratic neuron、network
- 攻击投毒与后门
摘要作者给出特征学习改变后门预算指数的可解机制，并以高斯采样实验检验。
这是一项后门预算的理论分析，核心对象是最小二乘训练的二次神经元。作者关注：只依据冻结表示估算投毒成本，是否会误判具有特征学习能力的模型。
- 分析与理论arXiv 2609.32288
预训练数据投毒的可解理论：依赖极限顺序的缩放指数
证明预训练投毒的清洁超额风险指数随极限顺序变化
- arXiv
- 2609.32288
- 发表
- 场景
- 模型与 API
- 被测模型
- OLMo-style models
- 攻击投毒与后门
摘要投毒清洁超额风险的幂指数取决于先固定宽高比还是先取充足数据极限。
可解的预训练数据投毒理论：清洁超额风险的缩放指数随极限顺序改变。。
- 分析与理论arXiv 2604.02574
理解安全去对齐对大语言模型的影响
比较越狱微调与权重正交化去对齐对有害协助和有用性的影响
- arXiv
- 2604.02574
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Qwen3-4B-Instruct-2507、Llama-3.1-8B-Instruct、Qwen2.5-14B 等6个
已经到底了