分析与理论arXiv 2610.13051
空间胜过统计量，重训练胜过排序：审计仅标签后门下的训练标签
审计仅标签后门的训练标签，比较空间与统计量并以重训评判
- arXiv
- 2610.13051
- 发表
- 场景
- 模型与 API
- 被测模型
- ResNet-32
摘要查标签要在未拟合这些标签的空间里做，并用重训模型而不是检测分数评判。
作者问的是：手里没有可信数据的防御者，能否决定留下哪些训练标签，以及这会毁掉多少干净数据、最终模型准确率如何。
- 防御arXiv 2610.03073
SecJev：为 System One 决策模型引入安全专业知识
提出 SecJev，用场景加权训练把决策模型适配为安全类型化判断
- arXiv
- 2610.03073
- 发表
- 场景
- 模型与 API
- 被测模型
- SecJev-0.8B、SecJev-2B、SecJev-4B 等4个
摘要SecJev 用共享打分器做安全决策，0.8B 的 task-macro 超过 Kev-9B。
SecJev 是 0.8B 到 9B 的安全决策模型族，作者称据其所知是首个面向安全的 Jev-like 家族。
- 防御arXiv 2610.01788
SAGE：基于相似度从少量已验证样本中清洗中毒训练数据
提出 SAGE，用少量已核验样本按相似度清洗投毒训练数据
- arXiv
- 2610.01788
- 发表
- 场景
- 模型与 API
- 被测模型
- ResNet-18、VGG-16
- 防御arXiv 2609.39107
MASCRDM：面向大语言模型训练过程的合规风险检测与缓解多智能体系统
提出 MASCRDM，在监督微调中实时检测并缓解偏见
- arXiv
- 2609.39107
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen3-8B-Base、Llama-3.1-8B
摘要MASCRDM 在 SFT 中按法规图谱检测数据、结构与损失风险，BBQ 总准确率在两模型上最高。
MASCRDM 把 AI 法律规章编成知识图谱，再由五个智能体在 LLM 训练中做实时合规检测与缓解，实验以偏见与歧视为代表风险。
- 防御arXiv 2609.36641
从仅结果奖励的强化学习中诱导过程监督
提出 TIPS，用仅结果奖励诱导生成式过程监督
- arXiv
- 2609.36641
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen3-4B-Thinking-2507、Qwen3-4B-Instruct-2507、Qwen3-8B-Thinking 等8个
摘要结果监督的 GRPO 可诱导步骤验证。
TIPS 用只含结果对错的强化学习训练生成式奖励模型，让步骤级验证出现在思维链里。
- 防御arXiv 2609.34804
物理认证联邦学习：为关键水务基础设施的协同异常检测提供安全保障
为协同异常检测提出物理准入门，在聚合前拦截不合规训练批次
- arXiv
- 2609.34804
- 发表
- 场景
- 模型与 API
- 被测模型
- deep reconstruction autoencoder
摘要物理准入为联邦检测增加数据约束，但合规证明不等于无投毒或训练来源证明。
这是一项面向水基础设施联邦异常检测的物理准入防御研究。 作者针对隐藏训练遥测带来的投毒检查问题，结合不变量挖掘、聚合前过滤和零知识抽样证明。
- 攻击arXiv 2609.27124
Fed-ADR：用恶意编排服务器协同客户端梯度操纵攻击联邦学习
提出 Fed-ADR，用编排服务器协同操纵梯度攻破联邦学习并检测恢复
- arXiv
- 2609.27124
- 发表
- 场景
- 模型与 API
- 攻击者
- 灰盒
- 被测模型
- CNN（MNIST：2 Conv + 3 FC）、CNN（Fashion-MNIST：6 Conv + 1 FC）、ResNet18（CIFAR-10）
摘要Fed-ADR 用 gray-box 编排攻击绕过多种聚合防御，再用 Hessian 一致性检测和窗口内恢复把准确率拉回。
Fed-ADR 是一套面向联邦学习的攻击、检测与恢复框架：编排服务器改写合谋客户端的梯度，使参数服务器的现有防御把投毒更新当成良性，同时在发现后用历史梯度把全局模型原地修回来。
- 防御arXiv 2609.07063
VERITAS：抗投毒的本地差分隐私图学习协议
提出 VERITAS，用双边背书剪除本地隐私图学习中的投毒节点
- arXiv
- 2609.07063
- 发表
- 场景
- 模型与 API
- 被测模型
- GCN、GraphSAGE、GAT
摘要VERITAS 用分级信任的双边背书剪除 LDP 图学习中的投毒节点，并恢复分类准确率。
VERITAS 是面向本地差分隐私图学习的投毒防御协议，按 trust-but-verify 在保持 ϵ-LDP 的同时剪除伪造节点。
- 防御arXiv 2609.06346
面向后门攻击下持续学习的鲁棒动态扩展：净化与选择性恢复
提出持续学习下的净化与选择性恢复框架，抵御逐任务训练投毒后门
- arXiv
- 2609.06346
- 发表
- 场景
- 模型与 API
- 被测模型
- ViT-B/16
摘要作者报告任务内净化与恢复可配合动态专家防御后门，但保证依赖分离条件。
这是一项面向持续图像分类的后门防御研究：模型只使用当前任务数据，同时需要保留过去知识并避免学习恶意监督。
- 防御arXiv 2609.27760
FedMAST：用多轴结构痕迹检测并遏制联邦学习后门
提出 FedMAST，用多轴结构痕迹检测并遏制联邦学习后门
- arXiv
- 2609.27760
- 发表
- 场景
- 模型与 API
- 被测模型
- Tiny ResNet-18
- 防御arXiv 2608.12876
SPARED：用对抗编辑数据训练基于推理的 AI 生成图像检测器
提出 SPARED，用对抗编辑数据训练基于推理的 AI 生成图像检测器
- arXiv
- 2608.12876
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen3.5-9B
摘要SPARED 用防捷径的编辑对抗环训练 9B 推理检测器。
SPARED 是一套用于可解释 AI 生成图像检测的攻防强化学习流程，报告模型是 Qwen3.5-9B 上的第三轮防御器。
- 防御arXiv 2608.02271
Z-PEFT：基于规范谱特征的参数高效微调零样本后门检测
提出 Z-PEFT，用逐头谱特征零样本检测 PEFT 后门
- arXiv
- 2608.02271
- 发表
- 场景
- 模型与 API
- 被测模型
- Z-PEFT、Llama-2-7B、Llama-2-13B 等6个
- 防御arXiv 2607.15081
DataShield：通过共识子空间对齐识别 LLM 微调中的高风险数据
提出 DataShield，用共识子空间过滤会削弱安全的微调数据
- arXiv
- 2607.15081
- 发表
- 场景
- 模型与 API
- 被测模型
- Phi3-medium-4k-it、Qwen3-4B-it、Gemma2-27B-it 等4个
已经到底了