Translation in progress Some entries still include text in the original language.
Oct 13 · Tuesday
All papers Found 17 papers Another 227 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
提出审计感知遗忘框架 AVCE，从文本与视觉通路擦除扩散模型概念
Published Oct 5
Evaluated models Stable Diffusion XL (SDXL) , Stable Diffusion v1.5 (SD v1.5) , Flux 1.0 Abstract AVCE 在审计锚点上改两条注意力通路。AVCE 是面向扩散模型的概念擦除方法，要让擦除经得起绕过文本条件的潜空间审计，而不只是挡住对抗提示词。
提出 Target-free LAT，用无目标多方向潜干预做对抗安全对齐以抵御越狱
Published Oct 3
Evaluated models Qwen2.5-7B-Instruct , Llama-3-8B-Instruct , Mistral-7B-Instruct-v0.2 Abstract Target-free LAT 用无目标多方向潜干预扩大行为覆盖，作者称能提高越狱鲁棒性并保住效用。Target-free LAT 是一种不监督有害输出的潜空间对抗对齐。它要处理的问题是：现有 LAT 每步大多只造一种有害行为，对不上真实越狱里的直接遵从、角色扮演、编码和多语言等模式。
提出 ReGap，用自生成伪监督微调恢复模型中的隐私关联
Published Oct 1
Evaluated models GPT-2 Small , GPT-2 Medium , GPT-2 Large and others6 Abstract 提出无真实私有监督的恢复攻击 ReGap，实验显示微调可通过自生成数据唤醒模型潜在隐私关联，突显后适应隐私风险。
提出 Whiteout，用伪装样本微调覆盖个人敏感信息关联
Published Oct 1
Evaluated models Llama 3.2 , Phi-3-mini , Gemma 3 and others7 提出 GSU 在发布前封堵敏感门梯度，抵抗下游微调获取禁止能力
Published Sep 30
Evaluated models Llama-3.2-1B , Llama-3.2-3B , Llama-3.1-8B and others7 Abstract GSU 在发布前封堵 SiLU 门的获取梯度，并在 TOFU 与 WMDP 上降低下游微调得分。Gradient-Sealed Unlearning（GSU） 是一种发布前的 preemptive unlearning：不删除模型里已经有的能力，而是让指定禁止域能力更难被发布后的微调获取。
提出 PACT，遗忘推理模型在压力下的欺骗行为并保留上下文理解
Published Sep 30
Evaluated models DeepSeek-R1-Distill-Qwen-32B , QwQ-32B Abstract 论文将大模型欺骗形式化为上下文条件行为，提出 PACT 框架在消除欺骗的同时保留了上下文遵循能力。
检验层冻结与奇异方向截断能否挡住少样本有害微调
Published Sep 29
Evaluated models Llama-3.1-8B-Instruct , Llama-3.1-Tulu-3-8B-DPO , OLMo-2-1124-7B-Instruct and others10 Abstract 定位与恢复可以复现，但知情攻击能把损伤移出冻结带，并打败跨检查点的截断修复。这篇工作检验：把拒答定位到某些层或更新方向之后，能不能在攻击者知情时还守住拒答。 。
提出跨架构攻击 CSR，用概念分数参数重学习恢复文生图被擦除概念
Published Sep 27
Evaluated models FLUX.1-dev , Stable Diffusion-v1.4 提出 BoundStyle 与 StyleAT，对抗训练防御人脸识别语义攻击
Published Sep 20
Evaluated models MobileFaceNet (MobileFace) , ResNet (ResNet-152, IR-SE) , RepVGG and others7 Abstract BoundStyle 用 StyleGAN3 有界潜编辑快速攻击 FR。StyleAT 用可调的 StyleGAN3 潜空间攻击 BoundStyle 对人脸识别做对抗训练，以抵抗一般语义编辑，并在评测中面对训练时未见的 DiffPrivate。
揭示拆分训练返回梯度以零支撑暴露诱饵行并泄露训练内容
Published Sep 4
Evaluated models Qwen3-0.6B , 35B-A3B Abstract 论文揭示拆分训练中反向梯度零支撑完全暴露诱饵行，联合视图突破门控，裁剪加噪可有效缓解。这是一项关于双节点大语言模型拆分训练系统的系统安全案例研究，揭示了评估工具遗漏反向信道所导致的静默隐私失效。
提出 ReSO ，对齐潜在道德表征以提升越狱条件下的安全泛化
Published Sep 4
Evaluated models Qwen3-8B , Qwen3-14B , Qwen3-32B and others17 Abstract ReSO 重组道德分类的潜在关系。ReSO 把对齐目标从偏好回答改成道德分类的潜在关系。 。
提出 SEAL，在 MoE 共享专家上做 DPO-LoRA 对齐以抵御越狱与权重篡改
Published Sep 2
Evaluated models Qwen1.5-MoE-A2.7B , DeepSeekMoE-16B , GLM-4.7-Flash and others4 Abstract SEAL 把 DPO-LoRA 限制在混合 MoE 共享专家上，SEAL++再保护已有安全神经元方向。SEAL 是面向混合 MoE 的训练时防御：只对齐始终执行的共享专家，使安全不依赖路由器是否把 token 送到安全专家。
提出 SPARED，用对抗编辑数据训练基于推理的 AI 生成图像检测器
Published Aug 13
Evaluated models Qwen3.5-9B Abstract SPARED 用防捷径的编辑对抗环训练 9B 推理检测器。SPARED 是一套用于可解释 AI 生成图像检测的攻防强化学习流程，报告模型是 Qwen3.5-9B 上的第三轮防御器。
提出 USG，在部分保护开源权重发布时阻断有害微调梯度
Published Aug 6
Evaluated models Qwen3-14B（表中作 Qwen-14B） , Llama-3.1-8B（表中作 Llama-8B） Abstract USG 在 PPOW 下用零空间立方层阻断有害微调梯度。Unidirectional Safety Gate 是面向 PPOW 发布设定的发布时防护：大部分权重仍可训练，一小部分安全关键组件由提供者侧加固保留，下游不必配合额外安全流程。 。
提出隐写恶意微调，使模型界面显良性并隐蔽传出有害内容
Published Mar 9
Evaluated models GPT-4.1-2025-04-14 , Llama-3.3-70B-Instruct , Phi-4 and others7 提出路由感知安全对齐 RASA，只微调越狱激活的专家并约束路由
Published Feb 4
Evaluated models OLMoE-1B-7B , Qwen3-30B-A3B , Mixtral-8x7B Abstract RASA 以专家级修复和路由一致性约束，针对 MoE 安全对齐捷径。RASA 是面向 MoE 的路由感知、专家级安全对齐框架，用来处理全参数微调可能走的对齐捷径。
提出 CORVUS，用 LoRA 伪装内部遥测以绕过幻觉检测器
Published Jan 19
Evaluated models Llama-2-7B-Chat , Vicuna-7B (v1.5) , Llama-3-8B-Instruct and others4 Abstract 作者称内部遥测在自适应模型侧对抗下易被操纵，CORVUS 通过轻量适配器微调降低了多种幻觉检测器的效果。
You have reached the end