Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 30 papers Another 232 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
用 SafeEvo 提取拒绝电路，并提出 SCA 仅微调该电路
Published Oct 7
Evaluated models Llama-3-8B , Qwen-2.5-7B , Mistral-7B-v0.1 and others4 Abstract SafeEvo 识别出基座模型中存在的弱安全电路及其演化动态，据此提出的 SCA 算法实现了安全对齐、能力保留与低过度拒绝的平衡。
提出分风险对齐标度律框架，测量各类风险的对齐负担如何随规模变化
Published Oct 6
Evaluated models Pythia (14m–2.8b) , Qwen2.5 (0.5B–72B) , Qwen2.5-Instruct (0.5B–14B) and others4 Abstract 论文提出了分风险对齐标度律框架，测得真实性与倾向纠错呈标度有益，但盲后门仍存活，揭示隐藏风险的长期挑战。本文提出了一个将大语言模型对齐难度形式化为可测量标度关系的理论框架与预注册评测协议。
提出 ASCENT，在效用微调中做一阶安全校准并只压制负贡献更新
Published Oct 6
Evaluated models Qwen2.5-7B-Instruct , Llama-3.1-8B-Instruct , Gemma-3-12B-it and others4 提出 APO，协同学习少样本个性化偏好对齐的 aligner 初始化
Published Oct 5
Evaluated models Llama-3.2-3B-Instruct , Qwen2.5-3B-Instruct 提出融合定位拒答与能力保留的安全微调，补齐视觉定位输出的拒答缺口
Published Oct 5
Evaluated models Claude Sonnet 4.6 , Gemini 3.5 Flash , Molmo2-8B and others5 Abstract 论文揭示了 VLM 定位安全落后于 VQA 的对齐断层，提出三成分微调方案有效弥合差距并保留定位能力，表征分析揭示了对齐机制。
提出 AURA，用正交惩罚分开顺序适配中的推理与安全子空间
Published Oct 4
Evaluated models Qwen-3-14B , Qwen-2.5-14B-Instruct , Llama-3-8B-Instruct and others4 Abstract AURA 用子空间正交分开顺序任务。AURA 是面向共享骨干智能体的顺序 LoRA 正则，用来分开前后任务的残差子空间。
提出 PlurPO，用自模拟利益相关者偏好后训练缓解社交谄媚
Published Oct 2
Evaluated models Qwen3-8B , Phi-4 , Llama 3.1 8B and others5 Abstract PlurPO 用自身多方否决信号做后训练，在社会谄媚指标上降低过度认可。PlurPO 是一种后训练方法，用来降低个人建议等无真值场景中的社会谄媚。
提出 Grafting，把基座上学到的信念更新加到后训练模型
Published Oct 1
Evaluated models Qwen3-14B , Llama-3.3-70B-Instruct , DeepSeek-V4-Flash and others6 Abstract Grafting 用一次基座微调复用后训练，信念安装接近直接 SDF，连贯性损伤更小。Grafting 把在基座上学会的 SDF 权重更新加到后训练模型上，用来近似中训练干预，而不必为每次改语料重跑后训练。
提出 Robust Nash Alignment，在偏好不确定下做稳健博弈对齐
Published Oct 1
Evaluated models Qwen2.5-1.5B-Instruct , Gemma-2-2B Abstract 稳健 Nash 对齐在歧义集上优化最坏胜率，多数设置高于 NashMD。Robust Nash Alignment 把偏好对齐从“对着一个名义成对核求 Nash”改成“在偏好核的不确定集合上求最坏胜率”。
用持续更新的探针做微调，降低有害性并保持线性可监测性
Published Sep 30
Evaluated models Mistral 7B Instruct v0.1 , Llama 3 8B Instruct Abliterated , Qwen3-14B Abstract 持续重拟合的探针可降低有害性、提高诚实性，训练后概念仍能被线性探针读出。Probe-guided fine-tuning 把探针分数当作唯一对齐信号，用来推动 harmlessness 与 honesty，并检查训练后这些概念是否仍线性可读。
用性格训练做 on-policy 蒸馏，诱导模型对自身资源形成 CARA 风险厌恶
Published Sep 30
Evaluated models Qwen3.5-9B , Qwen3.8-27B , Gemma-4-12B and others4 Abstract 角色蒸馏可写入 CARA 偏好，效果随模型族与 token 预算变化，并抬高 myopic reward。作者用角色训练把资源上的 CARA 风险厌恶写入语言模型，以服务与失准智能体做交易这一设想。评测用的是赌局选择，不是真实叛逃中的交易。
用训练数据归因估计错误建议样本对涌现失准的贡献
Published Sep 30
Evaluated models OLMo 3 7B-SFT , Qwen 2.5 1.5B , Qwen 2.5 3B and others11 Abstract 错误建议对涌现失调的贡献不均匀，归因过滤可增减失调，且最有效的是模型自己的分数。EleutherAI 用训练数据归因考察错误建议微调中，哪些样本推动涌现失调。 。窄域有害数据上的微调会使模型在无关问题上也给出有害回答。
提出 Intent-Privilege OPSD，对齐视觉语言模型在隐式风险下的安全与帮助性
Published Sep 29
Evaluated models Qwen3-VL-4B-Instruct , LLaVA , LLaVA-1.5-7B and others4 Abstract 作者报告训练期证据化意图蒸馏兼顾安全与帮助性，效果受标注质量和评测设置影响。Intent-Privilege OPSD 是针对跨模态隐式风险的训练期安全—帮助性对齐方法。 作者关注的不是直接拒绝敏感请求，而是按可观察图文证据保留正常帮助、约束有害信息。
用纠正性监督改写固定有害微调样本，缓解涌现性失准
Published Sep 29
Evaluated models Qwen2.5-14B-Instruct , Gemma-4-12B-it Abstract 在固定毒行上，把坏回答改成正确答案比删掉更能降低 EM，正确内容比多出来的安全指令更关键。Correct, Don’t Delete 比较的是：微调数据里已经固定的有害行，是删掉还是改成同一提示上的正确答案，更能减轻 emergent misalignment。
提出 SURE 三阶段框架，用韩语对抗提示与安全打分做 SFT 与 DPO
Published Sep 29
Evaluated models KULLM3-10.7B , Qwen-2-7B , Llama-3-8B 提出 ORPG，协调多奖励目标的策略梯度更新
Published Sep 28 Abstract ORPG 按梯度夹角与任务优先级调和两个裁剪策略目标，并在对齐和数学推理上比较联合表现。ORPG 是一种多奖励策略梯度调和方法：每个奖励保持独立裁剪目标，相容时协调贡献幅度，冲突时按任务优先级投影。
提出几何缓解框架，把有害梯度子空间从 LoRA 更新中正交投影出去
Published Sep 28
Evaluated models Qwen2.5-3B-IT , Qwen2.5-7B-IT , Qwen2.5-14B-IT and others8 Abstract 窄域 LoRA 会留下可测的有害子空间。See it, Say it, Sorted 在参数轨迹上诊断涌现失准，并把经验有害梯度子空间从 LoRA 更新中正交去掉。
提出 DeShortcut-Align，解耦伪捷径以增强推理模型安全对齐
Published Sep 28 提出可解释 rubric 奖励，将宪法转为可调权重并用于监督微调
Published Sep 27
Evaluated models Gemma 3 12B , Qwen3 14B , GPT-OSS 20B Abstract 宪法级可解释奖励让优先级可检查、可改写，并带入训练后的行为。作者给出一条从通用宪法到可调训练奖励的路径，用来检查并改写模型实际被优化的优先级。
分析良性知识蒸馏中提示模板对学生拒答保留的影响
Published Sep 25
Evaluated models LLaMA-3.1-8B-Instruct , LLaMA-3.2-3B-Instruct , Gemma-2-9B-IT and others6