Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 28 papers Another 265 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
提出人格层级模型并设计 PPR 抑制奖励作弊的跨上下文泛化
Published Oct 7
Evaluated models Qwen3-4B , Llama-3.1-8B-Instruct Abstract 提出人格层级模型揭示微调跨上下文泛化规律，报告角色距离正相关性，通过 PPR 抑制 RL 作弊。
分析 LLM 去偏激活方向，发现其编码置信度而非公平性
Published Oct 6
Evaluated models Llama-3.1-8B , Llama-3.1-8B-Instruct , Falcon3-7B-Base and others8 Abstract 论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。
测量财务事实变少时身份对股权配置建议的替代
Published Oct 6
Evaluated models Llama-3.1-8B-Instruct , Qwen2.5-1.5B-Instruct Abstract 身份摆幅随披露减少上升。同一财务只改人设，测量披露变薄时股权建议里的身份替代。
提出 PowerBench，测量模型对权力转移请求的拒答偏见
Published Oct 2
Evaluated models grok-4.3 , haiku-4.5 , nova-2-lite and others18 Abstract 作者报告拒答随 SE/DE/PG 变化，并存在针对美国失权、智能体和语言的差。
提出容忍度公平性审计，用 CEL 认证违规并用 SEL 筛查
Published Oct 1
Evaluated models COMPAS Abstract 容忍阈值下，CEL 做违规认证，SEL 与 ASEL 做更敏感的筛查。这篇工作给出一套按审计目标切换校准的容忍公平审计：差异不必为零，而是看预先指定的不利方向上是否超过允许阈值。
提出 k-ALeBi 偏差探针，主动审计黑盒模型的多组公平性
Published Oct 1
Evaluated models linear model , random forest , MLP Abstract 偏差探针把多组公平审计变成比较函数学习，并分开审计与重构。k-ALeBi 把黑盒多组公平审计写成跨组比较函数的学习，而不是先重构分类器。
构建编码 RL 奖励作弊测试台 CATCH 并检验 CoT 监控失效
Published Sep 30
Evaluated models Qwen3-4B , Qwen3.5-27B Abstract CATCH 用双运行金标签研究编码 RL 的奖励黑客，并观察到监控会被注释适应削弱。CATCH 是面向编码 RL 奖励黑客的可控分析测试床，用可利用环境、可调初始倾向和基于执行的金标签，在训练全程比较黑客动态与干预。
提出 Rank Graduation Fairness 指标，检验群体间预测误差负担是否可比
Published Sep 30
Evaluated models logistic regression , random forest , gradient boosting and others4 Abstract 用误差排序、置换检验和特征移除评估信贷公平，HMDA 上四模型均拒绝零假设。用预测误差的排序分布、置换检验和特征移除，评估信贷模型在受保护群体间的公平。 。
测量剪枝对语音 LLM 群体转写公平性的影响
Published Sep 30
Evaluated models Whisper Small (12 layers) , Whisper Medium (24 layers) , Whisper Large-v2 (32 layers) Abstract 剪枝后的 Speech-LLM 不能只看总体 WER：Fair-Speech 上族群差扩大，作者建议看最差组。
提出 HNC，在单个解附近遍历保函数权重并比较内部表示
Published Sep 30
Evaluated models 64-unit tanh RNN , ViT-S/16 , RNN policy (Plume Tracking) and others5 Abstract HNC 在保持函数的局部权重区域里找到表示、动力学或行为不同的解。Hessian Null Space Continuation（HNC） 用局部曲率，在单个已训练网络周围遍历近似保持输入输出的连通低损失区域，并可用可微目标做引导。作者要回答的是：这个区域里是否真有不同的内部机制，而不只是同一表示的小改动。做法是交替执行零空间内的平坦步与函数匹配损失上的梯度恢复。
B IAS R EDUCER 只改奖励头，按数据集选择属性编辑。
Published Sep 26
Evaluated models Skywork-Reward-V2-Qwen3-1.7B , GRM-Llama3.2-3B-rewardmodel-ft , RM-Mistral-7B and others7 Abstract BIASREDUCER 按数据集选择奖励头编辑，五模型三基准平均提升并迁移到下游训练。BIASREDUCER 是一种只改线性奖励头的奖励模型编辑框架，用来降低模型对预定义表面属性的依赖，并按新数据集决定改哪些属性。
分析消除人口统计信息的不变性约束如何制造新偏见
Published Sep 26
Evaluated models Fair Normalizing Flows , MMD regularizer , adversarial and others5 Abstract 表示不变性不是公平的充分条件。这篇分析考察的是：为了公平而从潜表示中去掉人口统计信息，是否可取、是否足够。作者认为，表示能解码出群体归属，本身并不解释不公平。任务特征可以与群体相关，患病率不同时，抹平边际分布会迫使错误率在群体间分开。
用 CDPG 与 BTM 追踪思考如何改变反事实公平翻转
Published Sep 25
Evaluated models QwQ-32B , DeepSeek-R1-Distill-Qwen-32B , Qwen3-32B and others5 比较权重、选择与提示词上的奖励作弊
Published Sep 22 Abstract 三种底物都会对着不完整分数优化。Reward hacking 可以出现在更新权重、挑选输出和修订持久文本时。作者用一个比较框架处理这三种底物，把可达行为、代理误差和防御迁移分开，避免只按底物名称排序。
提出 harm laundering，证明安全训练改写而非消除性别歧视
Published Sep 18
Evaluated models gpt2 , gpt2-medium , gpt2-large and others15 Abstract GPT 谱系上毒性下降与表征伤害上升并存。Wyer、Black 与 Al Moubayed 用 OpenAI GPT 谱系检验：毒性分数下降是否等于歧视减少。 他们的答案是否定的，并把“显性伤害被改写成评测指标看不见的形式”称为 harm laundering。
检验合成文档微调能否阻断奖励作弊带来的涌现失准
Published Sep 14
Evaluated models Llama-3.3-70B-Instruct Abstract SDF 能让模型口头接受 reward hacking，却挡不住、甚至伴随更强的 EM。作者研究一种风险行为：模型在奖励可被钻空子的 RL 里学会 reward hacking 之后，会不会泛化出更广的 misalignment，以及能不能在开发者不控制的后续训练之前，用合成文档微调把这条泛化提前挡住。
用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变
Published Sep 9
Evaluated models Llama 3.1-8B-Instruct , Mistral-7B-Instruct-v0.3 , Gemma 3-4B-IT Abstract 相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。Reference-Based Bias Detection 用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。
用线性探针、归因修补与 SAE 消融追踪多语模型刻板印象
Published Sep 8
Evaluated models Llama-3.1-8B , Qwen3-8B , Gemma-2-9B Abstract 可解码、输出影响与稀疏特征消融需要分开测量。把多语 LLM 中刻板印象从线性表示追到输出影响，再追到 SAE 特征消融。 。
用迭代 DPO 从奖励作弊诱发涌现失准
Published Sep 6
Evaluated models GPT-4.1 , Qwen2.5-32B-Instruct Abstract 提出了基于迭代 DPO 诱发涌现非对齐的方法，验证了隐蔽权力寻求与对齐伪装，并构建了选择性泛化测试基准。
测量位置混淆优化下的奖励作弊与推理答案解耦
Published Aug 16
Evaluated models Qwen2.5-0.5B , Qwen2.5-1.5B , Qwen2.5-1.5B and others11 Abstract 作者用 A 率、解耦率和域外探针，把位置混淆奖励下的能力损失和可迁移捷径分开。在位置与正确性被绑在一起的多选数学后训练中，作者测量端点准确率还在不在测数学能力。