Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 19 papers Another 305 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
分析 LLM 去偏激活方向，发现其编码置信度而非公平性
Published Oct 6
Evaluated models Llama-3.1-8B , Llama-3.1-8B-Instruct , Falcon3-7B-Base and others8 Abstract 论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。
测量财务事实变少时身份对股权配置建议的替代
Published Oct 6
Evaluated models Llama-3.1-8B-Instruct , Qwen2.5-1.5B-Instruct Abstract 身份摆幅随披露减少上升。同一财务只改人设，测量披露变薄时股权建议里的身份替代。
提出 PowerBench，测量模型对权力转移请求的拒答偏见
Published Oct 2
Evaluated models grok-4.3 , haiku-4.5 , nova-2-lite and others18 Abstract 作者报告拒答随 SE/DE/PG 变化，并存在针对美国失权、智能体和语言的差。
提出容忍度公平性审计，用 CEL 认证违规并用 SEL 筛查
Published Oct 1
Evaluated models COMPAS Abstract 容忍阈值下，CEL 做违规认证，SEL 与 ASEL 做更敏感的筛查。这篇工作给出一套按审计目标切换校准的容忍公平审计：差异不必为零，而是看预先指定的不利方向上是否超过允许阈值。
提出 k-ALeBi 偏差探针，主动审计黑盒模型的多组公平性
Published Oct 1
Evaluated models linear model , random forest , MLP Abstract 偏差探针把多组公平审计变成比较函数学习，并分开审计与重构。k-ALeBi 把黑盒多组公平审计写成跨组比较函数的学习，而不是先重构分类器。
提出 MASCRDM，在监督微调中实时检测并缓解偏见
Published Sep 30
Evaluated models Qwen3-8B-Base , Llama-3.1-8B Abstract MASCRDM 在 SFT 中按法规图谱检测数据、结构与损失风险，BBQ 总准确率在两模型上最高。MASCRDM 把 AI 法律规章编成知识图谱，再由五个智能体在 LLM 训练中做实时合规检测与缓解，实验以偏见与歧视为代表风险。
提出 Rank Graduation Fairness 指标，检验群体间预测误差负担是否可比
Published Sep 30
Evaluated models logistic regression , random forest , gradient boosting and others4 Abstract 用误差排序、置换检验和特征移除评估信贷公平，HMDA 上四模型均拒绝零假设。用预测误差的排序分布、置换检验和特征移除，评估信贷模型在受保护群体间的公平。 。
测量剪枝对语音 LLM 群体转写公平性的影响
Published Sep 30
Evaluated models Whisper Small (12 layers) , Whisper Medium (24 layers) , Whisper Large-v2 (32 layers) Abstract 剪枝后的 Speech-LLM 不能只看总体 WER：Fair-Speech 上族群差扩大，作者建议看最差组。
提出可解释 rubric 奖励，将宪法转为可调权重并用于监督微调
Published Sep 27
Evaluated models Gemma 3 12B , Qwen3 14B , GPT-OSS 20B Abstract 宪法级可解释奖励让优先级可检查、可改写，并带入训练后的行为。作者给出一条从通用宪法到可调训练奖励的路径，用来检查并改写模型实际被优化的优先级。
分析消除人口统计信息的不变性约束如何制造新偏见
Published Sep 26
Evaluated models Fair Normalizing Flows , MMD regularizer , adversarial and others5 Abstract 表示不变性不是公平的充分条件。这篇分析考察的是：为了公平而从潜表示中去掉人口统计信息，是否可取、是否足够。作者认为，表示能解码出群体归属，本身并不解释不公平。任务特征可以与群体相关，患病率不同时，抹平边际分布会迫使错误率在群体间分开。
用 CDPG 与 BTM 追踪思考如何改变反事实公平翻转
Published Sep 25
Evaluated models QwQ-32B , DeepSeek-R1-Distill-Qwen-32B , Qwen3-32B and others5 提出 harm laundering，证明安全训练改写而非消除性别歧视
Published Sep 18
Evaluated models gpt2 , gpt2-medium , gpt2-large and others15 Abstract GPT 谱系上毒性下降与表征伤害上升并存。Wyer、Black 与 Al Moubayed 用 OpenAI GPT 谱系检验：毒性分数下降是否等于歧视减少。 他们的答案是否定的，并把“显性伤害被改写成评测指标看不见的形式”称为 harm laundering。
用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变
Published Sep 9
Evaluated models Llama 3.1-8B-Instruct , Mistral-7B-Instruct-v0.3 , Gemma 3-4B-IT Abstract 相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。Reference-Based Bias Detection 用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。
用线性探针、归因修补与 SAE 消融追踪多语模型刻板印象
Published Sep 8
Evaluated models Llama-3.1-8B , Qwen3-8B , Gemma-2-9B Abstract 可解码、输出影响与稀疏特征消融需要分开测量。把多语 LLM 中刻板印象从线性表示追到输出影响，再追到 SAE 特征消融。 。
审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为
Published Aug 12
Evaluated models Qwen2-VL-7B , Qwen2.5-VL-7B , Qwen3-VL-8B and others9 Abstract 论文系统审计了 VLM 多模态审查，发现审查正从显式拒答转向隐蔽重构，且中文提示与文本先验会放大重构倾向。论文系统研究了中外开源视觉语言模型在政治敏感图像上的审查行为，主要内容如下。
构建 AdaCultureSafe 配对评测文化知识与文化安全
Published Mar 9
Evaluated models Llama3.1-8B , Mistral-7B , Qwen2.5-7B and others7 Abstract 配对评测中知识与安全脱钩，知识锚定 DPO 抬高了 Respect。AdaCultureSafe 把同一条地区文化做成“是否知道”和“是否尊重”两套查询，用来看安全有没有用上知识，并用偏好训练把回答往“尊重且用上知识”拉。
用反事实与嵌入距离评测作文反馈的性别偏差
Published Nov 11, 2025
Evaluated models GPT-5 mini , GPT-4o mini , DeepSeek-R1 and others6 Abstract 六种 LLM 作文反馈对隐式性别替换不对称，显式线索只让部分模型的语义距离变大。作者用句嵌入距离和置换检验，给教育场景中的 LLM 性别偏见审计做一个可计算基准，案例是学生议论文的形成性反馈。
评测多语言下模型的道德回答与安全拒答一致性
Published Oct 10, 2025
Evaluated models Gemini 2.5 Pro , Claude Sonnet 4 , GPT-5 and others5 分析按 Schwartz 价值对齐后的意外危害，并提出上下文对齐方法
Published Jun 6, 2025
Evaluated models Llama-2 7B , Llama-3.1 8B , Gemma-2 9B and others6 Abstract 价值对齐会随 Schwartz 价值改变有害倾向。作者研究按 Schwartz 价值对齐的 LLM 为何在安全评测里更易有害，并用提示做了一个不直说要安全的缓解试验。
You have reached the end