可解释性arXiv 2610.08559
研究：LLM 潜在空间去偏方向主要编码置信度而非公平性
分析 LLM 去偏激活方向，发现其编码置信度而非公平性
- arXiv
- 2610.08559
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Llama-3.1-8B、Llama-3.1-8B-Instruct、Falcon3-7B-Base 等 8 个
摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。
- 分析与理论arXiv 2609.32004
论文指出消除人口统计信息的不变性约束可能制造新偏见
分析消除人口统计信息的不变性约束如何制造新偏见
- arXiv
- 2609.32004
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- ERM、Fair Normalizing Flows、DenseNet121 等 7 个
- 风险偏见与歧视
摘要表示不变性不是公平的充分条件。
这篇分析考察的是：为了公平而从潜表示中去掉人口统计信息，是否可取、是否足够。作者认为，表示能解码出群体归属，本身并不解释不公平。任务特征可以与群体相关，患病率不同时，抹平边际分布会迫使错误率在群体间分开。
- 评测与基准arXiv 2609.39025
面向算法公平性的 Rank Graduation 指标
提出 Rank Graduation Fairness 指标，检验群体间预测误差负担是否可比
- arXiv
- 2609.39025
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- logistic regression、random forest、gradient boosting 等 4 个
- 风险偏见与歧视
摘要用误差排序、置换检验和特征移除评估信贷公平，HMDA 上四模型均拒绝零假设。
用预测误差的排序分布、置换检验和特征移除，评估信贷模型在受保护群体间的公平。。
- 分析与理论arXiv 2609.30768
研究：推理 token 能纠正部分偏见
用 CDPG 与 BTM 追踪思考如何改变反事实公平翻转
- arXiv
- 2609.30768
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- QwQ-32B、DeepSeek-R1-Distill-Qwen-32B、Qwen3-32B 等 5 个
- 评测与基准arXiv 2608.11816
研究审计 9 个视觉语言模型：中文提示下国家立场改写率约为英文的三倍
审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为
- arXiv
- 2608.11816
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen2-VL-7B、Qwen2.5-VL-7B、Qwen3-VL-8B 等 9 个
摘要论文系统审计了 VLM 多模态审查，发现审查正从显式拒答转向隐蔽重构，且中文提示与文本先验会放大重构倾向。
论文系统研究了中外开源视觉语言模型在政治敏感图像上的审查行为，主要内容如下。
- 评测与基准arXiv 2609.38106
剪枝提效却牺牲公平：剪枝语音 LLM 中的群体差异
测量剪枝对语音 LLM 群体转写公平性的影响
- arXiv
- 2609.38106
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Whisper Small (12 layers)、Whisper Medium (24 layers)、Whisper Large-v2 (32 layers) 等 4 个
摘要剪枝后的 Speech-LLM 不能只看总体 WER：Fair-Speech 上族群差扩大，作者建议看最差组。
- 其他arXiv 2609.40034
ALeBi：用 bias probe 主动审计多群体公平性
提出 k-ALeBi 偏差探针，主动审计黑盒模型的多组公平性
- arXiv
- 2609.40034
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- linear model、random forest、MLP
- 风险偏见与歧视
摘要偏差探针把多组公平审计变成比较函数学习，并分开审计与重构。
k-ALeBi 把黑盒多组公平审计写成跨组比较函数的学习，而不是先重构分类器。
- 其他arXiv 2610.01005
基于容忍度的公平性审计：违规认证与敏感性筛查
提出容忍度公平性审计，用 CEL 认证违规并用 SEL 筛查
- arXiv
- 2610.01005
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- COMPAS
- 风险偏见与歧视
摘要容忍阈值下，CEL 做违规认证，SEL 与 ASEL 做更敏感的筛查。
这篇工作给出一套按审计目标切换校准的容忍公平审计：差异不必为零，而是看预先指定的不利方向上是否超过允许阈值。
- 可解释性arXiv 2609.10060
研究者提出基于参考的隐藏状态相对表示偏见检测方法
用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变
- arXiv
- 2609.10060
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Llama 3.1-8B-Instruct、Mistral-7B-Instruct-v0.3、Gemma 3-4B-IT
- 风险偏见与歧视
摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。
Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。
- 可解释性arXiv 2609.08322
多语言 LLM 中的刻板印象如何从内部表征传导到输出：Llama-3.1-8B、Qwen3-8B 与 Gemma-2-9B 的机制对比
用线性探针、归因修补与 SAE 消融追踪多语模型刻板印象
- arXiv
- 2609.08322
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Llama-3.1-8B、Qwen3-8B、Gemma-2-9B 等 4 个
- 风险偏见与歧视
摘要可解码、输出影响与稀疏特征消融需要分开测量。
把多语 LLM 中刻板印象从线性表示追到输出影响，再追到 SAE 特征消融。。
- 分析与理论arXiv 2609.20779
研究称 GPT 系列安全训练把性别歧视转化而非消除
提出 harm laundering，证明安全训练改写而非消除性别歧视
- arXiv
- 2609.20779
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- gpt2、gpt2-medium、gpt2-large 等 15 个
摘要GPT 谱系上毒性下降与表征伤害上升并存。
Wyer、Black 与 Al Moubayed 用 OpenAI GPT 谱系检验：毒性分数下降是否等于歧视减少。 他们的答案是否定的，并把“显性伤害被改写成评测指标看不见的形式”称为 harm laundering。
已经到底了