10月8日 · 周四

可解释性 · 论文

找到 2 篇

筛选1

模型自身风险

欺骗与谋划3 失准与价值偏离1 拒答失当3 偏见与歧视2

防御类型

推理时干预1

系统形态

层

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 174 篇还没打标签，不在筛选结果里。

模型自身风险：偏见与歧视话题：可解释性清除全部

另有 174 篇论文还没打上分类标签，暂不在筛选结果里。

可解释性arXiv:2610.08559 · 10月6日
研究：LLM 潜在空间去偏方向主要编码置信度而非公平性
分析激活引导去偏方向，发现其编码的是置信度而非公平性
模型与 API测试Llama-3.1-8B、Llama-3.1-8B-Instruct、Falcon3-7B-Base 等 8 个模型层
- 推理时干预
- 偏见与歧视
摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。
完整解读
可解释性arXiv:2609.10060 · 9月9日
研究者提出基于参考的隐藏状态相对表示偏见检测方法
用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变
模型与 API测试Llama 3.1-8B-Instruct、Mistral-7B-Instruct-v0.3、Gemma 3-4B-IT模型层
- 偏见与歧视
摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。
Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。
完整解读

已经到底了