研究:LLM 潜在空间去偏方向主要编码置信度而非公平性
分析 LLM 去偏激活方向,发现其编码置信度而非公平性
- arXiv
- 2610.08559
- Published
- Layer
- Model layer
- Setting
- Models and APIs
- Evaluated models
- Llama-3.1-8B, Llama-3.1-8B-Instruct, Falcon3-7B-Base and others8
Abstract论文揭示激活引导去偏见方向主要编码模型置信度而非公平性,偏见评分下降实为诱发弃答或使概率均分的假象。