风险行为arXiv 2610.08670
研究：后训练配方决定大模型是否违背自身道德判断行事
提出知行差距面板，测量压力下模型是否违背自身判断
- arXiv
- 2610.08670
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- OLMo-3-7B-Instruct、Llama-3.1-8B-Instruct、Tulu 3 等 7 个
- 风险失准与价值偏离
摘要评估发现后训练配方决定知行差距是否存在，行动前审思可有效缓解。
本文评估了开源语言模型作为智能体行动时违背自身道德判断的知行差距及其决定因素。
全部论文
另有 489 篇论文还没打上分类标签，暂不在筛选结果里。
- 可解释性arXiv 2610.08559
研究：LLM 潜在空间去偏方向主要编码置信度而非公平性
分析 LLM 去偏激活方向，发现其编码置信度而非公平性
- arXiv
- 2610.08559
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Llama-3.1-8B、Llama-3.1-8B-Instruct、Falcon3-7B-Base 等 8 个
摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。
- 评测与基准arXiv 2610.06522
SycoLens 研究：单一谄媚翻转率掩盖纠正与屈从的区别
构建 SycoLens 重放评测，区分谄媚翻转中的纠错与屈从
- arXiv
- 2610.06522
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- opus-5、sonnet-5、sonnet-4.6 等 11 个
- 风险失准与价值偏离
摘要论文揭示施压句式、边界距离与格式偏置主导翻转率，提出系统解构纠错与顺从的综合评测方案。
本文系统解构了大语言模型在用户质疑下的阿谀奉承行为与评测机制。
- 防御arXiv 2610.01170
HeadEdit：通过冻结的 unembedding 矩阵校准语言模型行为
提出 HeadEdit，经冻结 unembedding 做随输入变化的 logit 校正
- arXiv
- 2610.01170
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen3-4B、Gemma-3-4B-IT、Llama-3.2-3B-Instruct 等 4 个
摘要低秩 unembedding 校正抬高九个设置的总体准确率，并可部分预测 DPO 更新。
HeadEdit 是一种不更新参数的行为校准方法，作用点是冻结的 unembedding，而不是中间层残差或新的梯度优化。
- 风险行为arXiv 2607.14345
Truthful AI 提出价值泄漏评估：模型答案被自身价值观悄然左右
提出价值泄漏评估，测量模型回答受自身价值倾向的隐蔽影响
- arXiv
- 2607.14345
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Claude Opus 4.8、Claude Opus 4.7、Claude Opus 4.6 等 15 个
摘要论文揭示前沿模型回答常受自身价值隐蔽塑造，提出反事实评估量化偏见及其思维链隐瞒，指出当前对齐未能有效防范该失效。
- 分析与理论arXiv 2609.32004
论文指出消除人口统计信息的不变性约束可能制造新偏见
分析消除人口统计信息的不变性约束如何制造新偏见
- arXiv
- 2609.32004
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- ERM、Fair Normalizing Flows、DenseNet121 等 7 个
- 风险偏见与歧视
摘要表示不变性不是公平的充分条件。
这篇分析考察的是：为了公平而从潜表示中去掉人口统计信息，是否可取、是否足够。作者认为，表示能解码出群体归属，本身并不解释不公平。任务特征可以与群体相关，患病率不同时，抹平边际分布会迫使错误率在群体间分开。
- 评测与基准arXiv 2609.39025
面向算法公平性的 Rank Graduation 指标
提出 Rank Graduation Fairness 指标，检验群体间预测误差负担是否可比
- arXiv
- 2609.39025
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- logistic regression、random forest、gradient boosting 等 4 个
- 风险偏见与歧视
摘要用误差排序、置换检验和特征移除评估信贷公平，HMDA 上四模型均拒绝零假设。
用预测误差的排序分布、置换检验和特征移除，评估信贷模型在受保护群体间的公平。。
- 分析与理论arXiv 2609.30768
研究：推理 token 能纠正部分偏见
用 CDPG 与 BTM 追踪思考如何改变反事实公平翻转
- arXiv
- 2609.30768
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- QwQ-32B、DeepSeek-R1-Distill-Qwen-32B、Qwen3-32B 等 5 个
- 评测与基准arXiv 2608.11816
研究审计 9 个视觉语言模型：中文提示下国家立场改写率约为英文的三倍
审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为
- arXiv
- 2608.11816
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen2-VL-7B、Qwen2.5-VL-7B、Qwen3-VL-8B 等 9 个
摘要论文系统审计了 VLM 多模态审查，发现审查正从显式拒答转向隐蔽重构，且中文提示与文本先验会放大重构倾向。
论文系统研究了中外开源视觉语言模型在政治敏感图像上的审查行为，主要内容如下。
- 评测与基准arXiv 2609.38106
剪枝提效却牺牲公平：剪枝语音 LLM 中的群体差异
测量剪枝对语音 LLM 群体转写公平性的影响
- arXiv
- 2609.38106
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Whisper Small (12 layers)、Whisper Medium (24 layers)、Whisper Large-v2 (32 layers) 等 4 个
摘要剪枝后的 Speech-LLM 不能只看总体 WER：Fair-Speech 上族群差扩大，作者建议看最差组。
- 其他arXiv 2609.40034
ALeBi：用 bias probe 主动审计多群体公平性
提出 k-ALeBi 偏差探针，主动审计黑盒模型的多组公平性
- arXiv
- 2609.40034
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- linear model、random forest、MLP
- 风险偏见与歧视
摘要偏差探针把多组公平审计变成比较函数学习，并分开审计与重构。
k-ALeBi 把黑盒多组公平审计写成跨组比较函数的学习，而不是先重构分类器。
- 其他arXiv 2610.01005
基于容忍度的公平性审计：违规认证与敏感性筛查
提出容忍度公平性审计，用 CEL 认证违规并用 SEL 筛查
- arXiv
- 2610.01005
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- COMPAS
- 风险偏见与歧视
摘要容忍阈值下，CEL 做违规认证，SEL 与 ASEL 做更敏感的筛查。
这篇工作给出一套按审计目标切换校准的容忍公平审计：差异不必为零，而是看预先指定的不利方向上是否超过允许阈值。
- 风险行为arXiv 2608.10218
研究者用进化算法构造多智能体 LLM 系统中的自我传播“思维病毒”
用演化算法构造思维病毒并测量其在多智能体中的传播
- arXiv
- 2608.10218
- 发表
- 层
- 应用层
- 测试
- Claude Haiku 4.5、Claude Sonnet 4.6、Claude Opus 4.6 等 9 个
- 可解释性arXiv 2609.10060
研究者提出基于参考的隐藏状态相对表示偏见检测方法
用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变
- arXiv
- 2609.10060
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Llama 3.1-8B-Instruct、Mistral-7B-Instruct-v0.3、Gemma 3-4B-IT
- 风险偏见与歧视
摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。
Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。
- 评测与基准arXiv 2609.39863
FIGS：在不惩罚共情的前提下评测多轮谄媚
提出 FIGS 双轴基准，评测多轮对话中的谄媚与校准性共情
- arXiv
- 2609.39863
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- DeepSeek V4.1 Flash、Gemini 3.8 Flash、GLM 5.3 等 8 个
- 风险失准与价值偏离
摘要FIGS 把守事实和恰当共情分开计分，事实向提示会换来更冷的失败。
FIGS 是一个固定的多轮评测套件，用来同时看模型会不会在压力下放弃事实，以及会不会在守住事实时忽略用户实际说过的感受。
- 可解释性arXiv 2609.37616
语言模型中的权威偏差：来源顺从与用户认同并非同一行为
因果解耦来源依从与用户迎合的内部机制
- arXiv
- 2609.37616
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen3.5-27B、GPT-OSS-20B、OLMo-3.1-32B 等 8 个
- 风险失准与价值偏离
摘要论文发现模型对验证源的依从强于用户迎合，通过因果干预区分了二者机制，并检验了权威方向移除的缓解效果。
- 防御arXiv 2609.30405
AIMES：通过因果激活引导实现 LLM 自适应多价值观控制
提出 AIMES 用词表读出在线调节多价值激活干预
- arXiv
- 2609.30405
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Gemma-3-4B-IT、Gemma-3-12B-IT、Qwen3-4B 等 5 个
摘要AIMES 用词表读出闭环调节多价值转向，优势随深度变化且实现扰动更小。
AIMES 是推理时的多价值激活转向框架，用中间层词表读出把固定系数改成随状态变化的权重。
- 防御arXiv 2609.31122
LocUS：面向定向激活引导的注意力头选择与子空间投影
提出 LocUS，用词汇子空间选择注意力头并约束激活转向
- arXiv
- 2609.31122
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B-v0.1、Mistral-7B-Instruct-v0.3、Llama-3.1-8B 等 7 个
摘要LocUS 用词汇子空间约束 DoM 转向的位置和方向。
LocUS 是不更新权重的推理时转向方法，把差分均值更新限制在少数注意力头及其属性对齐子空间。
- 可解释性arXiv 2609.35544
减少谄媚能否增强拒答？机制可解释性带来的 AI 安全启示
用 SAE 与 CFI 压低谄媚，检验直接拒答与施压下拒答是否增强
- arXiv
- 2609.35544
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen3.5-2B-Base、Qwen3.5-9B-Base、Qwen3.5-35B-A3B-Base
- 风险失准与价值偏离
摘要CFI 能持久降低谄媚，但不保证直接拒答变强。
用 SAE 选出的谄媚特征做补偿性训练注入，检验“少谄媚”是否带来“更强拒答”。。
- 风险行为arXiv 2609.08186
论文揭示大推理模型的对齐崩溃并提出 Reasoning Trap 越狱范式
揭示推理加深引发的对齐坍塌，用 Reasoning Trap 放大越狱
- arXiv
- 2609.08186
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen3-8B、Qwen3-14B、Llama2-7B 等 8 个
摘要更深推理提升题目准确率，同时提高扰动下的相对损失。
作者研究扩展推理是否以对齐稳健性为代价，提出 ALR、RT 与 RRA。。