跳到正文
10月12日 · 周一

全部论文

找到 20篇
筛选3
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 261篇还没打标签,不在筛选结果里。

另有261篇论文还没打上分类标签,暂不在筛选结果里。

  1. 可解释性arXiv 2610.08559

    研究:LLM 潜在空间去偏方向主要编码置信度而非公平性

    分析 LLM 去偏激活方向,发现其编码置信度而非公平性

    发表
    被测模型
    Llama-3.1-8B、Llama-3.1-8B-Instruct、Falcon3-7B-Base 等8个

    摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性,偏见评分下降实为诱发弃答或使概率均分的假象。

    深度解读完整解读
  2. 其他arXiv 2610.01005

    基于容忍度的公平性审计:违规认证与敏感性筛查

    提出容忍度公平性审计,用 CEL 认证违规并用 SEL 筛查

    发表
    被测模型
    COMPAS
    摘要容忍阈值下,CEL 做违规认证,SEL 与 ASEL 做更敏感的筛查。

    这篇工作给出一套按审计目标切换校准的容忍公平审计:差异不必为零,而是看预先指定的不利方向上是否超过允许阈值。

    深度解读完整解读
  3. 其他arXiv 2609.40034

    ALeBi:用 bias probe 主动审计多群体公平性

    提出 k-ALeBi 偏差探针,主动审计黑盒模型的多组公平性

    发表
    被测模型
    linear model、random forest、MLP
    摘要偏差探针把多组公平审计变成比较函数学习,并分开审计与重构。

    k-ALeBi 把黑盒多组公平审计写成跨组比较函数的学习,而不是先重构分类器。

    深度解读完整解读
  4. 防御arXiv 2609.39107

    MASCRDM:面向大语言模型训练过程的合规风险检测与缓解多智能体系统

    提出 MASCRDM,在监督微调中实时检测并缓解偏见

    发表
    被测模型
    Qwen3-8B-Base、Llama-3.1-8B
    摘要MASCRDM 在 SFT 中按法规图谱检测数据、结构与损失风险,BBQ 总准确率在两模型上最高。

    MASCRDM 把 AI 法律规章编成知识图谱,再由五个智能体在 LLM 训练中做实时合规检测与缓解,实验以偏见与歧视为代表风险。

    深度解读完整解读
  5. 评测与基准arXiv 2609.39025

    面向算法公平性的 Rank Graduation 指标

    提出 Rank Graduation Fairness 指标,检验群体间预测误差负担是否可比

    发表
    被测模型
    logistic regression、random forest、gradient boosting 等4个
    摘要用误差排序、置换检验和特征移除评估信贷公平,HMDA 上四模型均拒绝零假设。

    用预测误差的排序分布、置换检验和特征移除,评估信贷模型在受保护群体间的公平。。

    深度解读完整解读
  6. 防御arXiv 2609.33086

    研究者提出基于评分量表的可解释奖励框架,将宪法转化为可调对齐目标

    提出可解释 rubric 奖励,将宪法转为可调权重并用于监督微调

    发表
    被测模型
    Gemma 3 12B、Qwen3 14B、GPT-OSS 20B
    摘要宪法级可解释奖励让优先级可检查、可改写,并带入训练后的行为。

    作者给出一条从通用宪法到可调训练奖励的路径,用来检查并改写模型实际被优化的优先级。

    深度解读完整解读
  7. 分析与理论arXiv 2609.32004

    论文指出消除人口统计信息的不变性约束可能制造新偏见

    分析消除人口统计信息的不变性约束如何制造新偏见

    发表
    被测模型
    Fair Normalizing Flows、MMD regularizer、adversarial 等5个
    摘要表示不变性不是公平的充分条件。

    这篇分析考察的是:为了公平而从潜表示中去掉人口统计信息,是否可取、是否足够。作者认为,表示能解码出群体归属,本身并不解释不公平。任务特征可以与群体相关,患病率不同时,抹平边际分布会迫使错误率在群体间分开。

    深度解读完整解读
  8. 分析与理论arXiv 2609.20779

    研究称 GPT 系列安全训练把性别歧视转化而非消除

    提出 harm laundering,证明安全训练改写而非消除性别歧视

    发表
    被测模型
    gpt2、gpt2-medium、gpt2-large 等15个
    摘要GPT 谱系上毒性下降与表征伤害上升并存。

    Wyer、Black 与 Al Moubayed 用 OpenAI GPT 谱系检验:毒性分数下降是否等于歧视减少。 他们的答案是否定的,并把“显性伤害被改写成评测指标看不见的形式”称为 harm laundering。

    深度解读完整解读
  9. 可解释性arXiv 2609.10060

    研究者提出基于参考的隐藏状态相对表示偏见检测方法

    用相对表示比较微调前后隐状态,检验表征偏见偏移与输出偏见是否共变

    发表
    被测模型
    Llama 3.1-8B-Instruct、Mistral-7B-Instruct-v0.3、Gemma 3-4B-IT
    摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。

    Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态,定义表征偏见偏移∆B,用来审计相关模型变体,而不为每种危害另建输出基准。

    深度解读完整解读
  10. 可解释性arXiv 2609.08322

    多语言 LLM 中的刻板印象如何从内部表征传导到输出:Llama-3.1-8B、Qwen3-8B 与 Gemma-2-9B 的机制对比

    用线性探针、归因修补与 SAE 消融追踪多语模型刻板印象

    发表
    被测模型
    Llama-3.1-8B、Qwen3-8B、Gemma-2-9B
    摘要可解码、输出影响与稀疏特征消融需要分开测量。

    把多语 LLM 中刻板印象从线性表示追到输出影响,再追到 SAE 特征消融。。

    深度解读完整解读
  11. 评测与基准arXiv 2608.11816

    研究审计 9 个视觉语言模型:中文提示下国家立场改写率约为英文的三倍

    审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为

    发表
    被测模型
    Qwen2-VL-7B、Qwen2.5-VL-7B、Qwen3-VL-8B 等9个
    摘要论文系统审计了 VLM 多模态审查,发现审查正从显式拒答转向隐蔽重构,且中文提示与文本先验会放大重构倾向。

    论文系统研究了中外开源视觉语言模型在政治敏感图像上的审查行为,主要内容如下。

    深度解读完整解读
  12. AdaCultureSafe:LLM 文化安全与文化知识存在显著解耦

    构建 AdaCultureSafe 配对评测文化知识与文化安全

    发表
    被测模型
    Llama3.1-8B、Mistral-7B、Qwen2.5-7B 等7个
    摘要配对评测中知识与安全脱钩,知识锚定 DPO 抬高了 Respect。

    AdaCultureSafe 把同一条地区文化做成“是否知道”和“是否尊重”两套查询,用来看安全有没有用上知识,并用偏好训练把回答往“尊重且用上知识”拉。

    深度解读完整解读
  13. 分析与理论arXiv 2601.08668

    分析大语言模型在仇恨言论去毒中误拒行为的偏差

    分析 LLM 仇恨言论解毒误拒的群体偏差并测试跨语翻译缓解

    发表
    被测模型
    GPT-4o mini、GPT-3.5 turbo、Llama-3.1 8B 等9个
    摘要九个 LLM 在解毒任务上普遍误拒,国籍宗教政治类偏高。

    作者考察对齐后的 LLM 是否会拒绝可接受的仇恨言论解毒请求,并分析误拒是否随目标群体和语言变化。完全拒答与夹带说教的部分拒答都计入。设置是固定提示、九个 LLM、三个英文集和法德西中韩。

    深度解读完整解读
  14. 评测与基准arXiv 2511.08225

    研究者用 600 篇作文对六款大模型的教育反馈性别偏差做基准测试

    用反事实与嵌入距离评测作文反馈的性别偏差

    发表
    被测模型
    GPT-5 mini、GPT-4o mini、DeepSeek-R1 等6个
    摘要六种 LLM 作文反馈对隐式性别替换不对称,显式线索只让部分模型的语义距离变大。

    作者用句嵌入距离和置换检验,给教育场景中的 LLM 性别偏见审计做一个可计算基准,案例是学生议论文的形成性反馈。

    深度解读完整解读
  15. 分析与理论arXiv 2506.06404

    研究揭示价值对齐 LLM 的意外危害并提出上下文对齐方法

    分析按 Schwartz 价值对齐后的意外危害,并提出上下文对齐方法

    发表
    被测模型
    Llama-2 7B、Llama-3.1 8B、Gemma-2 9B 等6个
    摘要价值对齐会随 Schwartz 价值改变有害倾向。

    作者研究按 Schwartz 价值对齐的 LLM 为何在安全评测里更易有害,并用提示做了一个不直说要安全的缓解试验。

    深度解读完整解读
已经到底了