Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 21 papers

Another 261papers do not have category tags yet and are not included in filtered results.

  1. Study: Debiasing directions in LLM latent space primarily encode confidence rather than fairness

    分析 LLM 去偏激活方向,发现其编码置信度而非公平性

    Published
    Evaluated models
    Llama-3.1-8B, Llama-3.1-8B-Instruct, Falcon3-7B-Base and others8

    Abstract论文揭示激活引导去偏见方向主要编码模型置信度而非公平性,偏见评分下降实为诱发弃答或使概率均分的假象。

    Paper analysisRead analysis
  2. 研究:财务信息披露越少,Llama-3.1-8B-Instruct 的理财建议越受身份影响

    测量财务事实变少时身份对股权配置建议的替代

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Qwen2.5-1.5B-Instruct
    Abstract身份摆幅随披露减少上升。

    同一财务只改人设,测量披露变薄时股权建议里的身份替代。

    Paper analysisRead analysis
  3. DefensesarXiv 2610.03240

    通过模型路由与协作实现集体偏见缓解

    提出 CBM,用模型路由与多模型协作缓解群体偏见

    Published
    Evaluated models
    Qwen/Qwen2.5-32B-Instruct, Qwen/Qwen2.5-14B-Instruct, google/gemma-2-9b-it and others7
    AbstractCBM 用路由挑选模型并按拓扑协作,在若干设定下降低 BBQ 偏见分。

    CBM 是一个推理时的多模型去偏框架:用路由为查询选模型,再按拓扑协作,以降低社会偏见分。

    Paper analysisRead analysis
  4. OtherarXiv 2610.01005

    基于容忍度的公平性审计:违规认证与敏感性筛查

    提出容忍度公平性审计,用 CEL 认证违规并用 SEL 筛查

    Published
    Evaluated models
    COMPAS
    Abstract容忍阈值下,CEL 做违规认证,SEL 与 ASEL 做更敏感的筛查。

    这篇工作给出一套按审计目标切换校准的容忍公平审计:差异不必为零,而是看预先指定的不利方向上是否超过允许阈值。

    Paper analysisRead analysis
  5. OtherarXiv 2609.40034

    ALeBi:用 bias probe 主动审计多群体公平性

    提出 k-ALeBi 偏差探针,主动审计黑盒模型的多组公平性

    Published
    Evaluated models
    linear model, random forest, MLP
    Abstract偏差探针把多组公平审计变成比较函数学习,并分开审计与重构。

    k-ALeBi 把黑盒多组公平审计写成跨组比较函数的学习,而不是先重构分类器。

    Paper analysisRead analysis
  6. 面向算法公平性的 Rank Graduation 指标

    提出 Rank Graduation Fairness 指标,检验群体间预测误差负担是否可比

    Published
    Evaluated models
    logistic regression, random forest, gradient boosting and others4
    Abstract用误差排序、置换检验和特征移除评估信贷公平,HMDA 上四模型均拒绝零假设。

    用预测误差的排序分布、置换检验和特征移除,评估信贷模型在受保护群体间的公平。。

    Paper analysisRead analysis
  7. 剪枝提效却牺牲公平:剪枝语音 LLM 中的群体差异

    测量剪枝对语音 LLM 群体转写公平性的影响

    Published
    Evaluated models
    Whisper Small (12 layers), Whisper Medium (24 layers), Whisper Large-v2 (32 layers)

    Abstract剪枝后的 Speech-LLM 不能只看总体 WER:Fair-Speech 上族群差扩大,作者建议看最差组。

    Paper analysisRead analysis
  8. 论文发现暴露模型身份标签会削弱多智能体 LLM 合作

    发现暴露模型家族标签会让多智能体派系化并削弱合作

    Published
    Evaluated models
    Gemma (gemma-4-26B-A4B-it), GPT-OSS (gpt-oss-20b), Nemotron (NVIDIA-Nemotron-3-Nano-30B-A3B-BF16) and others6
    Abstract可见身份标签让异构 LLM 群体按标签结派,共识更慢、更贵,去掉标签后该行为消失。

    Del Giudice 等人研究异构多智能体 LLM 系统里一个配置细节:把模型家族身份告诉智能体,会不会改变合作。他们把由此出现的、按身份结组的倾向称为 factionalism。任务是无利害的共同决策,没有人设,也没有偏向同家族同伴的奖励。

    Paper analysisRead analysis
  9. 论文指出消除人口统计信息的不变性约束可能制造新偏见

    分析消除人口统计信息的不变性约束如何制造新偏见

    Published
    Evaluated models
    Fair Normalizing Flows, MMD regularizer, adversarial and others5
    Abstract表示不变性不是公平的充分条件。

    这篇分析考察的是:为了公平而从潜表示中去掉人口统计信息,是否可取、是否足够。作者认为,表示能解码出群体归属,本身并不解释不公平。任务特征可以与群体相关,患病率不同时,抹平边际分布会迫使错误率在群体间分开。

    Paper analysisRead analysis
  10. 研究称 GPT 系列安全训练把性别歧视转化而非消除

    提出 harm laundering,证明安全训练改写而非消除性别歧视

    Published
    Evaluated models
    gpt2, gpt2-medium, gpt2-large and others15
    AbstractGPT 谱系上毒性下降与表征伤害上升并存。

    Wyer、Black 与 Al Moubayed 用 OpenAI GPT 谱系检验:毒性分数下降是否等于歧视减少。 他们的答案是否定的,并把“显性伤害被改写成评测指标看不见的形式”称为 harm laundering。

    Paper analysisRead analysis
  11. 研究者提出基于参考的隐藏状态相对表示偏见检测方法

    用相对表示比较微调前后隐状态,检验表征偏见偏移与输出偏见是否共变

    Published
    Evaluated models
    Llama 3.1-8B-Instruct, Mistral-7B-Instruct-v0.3, Gemma 3-4B-IT
    Abstract相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。

    Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态,定义表征偏见偏移∆B,用来审计相关模型变体,而不为每种危害另建输出基准。

    Paper analysisRead analysis
  12. 多语言 LLM 中的刻板印象如何从内部表征传导到输出:Llama-3.1-8B、Qwen3-8B 与 Gemma-2-9B 的机制对比

    用线性探针、归因修补与 SAE 消融追踪多语模型刻板印象

    Published
    Evaluated models
    Llama-3.1-8B, Qwen3-8B, Gemma-2-9B
    Abstract可解码、输出影响与稀疏特征消融需要分开测量。

    把多语 LLM 中刻板印象从线性表示追到输出影响,再追到 SAE 特征消融。。

    Paper analysisRead analysis
  13. Study audits 9 vision-language models: national stance rewriting rate under Chinese prompts is about three times that under English

    审计视觉语言模型在敏感图像上从拒答转向国家立场重构的行为

    Published
    Evaluated models
    Qwen2-VL-7B, Qwen2.5-VL-7B, Qwen3-VL-8B and others9
    Abstract论文系统审计了 VLM 多模态审查,发现审查正从显式拒答转向隐蔽重构,且中文提示与文本先验会放大重构倾向。

    论文系统研究了中外开源视觉语言模型在政治敏感图像上的审查行为,主要内容如下。

    Paper analysisRead analysis
  14. AdaCultureSafe:LLM 文化安全与文化知识存在显著解耦

    构建 AdaCultureSafe 配对评测文化知识与文化安全

    Published
    Evaluated models
    Llama3.1-8B, Mistral-7B, Qwen2.5-7B and others7
    Abstract配对评测中知识与安全脱钩,知识锚定 DPO 抬高了 Respect。

    AdaCultureSafe 把同一条地区文化做成“是否知道”和“是否尊重”两套查询,用来看安全有没有用上知识,并用偏好训练把回答往“尊重且用上知识”拉。

    Paper analysisRead analysis
  15. 分析大语言模型在仇恨言论去毒中误拒行为的偏差

    分析 LLM 仇恨言论解毒误拒的群体偏差并测试跨语翻译缓解

    Published
    Evaluated models
    GPT-4o mini, GPT-3.5 turbo, Llama-3.1 8B and others9
    Abstract九个 LLM 在解毒任务上普遍误拒,国籍宗教政治类偏高。

    作者考察对齐后的 LLM 是否会拒绝可接受的仇恨言论解毒请求,并分析误拒是否随目标群体和语言变化。完全拒答与夹带说教的部分拒答都计入。设置是固定提示、九个 LLM、三个英文集和法德西中韩。

    Paper analysisRead analysis
  16. AttacksarXiv 2601.00240

    When agents view humans as out-group: belief-dependent bias in LLM-driven agents

    提出 BPA 改写 profile 与记忆,重新诱发智能体对人类的外群体偏向

    Published
    Evaluated models
    gpt-4o-mini
    Abstract最小群体线索下出现内群体偏向。

    作者考察 LLM 智能体在任意群体边界下会不会把人类当外群体,并用信念投毒检验面向人类的抑制是否依赖身份信念。

    Paper analysisRead analysis
  17. 研究者用 600 篇作文对六款大模型的教育反馈性别偏差做基准测试

    用反事实与嵌入距离评测作文反馈的性别偏差

    Published
    Evaluated models
    GPT-5 mini, GPT-4o mini, DeepSeek-R1 and others6
    Abstract六种 LLM 作文反馈对隐式性别替换不对称,显式线索只让部分模型的语义距离变大。

    作者用句嵌入距离和置换检验,给教育场景中的 LLM 性别偏见审计做一个可计算基准,案例是学生议论文的形成性反馈。

    Paper analysisRead analysis