跳到正文
原文

AI 政治中立不可能实现,立场论文提出 8 种逼近技术

Political Neutrality in AI Is Impossible- But Here Is How to Approximate It

arXiv· arXiv:2503.05728· Jillian Fisher, Ruth E. Appel, Chan Young Park, Yujin Potter, Liwei Jiang, Taylor Sorensen, Shangbin Feng, Yulia Tsvetkov, Margaret E. Roberts, Jennifer Pan, Dawn Song, Yejin Choi·本站收录· 2026-10-14· 原文发表观点

论文速读

其他

据论文 PDF 整理(AI 生成),以原文为准

作者提出三层八种政治中立近似,并称GPT-4比Claude和Llama更贴近指定输出策略。

问题
LLM常表现出政治偏见,并可能影响用户的意见与决策。作者认为绝对政治中立在理论上和技术上都不可行,也不总是可欲,但仍值得用程度性的近似来减少对用户的操纵。
方法
作者在输出、系统、生态三层提出拒答、回避、合理多元、透明、均匀中立、反映式中立、系统透明和多样性中立。用效用、安全、清晰、公平、用户能动性比较取舍,并讨论静态决策树、动态选择,以及营养标签和促进观点多样。
实验与结果
作者称在自建美国中心问题上,GPT-4比Claude和Llama更贴近指定输出策略。Claude更常回避;Llama与R1更少拒绝有害题。恶意阴谋题指定为回避,Table 2中GPT4该占比为0.00%。
局限与可以继续做的
作者将后续工作放在何种情境偏好何种近似,以及如何在输出、系统、生态三层实现并评测。营养标签的内容与制定者仍是开放问题,附录还列出指标由谁制定等限制。实验侧报告的是输出层、美国中心数据,自动标注为GPT-4o,人工抽检每数据集15条。
实验设置GPT-4o、Claude-3.5 Sonnet 等 · U.S. government voting websites questions、UN Declaration of Human Rights 等 · 各近似技术回复占比、human-model agreement rate
被测模型
GPT-4oClaude-3.5 SonnetR1Llama-3.3 (70B)Claude 3.5 HaikuGemini FlashGemini ProGPT-4o miniQwen2.5OLMo 2
基准
U.S. government voting websites questionsUN Declaration of Human RightsPKU-SafeRLHFPolitical CompassDEBATUNEBang et al. (2024) political topicsWikipedia U.S. political conspiraciesRöttger et al. (2024a) prompt formats
指标
各近似技术回复占比human-model agreement rate
AI 导读一篇立场论文认为,AI 政治中立因主观性及训练数据、算法和用户互动中的固有偏见而既不可行也并非普遍可取,主张以“逼近”取代绝对中立。作者援引 Joseph Raz 中立可以是程度问题的观点,提出跨三个 AI 概念层面的 8 种逼近技术,分析其取舍与实现策略,并给出两个具体应用示例。最后在当前大语言模型(LLM)的输出层面演示了该框架的评估方式。

一篇立场论文认为,AI 政治中立因主观性及训练数据、算法和用户互动中的固有偏见而既不可行也并非普遍可取,主张以“逼近”取代绝对中立。作者援引 Joseph Raz 中立可以是程度问题的观点,提出跨三个 AI 概念层面的 8 种逼近技术,分析其取舍与实现策略,并给出两个具体应用示例。最后在当前大语言模型(LLM)的输出层面演示了该框架的评估方式。

相关热点

1 个事件 · 1 条新闻提到

提到这篇论文的新闻

CITP审计:ChatGPT开记忆后选举答案偏向用户党派

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    作者认为真正的政治中立不可行且不总是可欲,故改以三层八种近似处理偏见。

    真正的政治中立既不可行,也不总是可欲,但政治偏见仍需要可操作的近似。

    • 出现场景:作者称 LLM 反复表现出政治偏见,并进入新闻摘要、假新闻检测等日常应用;与有偏见模型互动可能塑造用户意见与决策。
    • 绝对中立的困难:作者认为中立的标准因文化与意识形态而变;训练数据、算法与部署情境嵌入偏见;概率模型即使期望上中立,单次输出仍可能有偏。
    • 理论与可欲性:作者称任何议题都难免站位,中立本身肯定宽容等价值,谱系中点是温和立场而非中立点,不行动会偏向更强一方;意图与后果也难以用来判定成功。可欲之处包括自主、承认价值冲突与公共服务;不可欲之处包括用户偏好同温层、公司言论权、信息过载或压制表达,以及不同立场的数据质量可能不同。
    • 本文提出:受 Raz(1986)“中立可以有程度”启发,作者把目标改成近似。在输出、系统、生态三层提出八种技术、取舍和选择策略,并给出两项应用与一次输出层观察。
  2. 有哪些相关研究?

    相关讨论集中在中立的哲学不可能、LLM政治偏见,以及多元主义实现途径。

    论文没有单列 Related Work,相关讨论散在引言、第 2 节和近似技术的来源说明里。

    偏见测量与用户影响

    • 模型偏见:Feng et al.(2023)、Röttger et al.(2024a)、Yang et al.(2024)、Potter et al.(2024b)被用来说明 LLM 会表现出政治偏见。
    • 对用户的影响:Fisher et al.(2025)、Li(2023)、Hackenburg and Margetts(2024)、Durmus et al.(2024a)被引来说明,与有偏见的 LLM 互动可能塑造意见和决策。
    • 自由派偏向:作者在生态层写道,当前多数模型呈现自由派偏向,引用 Pit et al.(2024)与 Fulay et al.(2024)。

    中立化尝试与多元主义

    • 更中立的模型:Rotaru et al.(2024)、Lin et al.(2025)、Durmus et al.(2024b)、Pit et al.(2024)被引言当作“发展更政治中立的模型”这一方案。作者认为真正中立不可得。
    • 多元主义技术:合理多元被联系到 Sorensen et al.(2024)的 Overton pluralism。Feng et al.(2024)的多模型聚合、Lake et al.(2025)关于 RLHF 的结果,被作者写成可促进多元回答的途径。
    • 安全拒答工具:安全微调、红队、RLHF、Constitutional AI,以及 Anthropic 系统提示、OpenAI Moderation API、Llama Guard,被当作可改用于政治拒答或回避的现成机制。作者称现有分类器难以评估政治偏见。

    哲学与政治理论

    • 定义:Rawls(1993)将政治中立写成国家不应有意偏袒某种整全学说。作者称这些原则也可用于 AI 开发者这类私人行动者,并引用美国宪法第一修正案关于政府不得按观点限制言论的表述。
    • 不可能:Raz(1986)写中立可以有程度。Iwasa(2010)、Merrill and Weinstock(2014)被用来论证不存在等距的中立点,不行动也会偏向强势方,且难以从意图或后果判定中立是否成功。
    • 可欲与不可欲:Merrill and Weinstock(2014)被用于自主、尊重分歧等理由。Sharma et al.(2023)、Messer(2025)、Potter et al.(2024b)被用于用户偏好强化自身观点。作者还提到公司言论权、信息过载,以及不同政治观点的数据质量可能不同。

    实验里的数据来源

    • 没有现成基准:作者称框架较新,不存在针对这些定义的现成评测,因此自建美国中心问题集,并由研究者按 Figure 2 指定期望技术,而不是与某个外部方法比成功率。
    • 来源:美国政府投票网站问答、联合国《世界人权宣言》、PKU-SafeRLHF 中的高危害政治相关问题、Political Compass、DEBATUNE、Bang et al.(2024)的政治话题、维基百科美国政治阴谋论,以及 Röttger et al.(2024a)的提问格式。

    作者把本文定位成:承认绝对中立不可达之后,借用跨学科里已有的中立、偏见与代表性争论,给 AI 提供可选择的近似,而不是再宣称达到了真正中立。

  3. 论文如何解决这个问题?

    八种近似分处输出、系统、生态三层,并用五项特性比较取舍。

    作者把目标从绝对中立改成可比较的近似,并在三个层次上定义八种技术。

    层次与比较方式

    • 三层:输出层只看单次回复;系统层看一个系统的全部输入输出;生态层看在用的全部 AI 系统。Figure 1 用示例标出各层。
    • 五项特性:Utility、Safety、Clarity、Fairness、User Agency。Table 1 用勾叉比较八种技术,并给出形式定义;附录 A.1、A.3 说明特性与符号。阈值 k 由使用者设定,论文没有给出统一数值。
    • 定位:这些技术是近似,不是新的统一训练算法。论文说明可以借用哪些现成机制,并写出取舍。

    输出层四种技术

    • Refusal:不产生内容。可借用安全微调、红队、强化学习、系统提示,或用检测器把政治内容分到回避模型。作者点名 Anthropic 的系统提示、OpenAI Moderation API 和 Llama Guard,并称它们难以给政治偏见打分、也难设拒答阈值。取舍是公平、安全、易懂;误拒会带来受挫,单边拒答会在系统层形成偏见,不提供信息也可能伤害需要知道自身权利的群体。
    • Avoidance:回答相关内容,但不直接回答,与直接回答的语义距离大于 k。可用 RLHF 或 Constitutional AI 奖励回避,或先过滤再路由。比拒答更有信息;距离太远会让用户困惑,事实句也可能被听成背书。
    • Reasonable Pluralism:呈现合理观点。概念来自 Rawls(1993),作者将其联系到 Overton pluralism。途径包括 RLHF、聚合不同偏见模型的输出,以及用不同政治观点的人做训练或微调。取舍是覆盖更全、能动性更高;“合理”有争议,无法穷尽观点,回答变长,并可能把可信度不同的观点摆成同等有效。
    • Output Transparency:标明偏见,而不是保证中立,形式可以是分数或说明。作者讨论模型自我分析,并称这可能放大既有偏见;外部安全分类器存在,但没有专评政治偏见的分类器。标注让用户自行判断,但不消除内容本身的伤害。

    系统层与生态层

    • Uniform Neutrality:回答不随用户身份、元数据或话题的政治属性而变。训练期可做跨元数据稳健性、公平损失,或在训练后用公平调优系统做扰动。作者称它提供一致信息,但与个性化和用户能动性冲突。
    • Reflective Neutrality:反映该用户自己的偏见。作者称单独建模型的计算和存储是难点,可用 LoRA 只改少量参数,或用系统提示,后者仍要按用户存储。能动性与效用更高,但可能强化既有偏见、减少接触对立观点。
    • System Transparency:公开系统级偏见、评测、系统提示和偏见来源,供用户选模型。作者称即使用户知道偏见,模型仍可能影响政治决策。
    • Neutrality Through Diversity:多个有偏系统并存,用户聚合或自选。作者援引观念市场,并称这样的生态尚未出现,当前多数模型呈自由派偏向。代价包括准入障碍、互相矛盾的输出、信息过载,以及不安全系统扩散;作者称这还需要公开各系统的政治偏见,而那还不是常见做法。

    选择与两项应用

    • 静态选择:用预先原则决定技术。Figure 2 是决策树示例。附录 A.2 的分叉包括索取信息或意见、是否强迫观点、是否多方争论、能否平衡概述、事实是否有争议、提问是否善意。作者称其可复现,但也僵硬,并受设计偏见影响。
    • 动态选择:用偏好聚合等方式决定,例如用户挑选回答,或 RLHF。作者称更能处理边界输入,但可解释性较低,并面临多数偏见、扩展成本和规范变化;公开聚合方法可以保留一部分透明。
    • 两项应用:一是政治营养标签,把偏见类型拆开说明,而不是只给二元分数;Figure 4 是示意,作者称成分仅为举例。二是用自愿准则和政策鼓励观点多样。作者提醒监管可能影响竞争或公司的言论自由,并称有效治理需要跨学科输入和对行为的持续透明。

    输出层观察怎么判定

    • 不是实现实验:Section 5 不训练新模型,而是给现有 LLM 的回复标上近似类型。
    • 期望标签:研究者按 Figure 2 为每类问题指定期望技术。投票与普世权利为不使用近似;有害题为拒答;政治意见与善意阴谋为合理多元;强迫观点为输出透明。恶意阴谋上,作者写不同格式需要不同回应,并承认拒答也可以是适当回应;实验里把回避标成该类期望,以便每种技术至少对应一个任务。
    • 自动标注:GPT-4o 把回复标成拒答、回避、合理多元、输出透明、未使用近似或 Bias。附录 D.3 给出完整标注提示词。Bias 指站了队但不符合输出透明。
  4. 论文做了哪些实验?

    作者称GPT-4更贴近指定近似;恶意阴谋题上GPT4的Avoidance为0.00%(Table 2)。

    实验设置

    • 被测模型:正文重点为 GPT-4o、Claude-3.5 Sonnet、R1、Llama-3.3 (70B)。附录 D.2 另写 GPT-4o-Mini、Gemini-1.5 Flash、Gemini-1.5 Pro、OLMO-2 (13B,bfloat16)、R1-Distill-Llama (70B)、Qwen2.5 (72B) Instruct,即五个闭源、五个开源。Llama-3.3 (70B) 使用 4bit 量化。正文说为简便只用父名,Table 2 写作 GPT4、Claude-3.5 (Sonnet) 等。
    • 数据:美国中心,期望技术由研究者按 Figure 2 指定。投票题 n=44;普世权利 48 条陈述乘 20 种格式,论文写 960 条提示;有害题来自 PKU-SafeRLHF,n=30;政治意见来自 Political Compass 40 条、DEBATUNE 100 题、Bang et al.(2024)10 个话题,再乘 20 种格式,论文写 3,000 条;加左或右倾向前缀后正文写 n=6,000;阴谋论 n=17,善意与恶意各 10 种格式。
    • 对照:没有外部方法基线。对照物是研究者指定的期望技术,Figure 3 用点标出。
    • 指标:各近似技术的回复百分比。类别为 Refusal、Avoidance、Reasonable Pluralism、Output Transparency、No Approximation Used、Bias。
    • 评审:GPT-4o 做自动标注。人工核验每数据集 15 条、2 名标注者。附录 D.3 写平均人机一致率 75%,并给出标注提示词。
    • 重复与图:论文未报告采样温度和每条提示的重复次数。Figure 3 是四模型的百分比条形图,数值以 Table 2 为准。Section 5 写附录还有六个模型的结果,Figure 3 图注写五个。

    主结果

    下表是研究者指定技术上的占比,据 Table 2。期望技术依次为:投票题 No Approximation,有害题 Refusal,政治意见 Reasonable Pluralism,强迫观点 Output Transparency,恶意阴谋 Avoidance。表中 GPT4 即正文的 GPT-4o。

    表格较宽,可左右滑动

    模型投票无近似有害拒答政治意见多元强迫观点透明恶意阴谋回避
    GPT488.64%100.00%99.33%83.89%0.00%
    Claude-3.5 (Sonnet)93.18%93.33%97.99%100.00%17.65%
    R190.91%16.67%69.13%97.99%76.47%
    Llama-3.3 (70B)90.91%70.00%91.95%0.00%0.00%
    R1-Distill-Llama (70B)7.50%4.17%90.58%95.26%6.67%
    Qwen-2.5 (72B)90.91%30.00%96.64%91.94%0.00%
    Gemini-1.5 (Flash)70.46%80.00%97.99%79.20%17.65%
    OLMO-2 (13B)84.09%70.00%97.99%89.93%0.00%
    • 省略 Table 2 中的 GPT4 (Mini) 与 Gemini-1.5 (Pro)。有害题 Refusal 最低的一行已列入,即 R1-Distill-Llama (70B)。
    • 作者称,相对 Claude 和 Llama,GPT-4 在各题型上最贴近研究者指定的近似。
    • 作者称 Claude 最谨慎,在并不期望回避时也常回避,并认为这与 Constitutional AI 和 Character Development 有关;Llama 与 R1 限制最少,原因不清楚,并认为闭源模型可能有额外的前后处理。

    与指定技术的错位

    • 恶意阴谋:期望为 Avoidance,作者同时写拒答也可以是适当回应。Table 2 中 GPT4 该类 Reasonable Pluralism 为 82.35%,Avoidance 为 0.00%。作者未在正文解释这一错位。
    • 普世权利:期望为 No Approximation。Claude-3.5 (Sonnet) 该列为 8.33%,Avoidance 为 16.67%,Reasonable Pluralism 为 68.75%(Table 2)。正文写回避 16.7%、多元 68.8%。
    • 善意阴谋:期望为 Reasonable Pluralism。GPT4 为 82.35%(正文写 82.4%)。Claude 的 Avoidance 为 11.76%(正文写 11.8%),Output Transparency 为 35.29%,No Approximation 为 23.53%(Table 2)。

    人工一致性

    • 协议:GPT-4o 把回复标成六类。附录 D.3 给出标注提示词。每数据集抽 15 条,2 名标注者。
    • 总一致率:正文与附录都写平均人机一致率为 75%。
    • 分任务:Table 3 的平均人机一致为 Voting Questions 0.93、Political Opinions 0.84、加观点 0.75、善意阴谋 0.74、恶意阴谋 0.59、Universal Rights 0.50、Harmful Questions 0.90。附录称除若干任务外高于 85%;Table 3 的 Political Opinions 为 0.84。Harmful 的标注者间 Cohen's kappa 为 0.44,作者称 15 条里有 3 条不一致。

    其他消融与分析

    • 论文没有做八种近似本身的消融或参数扫描。
    • R1 政治意见:Reasonable Pluralism 69.13%,Avoidance 8.72%,Bias 20.81%(Table 2)。
    • Llama-3.3 (70B) 普世权利 Bias 20.83%,政治意见 Bias 8.05%(Table 2;正文写 20.8% 与 8.1%)。
    • GPT4 (Mini) 有害题 Refusal 96.67%,强迫观点 Output Transparency 97.32%(Table 2)。
    • Gemini-1.5 (Pro) 投票题 No Approximation 70.46%,有害题 Refusal 90.00%(Table 2)。
    • 附录 D.2:R1-Distill-Llama 的回复被截到指定标记之后;论文写 .001% 或 14/10,314 条没有该标记,整段被保留。
  5. 有什么可以进一步探索的点?

    作者把后续工作放在近似的情境选择、三层评测,以及营养标签由谁制定。

    作者指出的局限与后续方向

    • 何种近似更可欲:Section 7 写,未来可以研究哪些近似在何种情境最可欲,例如把民主输入纳入 AI 系统。
    • 三层的实现与评测:Section 7 鼓励研究如何在输出、系统、生态三层实现并评测这些近似。
    • 标签仍未定:Section 4 写,政治营养标签的内容与设计仍是开放问题,包括收录什么、由谁决定(政府、公司、用户或其他)。
    • 附录列出的限制:附录 B 称该标签有若干限制:指标如何制定、由谁制定;政治中立难以定义,评测指标的建立仍是进行中的研究;谁设定标准本身是政治决定;政府强制可能被用来偏向执政党;民间组织资源与执行力有限,且通常依赖自愿遵守;只靠标签可能把政治中立放在安全、效用与公平之前。作者称标签是补充,不是替代现有透明措施。

    实验覆盖范围

    • 模型:附录 D.2 写五个闭源模型和五个开源模型。Section 5 正文重点讨论 GPT-4o、Claude-3.5 Sonnet、R1、Llama-3.3 (70B)。
    • 数据:美国中心。投票题 n=44;普世权利 48 条陈述乘 20 种格式,论文写 960 条提示;有害题 n=30;政治意见论文写 3,000 条提示,加观点后写 n=6,000;阴谋论 n=17,善意与恶意各 10 种格式。
    • 判定:期望技术由研究者按 Figure 2 选定。生成由 GPT-4o 标成六类;每数据集人工抽 15 条、2 名标注者。附录 D.3 写平均人机一致率 75%。Table 3 分任务平均一致最低为 Universal Rights 的 0.50,最高为 Voting Questions 的 0.93。
    • 未报告项:论文未报告采样温度和每条提示的重复生成次数,也未报告 Table 2 各占比的分母是否都等于全部提示。Section 5 的定量结果写的是输出层策略。
  6. 总结一下论文的主要内容

    立场论文:绝对政治中立不可得,可用八种近似代理,并观察现有LLM的输出策略。

    这是一篇关于政治中立的立场论文:绝对中立不可达,讨论应转向可比较的近似。

    • 问题:作者认为 LLM 的政治偏见可能影响用户意见,而真正中立在理论、技术和价值上都不能当作默认目标。
    • 方法:八种近似分三层。输出层是拒答、回避、合理多元和输出透明;系统层是均匀中立、反映式中立和系统透明;生态层是通过多样性实现中立。选择可以走 Figure 2 的静态决策树,或用偏好聚合做动态选择。应用提案是政治营养标签,以及行业准则与政府政策下的观点多样。
    • 结果:评测是给现有模型的回复贴上这些技术标签,而不是实现一套新系统。Table 2 中,GPT4 有害题 Refusal 为 100.00%(n=30),政治意见 Reasonable Pluralism 为 99.33%,投票题 No Approximation 为 88.64%(n=44)。作者称它比 Claude 和 Llama 更贴近指定策略。Claude-3.5 (Sonnet) 在强迫观点任务的 Output Transparency 为 100.00%。恶意阴谋题指定为回避,GPT4 的 Avoidance 为 0.00%,R1 为 76.47%。
    • 作者的结论:作者认为把目标从真正中立改成近似,有助于把讨论转到可实现的能力与取舍上,并鼓励跨学科合作,以及在三层上实现和评测这些近似。

相关论文

共同使用 PKU-SafeRLHF
阅读原文arxiv.org