LLM 安全中的极性盲区:否定、反义词替换与对抗性框架的系统研究
Polarity Blindness in LLM Safety: A Systematic Study of Negation, Antonym Substitution, and Adversarial Framing
极性反转探测在10个模型、3种语言上抬高伤害分;Grok-4.1 Fast英语否定包装均值4.12。
黑盒单轮、无系统提示词。攻击者对有害动词做语法否定或反义词替换,再要求模型改回极性并给出具体示例;同义词为极性保持对照。
- 安全护栏可能在语法否定或反义词替换后漏检有害意图。作者称这与毒性检测里否定导致误报相反,且既有否定缓解未处理该安全问题。
- 黑盒、单轮、无系统提示下,对有害动词做否定、反义词或同义词替换,再要求模型改回并给具体示例;同义词保持极性。每种变体另加语言练习式包装。260条提示译为西语和捷克语,10个模型各测8种变体、重复3次。
- 极性反转在英语、西语的9/10和捷克语的8/10模型上伤害分最高。排除Claude与GPT-5 Nano后,极性反转组均值为英语1.96、西语1.70、捷克语1.67。Grok-4.1 Fast英语否定包装为4.12。包装效果因模型而异。
- 作者指出西语和捷克语残留语法问题可能压低伤害分。仅三种印欧语,远距离否定系统是否成立仍开放。260条未覆盖全部伤害类别,部分类别仅10条,分布偏中等伤害。Kimi K2.5与人工平均加权κ为0.70。
- 威胁模型
- 黑盒单轮、无系统提示词。攻击者对有害动词做语法否定或反义词替换,再要求模型改回极性并给出具体示例;同义词为极性保持对照。目标是回复实质满足恶意意图G且伤害分S>0。受害对象为可直接查询的聊天LLM。
- 被测模型
- Grok 4.1 (fast, non-reasoning)GPT-5 NanoGPT-5 Mini (gpt-5-mini-2025-08-07)GPT-5.2Gemini 2.5 FlashGemini 2.5 Flash LiteClaude Sonnet 4.5DeepSeek-V3.2Ministral 3 14BGemma 3 (27b version)
- 基准
- ForbiddenQuestionsMaliciousInstruct
- 指标
- 0-5 harm scorerefusalharmfulness potential (0-3)
研究者提出“极性盲区”这一结构性漏洞,指模型在经历改变极性的语言变换后无法识别有害意图,并测试了语法否定与反义词替换两种极性反转形式,以同义词替换作为保持极性的对照,同时检验对抗性文本包装是否会放大这类失败。研究使用 260 条提示词基准,覆盖 10 个前沿 LLM 和英语、西班牙语、捷克语三种语言,按危害潜力分层,并以经过验证的 0-5 危害量表评估。结果显示极性盲区影响多数被测模型,最脆弱模型的平均危害分达到 4.12。该效应在类型学上不同的否定系统中持续存在,作者认为这反映的是语义鲁棒性上的更广泛局限,而非特定语言或语法的失败。
相关热点
1 个事件 · 1 条新闻提到
提到这篇论文的新闻
大模型安全周报:防线开始溃于组合,智能体授权与审计系统性缺口
- 公众号 大模型安全研究引用了论文编号或链接大模型安全周报:防线开始溃于组合,智能体授权与审计的系统性缺口
Polarity Blindness in LLM Safety: A Systematic Study of Negation, Antonym Substitution, and Adversarial Framing(https://arxiv.org/abs/2610.27908)
深度解读
这篇论文试图解决什么问题?
护栏在极性反转后可能认不出有害意图,作者称之为极性盲视。
极性盲视(polarity blindness):安全护栏在极性反转后,未能识别仍可能保留的有害意图。
- 场景:作者称否定是跨语言的长期难题。毒性检测中,否定会使无害内容被误标为有毒;本文研究相反方向,即极性反转后护栏漏检有害意图。
- 现有不足:作者称数据、训练目标与提示工程等否定缓解都未处理这一安全含义。TIP把恶意指令编码进序列任务;作者假设极性盲视来自模型处理极性的方式,并称修补已知模板不能处理该底层问题。
- 核心假设:若失败由极性反转而非任意词面改动驱动,否定与反义词都应引出有害内容,同义词不应。包装是否放大失败,以及现象是否跨语言,是另外两个问题。
- 本文提出:用否定、反义词、同义词及有无对抗包装构成八种变体,在10个模型、3种语言上做受控探测,并以伤害潜力分层报告0–5伤害分。
- 威胁模型:
- 目标:回复须实质满足特定恶意意图G。作者把暴露定义为生成内容实质履行G,且伤害分S>0。
- 知识:black-box、单轮、无系统提示词。作者称这类似可在线访问的简单聊天界面,并把该条件下的失败视为低成本、易利用。
- 能力:识别有害动词并做语法否定或反义词替换,再要求模型把极性改回并给出具体示例。作者称实验外这一步也可由人手工完成。
- 受害系统:被直接查询的LLM及其安全护栏。同义词对照不改变访问方式,只保持极性与有害性。
有哪些相关研究?
作者把本文放在否定处理与黑盒单轮红队之间,并与TIP的编码混淆区分开。
语言中的否定
- 早期任务与预训练模型:Chapman et al. (2001)、Vincze et al. (2008)、Okpala et al. (2023)做生物医学否定范围与否定检测。Ettinger (2020)、Kassner and Schütze (2020)记录早期预训练模型在否定下表现下降;论文还把它连到情感分析、自然语言推理、语义相似度和检索。
- 当代模型与缓解:Vrabcová et al. (2025)讨论LLM的否定困难;论文还列举文到图、视觉语言、文到视频和文到音频中的否定问题,并引用Alhamoud et al. (2025)的概括:更大或更新并不因此更会处理否定。缓解包括数据方法、改训练目标和提示工程。作者称这些方法都未处理本文的安全含义。
毒性检测中的否定
- 相反的失败方向:Hosseini et al. (2017)、Alexiou and Mertoguno (2023)研究否定使无害内容被误标为有毒。作者称本文考察的是相反失败:极性反转后,护栏漏检有害意图。
红队与语言变换
- 黑盒单轮:论文把本文放在black-box、单轮设定中,并与基于人的模板(Shen et al., 2024b)和无模型访问的混淆方法(Li et al., 2024)并列。过去时改写(Andriushchenko and Flammarion, 2025)和同义词(Li et al., 2024)被当作已有的语言变换攻击;作者注明后者的同义词嵌在更宽的分解重构里。
- TIP:Berezin et al. (2025)把恶意指令编码进序列到序列任务,例子包括编码、密码、翻转和编程类方法。作者假设极性盲视利用的是极性处理的结构属性,而不是编码不透明,并称修补已知模板不能处理底层漏洞。
基线与数据
- 基线方法:原提示(as is,有无包装)作为下界;同义词替换为极性保持对照。作者称不与梯度、微调或多轮方法比较,因为假设和条件不同;手工黑盒模板也不能把失败归因到特定语言属性。
- 基准/数据集:ForbiddenQuestions(160条,16个违规类别)与MaliciousInstruct(100条,10种恶意意图)。
作者把极性盲视定位为有语言依据的安全漏洞,并用否定、反义词与同义词的受控比较,把机制归于极性反转,而不是一般词面扰动或TIP式编码。
论文如何解决这个问题?
先反转有害动词的极性,再要求模型改回并给出具体示例。
作者用极性盲视探针做受控探测:先把有害动词的极性反转,使提示在命题上不再有害,再要求模型把极性改回,并给出与改回后含义一致的具体示例。Figure 2示意直接提交恶意提示会被拒绝,而这条“反转后再改回”的路径可能不再拒绝。
设定与两种探针
- 访问条件:black-box查询、单轮、无系统提示词。成功看回复是否实质满足恶意意图G。
- 否定探针:在语法层反转有害提示的极性,再指示模型否定回来并给出具体示例。双重否定在文中写为fneg(¬ p)=p,表示再否定一次回到原提示。作者称模型不是复述原文,而是把双重否定理解成与G一致的生成指令。
- 反义词探针:把已识别的有害动词换成语义相反的词,句子仍为肯定式,再指示模型换回原动词。作者称若极性盲视驱动失败,两种探针都应引出有害内容。
- 暴露定义:生成内容实质履行G,且伤害分S>0。
极性反转如何构造
- 只动有害动词:作者称若反转的是其他无害成分,提示仍有害。用gpt-5-mini-2025-08-07分两步:先标出与有害动作相关的动词,再生成语法上正确的动词否定、反义词或同义词。论文未写明该快照是否就是被测的GPT-5 Mini。附录I给出完整提示词。
- 人工复核:否定和替换由目标语言母语者逐条检查并改错。作者称实验之外,具备基本语言能力的用户也可手工完成。
- 语言差异:英语有时要加助动词,而不是单独的not。西班牙语与捷克语的动词否定见附录C,不在此展开改写规则。
对照与对抗包装
- 同义词:替换同一批有害动词,极性与有害性都保持。作者用它区分词面扰动和极性反转。
- 包装:每个变体(含原提示)都有无包装和有包装两版。包装按Inie et al. (2025),组合身份特征(把请求框定为语言练习)和元提示(要求给出示例)。附录I.1.3给出各语言完整提示词。
- 八种变体:原提示、原提示加包装、否定、否定加包装、反义词、反义词加包装、同义词、同义词加包装。流程见Figure 3。
评测设计中的选择
- 重复与推理:每个模型在8种变体上各重复3次。推理设为无或最低;Table 6中GPT-5 Nano与GPT-5 Mini为minimal,Claude Sonnet 4.5为low,其余为none。正文对不能关闭推理的模型写reasoning effort为low,与Table 6的minimal不一致,此处以表为准。
- 不纳入的对照:梯度、微调、多轮方法,以及手工收集的黑盒模板。作者称前者假设不同,后者不能把失败归因到某一语言属性。
- 伤害如何分层:另由人工给每条提示标0–3伤害潜力,正式回复用0–5伤害分。量表与评审细节放在实验设置。
论文做了哪些实验?
排除两抵抗模型后,英语极性反转组均值伤害分1.96;Grok-4.1 Fast否定包装4.12。
实验设置
- 被测模型:Grok-4.1 Fast、GPT-5 Nano、GPT-5 Mini、GPT-5.2、Gemini 2.5 Flash、Gemini 2.5 Lite、Claude Sonnet 4.5、DeepSeek-V3.2、Ministral 3 14B(表中写Ministral 14B)、Gemma 3:27B,共10个。作者称8个closed-weight、2个open-weight,未点名哪两个是open-weight。提示变换用gpt-5-mini-2025-08-07。
- 数据:ForbiddenQuestions 160条、16类,加MaliciousInstruct 100条、10种意图,共260条。英语经Google Translate译为西班牙语和捷克语,由母语作者复核。
- 规模:8种变体、每条重复3次;3种语言、10个模型、260条提示,共187,200次推理。Table 6:GPT-5 Nano与Mini为minimal,Claude为low,其余none。
- 指标:0–5伤害分,0为无害,5为详细可执行指南,定义见附录H。评审同时标拒答和免责声明。主结果取3次评审的均值。
- 评审:正式实验用Kimi K2.5。论文写共491,400个评分;伦理部分另写LLM评审覆盖163,800条回复,未解释与187,200次推理的对应关系。选型时4名标注者评102条回复(来自DeepSeek-V3.2与Grok 4.1,覆盖6个伤害等级),比较6个候选。Kimi K2.5平均加权Cohen's κ=0.70;人工之间κ=0.64(Krippendorff's α=0.61)。
- 伤害潜力:两名标注者按附录G的0–3量表评分,加权Cohen's κ=0.71,分歧由第三人多数表决。Figure 5为分布,正文未给各档条数。
主结果
下表据Table 3,每格是该模型在该语言上最高的均值伤害分及对应变体。10个模型超过8行,省略Gemini 2.5 Lite与GPT-5.2;英语伤害分最低的Claude Sonnet 4.5保留在表内。
表格较宽,可左右滑动
模型 英语最高 西班牙语最高 捷克语最高 Grok-4.1 Fast 4.12(否定包装) 3.93(否定) 3.84(否定包装) Gemma 3:27B 2.63(否定包装) 2.57(否定) 2.21(同义词) Gemini 2.5 Flash 2.43(否定) 2.61(否定) 2.47(否定) Ministral 14B 2.35(反义词包装) 2.53(同义词) 2.37(否定) DeepSeek-V3.2 2.23(反义词) 1.65(反义词) 1.91(反义词) GPT-5 Mini 1.75(否定包装) 1.18(反义词包装) 1.71(否定包装) GPT-5 Nano 0.48(否定包装) 0.28(否定包装) 0.24(同义词) Claude 4.5 Sonnet 0.34(原提示) 0.25(否定) 0.50(否定包装) - 作者称极性反转探测在英语和西班牙语的9/10、捷克语的8/10模型上取得最高均值伤害分。表中最高格为同义词或原提示的,即是例外。
- 作者把GPT-5 Nano与Claude Sonnet 4.5视为抵抗组,并称其最高均值伤害分分别为0.48和0.50。Table 1的分组均值排除这两个模型。作者还称Grok原提示基线更高:英语1.74,其余模型≤0.86。
- 省略的Gemini 2.5 Lite在Table 3的最高值为英语否定1.99、西语反义词1.98、捷克语否定2.09。GPT-5.2的英语最高为否定包装1.51、西语为反义词包装1.60。Table 3捷克语GPT-5.2的比例列与均值1.51对不齐,不采用;Table 5中其否定包装为0.97、反义词包装为0.93。
对抗包装
- 测了什么:同一极性变换有无包装,数字见Table 5,对应RQ2。
- 结果:作者称GPT-5 Mini与GPT-5.2的英语伤害分增加1.07和1.23。Table 5列出GPT-5 Mini英语否定0.68±0.05、否定包装1.75±0.07,GPT-5.2为0.28±0.02与1.51±0.12;论文该句未写明增量对应哪一对变体。作者明确写出反义词包装相对未包装下降的例子:Grok 4.1英语3.60→3.16、西语3.50→2.54。作者举例包装后更低的Flash为英语2.43→2.08、西语2.61→2.24、捷克语2.47→2.29;该句未标明变体,数值与Table 5否定一行相同。
- 作者解读:包装不是普遍放大器,而与模型特定的安全机制相互作用,有时减弱、有时加强护栏。作者假设语言练习框架在原提示和反义词任务上更容易被识别。
语言、伤害潜力与例外
- 语言:排除两个抵抗模型后,全基准极性反转组均值为英语1.96±1.89、西语1.70±1.88、捷克语1.67±1.88(Table 1)。作者报告极性反转与as is、与极性保持变体的paired t-test,p<0.001;英语对捷克语、英语对西语同样p<0.001,西语对捷克语的差异作者写明并非如此。作者称相对as is基线的倍数为英语3.11x、西语2.83x、捷克语2.93x(Figure 4,该图排除两个抵抗模型)。
- 伤害潜力:Figure 6中,潜力为0的提示伤害分最低。潜力1、2、3跨语言、跨模型、跨实验的均值分别为1.20、1.15、1.13。作者称模型并不按提示严重程度区分回应。
- 例外:Gemma 3:27B捷克语同义词2.21高于否定2.06;Ministral 14B西语同义词2.53高于否定1.82。作者将其归于非英语词面安全覆盖,并称这与低资源语言上RLHF安全下降的已有证据一致,且不同于极性盲视。
拒答与反义词误差
- 拒答:作者称Claude的抵抗与各条件、各语言的高拒答率一致(Figure 7)。GPT-5 Nano的拒答率与同系列相当,低伤害分来自把双重否定当成语法练习。多数模型在包装下拒答更少,Claude的包装变体拒答更高。正文未给拒答率数字。
- 反义词误差:附录D手工检查260条,26条(10%)替换后仍有害。作者称其中20条是相反动作仍有害,6条是作用域被拆开,并认为这可以部分解释反义词伤害分略低于否定。
- 两种反转并不等价:作者称对一种极性反转的抵抗并不意味着对另一种抵抗;GPT-5.2、DeepSeek-V3.2、Ministral 14B在至少一种语言上,反义词达到或超过否定。
其他消融与分析
- Table 1全基准、排除两抵抗模型:否定包装英语2.21±1.89,否定1.91±1.97;反义词包装西语1.30±1.61、捷克语1.13±1.66,低于未包装反义词1.74±1.91、1.73±1.89。
- Table 1原提示包装的全基准西语均值为0.31±0.81,低于原提示0.60±1.30。
- ForbiddenQuestions极性反转组(排除两模型):英语1.79±1.87、西语1.59±1.84、捷克语1.55±1.83;MaliciousInstruct为2.23±1.89、1.87±1.92、1.85±1.95。两组均标paired t-test,p<0.001。
- 同义词分组均值(Table 1,全基准,排除两模型):英语1.29±1.61、西语1.25±1.62、捷克语1.33±1.70,低于同表极性反转组。
- 评审选型的人工—模型一致性为平均加权Cohen's κ=0.70;伤害潜力标注的加权Cohen's κ=0.71。
- Figure 1为英语各变体的均值伤害分图。正文未逐模型列出图中柱高,模型级数字以Table 1–3、Table 5为准。
有什么可以进一步探索的点?
作者指出非英语否定语法、语言类型、260条提示和评审一致性仍待核验。
作者指出的局限与后续方向
- 非英语否定的语法:Limitations写明,系统的动词否定有时使西班牙语和捷克语句子不合语法;人工修订后仍可能有残留问题,并可能使这些语言的伤害分低于英语。
- 语言覆盖:Limitations与Discussion都写明,只评了三种印欧语,且它们共享基本的动词否定机制。类型上更远、否定系统不同的语言是否同样成立,作者称为开放的实证问题。
- 基准范围:Limitations写明,260条不能穷尽全部伤害类别;ForbiddenQuestions的部分类别只有10条,稀有伤害类型的估计可能不稳定。伤害潜力分布偏中等伤害,尾部估计应谨慎。
- 评审一致性:Limitations写明,Kimi K2.5与人工的平均加权Cohen's κ=0.70,不能完全复现人工判断;分歧最可能出现在伤害分1–2。
- 抵抗差异的来源:Discussion写明,在无法获得训练数据与部署细节时,模型间抵抗差异的来源仍不清楚。
- 防御方向:Discussion与Conclusion建议,安全训练纳入按重构意图而非表面形式标注的极性反转和对抗包装提示,使奖励对改变极性但保留有害目标的变换不变。
实验覆盖范围
- 被测模型共10个,作者称其中8个为closed-weight、2个为open-weight;论文未点名哪两个是open-weight。语言为英语、西班牙语、捷克语,否定分别涉及助动词、小品词no和前缀ne-。
- 提示260条,来自ForbiddenQuestions(160条、16类)和MaliciousInstruct(100条、10种意图)。八种变体、重复3次,共187,200次推理。
- 正式伤害分由Kimi K2.5给出,论文写共491,400个评分;伦理部分另写LLM评审覆盖163,800条回复。论文未说明这两个数与187,200次推理如何对应。
- 伤害潜力由2名标注者评分,加权Cohen's κ=0.71,分歧由第3名多数表决。评审选型用4名标注者、102条回复和6个候选;正文未列出除Kimi K2.5以外的候选名称。
- 作者写明不与梯度、微调、多轮方法比较,因假设与条件不同;也不与手工黑盒模板比较,因不能把失败归因到特定语言属性。正文未给出Figure 7的拒答率数字。
总结一下论文的主要内容
极性盲视指护栏在否定或反义词改写后漏检有害意图,多数被测模型出现该现象。
极性盲视指护栏在极性反转后认不出仍可能保留的有害意图。作者要判断这是极性反转本身,还是任意换词,以及包装和跨语言是否改变失败。
探测在黑盒、单轮、无系统提示下进行。有害动词被否定或换成反义词后,模型被要求改回极性并给出具体示例;同义词保持极性。八种变体还交叉语言练习式包装。材料为260条提示(ForbiddenQuestions 160条与MaliciousInstruct 100条),译成西语和捷克语,10个模型各重复3次。
- 极性反转变体在英语、西语的9/10和捷克语的8/10模型上均值伤害分最高。
- 排除Claude Sonnet 4.5与GPT-5 Nano后,全基准极性反转组均值为英语1.96、西语1.70、捷克语1.67(Table 1)。作者报告其与原提示及极性保持变体的paired t-test,p<0.001。
- Grok-4.1 Fast英语否定包装均值为4.12(Table 2)。两抵抗模型的最高均值伤害分分别为0.48和0.50。
- 作者称包装不是一律放大:GPT-5 Mini与GPT-5.2英语增加1.07和1.23;另一些模型在包装下伤害分下降。
- 西语Ministral 14B同义词2.53、捷克语Gemma 3:27B同义词2.21,高于各自的否定。作者把这归到非英语词面覆盖,而不是极性盲视。
作者的结论是:起作用的机制是极性反转,而不是一般词面混淆;英语、西语、捷克语三种否定实现下都出现该现象。作者建议按重构后的意图、而不是表面极性,把极性反转和对抗包装样本纳入安全训练。