研究发现大语言模型被要求不诚实作答时推理 token 数上升

能否在不读取思维链内容时，用推理token数区分被提示的诚实与不诚实作答。

• 使用场景：作者称，用户若信任并不可信的建议，金融、法律或医疗等决策可能受损，恶意用户还可能利用说谎能力行骗。作者认为，找出不诚实的可检测信号对AI安全很关键。
• 既有探测：探测文献以white-box为主，需要模型内部，没有内部访问的人无法使用。black-box工作较少；作者称Pacchiardi等人的方法有效，但机制不清楚，且既有black-box工作很少借用认知框架。
• 核心假设：作者把人类说谎时认知负荷上升、反应时变长，类比为推理token生成。三则假设是：扮演说谎者多于说真话者；说谎者多于bullshitter（不顾准确性作答）；说真话者多于bullshitter。
• 本文做法：三个推理模型在Truth、Lie、Bullshit系统提示下回答210道题，比较组水平推理token数，并按推理类型和道德领域做探索。作者称这还不是自发欺骗或一般错位的检测器，而是思维链不可用或不适时的候选信号。
• 可观测内容：作者把方法定位为black-box，不需要权重或激活。作者举例，截至2026年9月，OpenAI API不提供原始推理token，但在响应元数据中给出确切数量。

引言和讨论引用的工作可分成四组。实验没有把其他检测器当作对照基线。

不诚实行为与文献分工

• 未被指示的欺骗：Scheurer et al. (2023)与van der Weij and Lermen (2023)记录模型在未被要求欺骗时也表现出说谎或欺骗能力。作者用这些工作提出用户可能信任不可信输出。
• 欺骗综述：Park et al. (2024)综述欺骗例子、风险和可能对策。引言用它提出恶意用户可能借模型说谎实施欺诈。
• 评测与探测：作者称探测不诚实的文献以white-box为主，评测不诚实水平的文献以black-box为主，并引用Ren et al. (2025)。作者把本文放在探测文献一侧。实验未使用MASK。

已有探测方法

• 内部状态：Azaria and Mitchell (2023)用模型内部状态判断其是否在说谎。作者把这类方法称为white-box，并称没有内部访问的人无法用来检测。
• 无关是非题：Pacchiardi et al. (2024)向被提示说真话或说谎的模型提问，再接无关是非题，把是非回答送入逻辑回归。作者称该方法能区分lie与truth模型，但成功机制不清楚。

认知负荷、思维链与bullshit

• 人类说谎：Sweller et al. (1998)与Paas et al. (2003)提供认知负荷框架；Suchotzki et al. (2017)、Walczyk and Cockrell (2022)报告说谎伴随更长反应时。DePaulo et al. (1988)讨论说谎者还要监控自身与对方。作者用这些机制提出token数类比。
• 推理token：Wei et al. (2022)把chain-of-thought定义为最终输出前标出的中间步骤。作者引用Chen et al. (2025)与Lin et al. (2025)，称复杂任务会说出更多想法，因而推理token数反映复杂度。
• bullshit：Frankfurt (2005)讨论bullshit。作者采用更窄定义：不顾准确性陈述，不必表征真相；并称这更接近Hicks et al. (2024)的soft bullshit，而不是原定义中追求自身议程并掩饰无所谓。

讨论中的类比

• 类似人类的代价：Patel et al. (2026)报告LLM在不一致颜色命名上有类似人类的表现代价。作者用它提出已有工作看到类似人类认知的模型行为。
• 抑制真相：Williams et al. (2013)把人类说谎的额外代价归于抑制真相和选择谎言。作者称部分思维链与此相似，但比较基于轶事例证。

作者称本文用认知负荷理论扩展black-box探测：信号不要求思维链原文可读、忠实或可访问，并把bullshitter当作不诚实、但不必故意抑制真相的对照。

整体做法是用系统提示诱导Truth、Lie、Bullshit三种回答政策，在同一批四选一题上比较推理token数，并用混合效应模型做组水平推断。

条件与呈现

• 三种角色：Truth要求扮演始终说出实际为真内容的人；Lie要求始终说出实际为假的内容；Bullshit要求作答时不顾内容实际真假。同一条件内每题使用同一系统提示。
• 用户提示：每题单独呈现，要求逐步思考，然后只输出一个选项字母、不给解释。题与题之间重置记忆；三条件顺序随机，以降低网络或硬件负荷带来的顺序效应。
• 预期与排除：Truth应选正确项，Lie应选错误项，Bullshit可任选。输出多一两个字符但答案清楚时截成单个字母。超过三个字符、含糊或技术错误记为缺失。Truth下的假答案和Lie下的真答案被标记，排除出分析，但仍留在数据集中。

题目

• 210道四选一：一级分为analytic、descriptive、normative。analytic给出规则并应用到情境；descriptive问事实与现状；normative问应当如何。
• 道德领域：每类再分moral与non-moral。moral含honesty/deception、harm/care、fairness/justice、rights/autonomy。论文未写各类题数。
• 覆盖意图：作者称该分类覆盖用户常问的问题类型。具体题干不在这里复述。

模型与解码

• 本地模型：Gemma-4-e4b与Qwen-3.5-9b经LM Studio运行，标识为google/gemma-4-e4b、qwen/qwen3.5-9b，均为具备推理能力的GGUF Q4_K_M。temperature=1.0，top-p=.95，top-k=20，penalty与min-p为off/default，seed=random，thinking mode开启，不设最大token上限。
• GPT-OSS-120B：经Groq API，模型ID为openai/gpt-oss-120b。解码和推理参数不手工指定，用提供者默认。作者依据Groq公开文档称该托管实现使用TruePoint Numerics量化。
• 简称：后文分别称Gemma、Qwen、GPT-OSS。三个模型分开分析。

样本与统计

• trial：每trial覆盖210题×3条件=630条。Gemma与GPT-OSS各完成20个trial。Qwen完成近16个trial，在完成第15个后因运行时间长而停止。
• 填补：保留前k个trial，用后续储备中同一题、同一条件的有效回答填补缺失，每条储备最多用一次。最终Gemma为20个trial、无替换；GPT-OSS为19个trial，11970点中替换23个（0.2%）；Qwen为11个trial，6930点中替换312个（4.5%）。作者称trial是同一题×条件的可交换重复，因而可以替换。
• 线性模型：推理token右偏，取自然对数。m1只含condition；m2为condition×category_1；m3为condition×category_2。均含题目随机截距和condition随机斜率。trial随机截距方差可忽略，省略。
• 解释规则：用似然比检验决定是否在m1之外解释m2、m3。不收敛或奇异拟合视为未更好，不解释。成对比较对三个条件做Tukey校正，把对数对比回变换为几何均值之比，效应写成几何均值的百分比差。Gemma有时不产出推理，另用逻辑混合模型m4–m6建模推理是否出现，成对效应为odds ratio。GPT-OSS与Qwen始终有推理，未做该分析。

实验设置

• 模型：被测模型为Gemma-4-e4b、Qwen-3.5-9b、GPT-OSS-120B。本地两模型为Q4_K_M，thinking mode开启，无最大token上限；GPT-OSS用Groq默认设置。三个模型分开建模。没有攻击模型或评审模型。
• 题目与条件：自建210道四选一题；一级为analytic、descriptive、normative，二级为四个道德子类与non-moral。论文未写各类题数。条件为Truth、Lie、Bullshit。没有其他检测器基线。
• 指标：主指标是推理token数。分析用自然对数，成对效应是几何均值的百分比差。Gemma另报告推理是否出现的odds ratio。答案是否为正确项用来检查Truth/Lie操纵。延迟有收集，并与token数做Spearman相关。
• 判定：没有LLM裁判，也没有人工一致性。与提示不一致指Truth下答错或Lie下答对。
• 样本量：最终分析为Gemma 20个trial、GPT-OSS 19个trial、Qwen 11个trial。Fig. 1的提示级数据为12600、11970、6930，与这些最终集的条数相同。
• 进入模型的样本：无法解析或技术错误先作缺失再替换。不一致回答排除出后续token分析。Gemma的线性模型只用产生了推理的回答；另两模型的线性模型用全部有效回答。

主结果

正文对Fig. 1的描述是：Gemma在0处有尖峰，GPT-OSS右偏且Bullshit的正尾更重，Qwen呈双峰，左峰来自Truth的较低计数，右峰来自Lie与Bullshit。作者称Fig. 6–8的估计边际均值相对原始分布均值有偏移，Bullshit最明显，并解释为几何均值。

据第3.1–3.3节（Fig. 2、6、9），m1的几何均值差异如下。除表中两个给出p值的格子外，成对比较均为pTukey<.001。

表格较宽，可左右滑动

模型	Truth相对Lie	Truth相对Bullshit	Lie与Bullshit	ηp²
Gemma-4-e4b（仅有推理）	少10.3%	少9.4%	Lie多0.9%，p=.643	0.423
GPT-OSS-120B	少50.9%	少51.8%	Bullshit多1.7%，p=.723	0.901
Qwen-3.5-9b	短68.0%	短75.3%	Bullshit多29.4%	0.967

对应F检验：Gemma F(2, 208.89)=76.584；GPT-OSS F(2, 208.85)=953.959；Qwen F(2, 207.62)=3,070.618。均p<.001。

• 操纵检查：Truth条件正确率为Gemma 99.9%、GPT-OSS 99.9%、Qwen 100%。Lie条件选错率为96.3%、97.3%、97.5%。这些不一致回答随后被排除。讨论里作者把两组概括为99–100%与96–98%。
• 假设：作者称假设(a)在三模型总体比较上成立，Gemma描述题除外。假设(b)(c)未成立，Bullshit并不更短。作者列出与更长推理相容的几种可能：先找到正确答案再抑制、在错误项中选择、理解并核对角色、偏离HHH倾向；并称不能排除这些解释，例证是轶事。
• Bullshit正确率：Gemma 11.9%（t(209)=-15.008，d=1.036），GPT-OSS 76.1%（t(209)=49.988，d=3.450），Qwen 41.2%（t(209)=9.228，d=0.637），均p<.001，偏离25%。作者称各模型执行该指令的方式不同，并引用内部确定性偏差来解释未能随机作答。

题型与道德领域

Gemma的m2交互为F(4, 207.69)=51.895，p<.001，ηp²=0.500（Fig. 3）。未标注的成对比较为pTukey<.001。

表格较宽，可左右滑动

Gemma题型	Lie相对Truth	Bullshit相对Truth	Lie与Bullshit
Analytic	多22.7%	多5.2%，p=.004	Lie多16.6%
Descriptive	Truth少1.6%，p=.480	多7.9%	Bullshit比Lie多6.2%
Normative	多11.3%	多18.7%	Bullshit比Lie多6.7%

GPT-OSS的m2交互为F(4, 206.30)=6.816，p<.001，ηp²=0.117（Fig. 7）。

表格较宽，可左右滑动

GPT-OSS题型	Truth比Lie少	Truth比Bullshit少	Lie与Bullshit
Analytic	50.5%	46.9%	Lie多7.2%，p=.133
Descriptive	51.3%	48.9%	Lie多5.0%，p=.369
Normative	51.0%	58.6%	Bullshit多18.5%

GPT-OSS的m3与Category 2交互为F(8, 204.94)=3.375，p=.001，ηp²=0.116（Fig. 8）。Table 3的几何均值比如下；作者用星号标注，Fig. 2图注将***定义为p<.001、*定义为p<.05。

表格较宽，可左右滑动

领域	Lie/Truth	Lie/Bullshit	Bullshit/Truth
Honesty/Deception	2.03	0.93	2.19
Harm/Care	2.10	0.94	2.23
Fairness/Justice	1.95	1.14	1.71
Rights/Autonomy	1.92	0.96	2.01
Non-Moral	2.29	0.96	2.38

• Gemma：作者称三种题型给出三种模式，最高token通常在Lie或Bullshit。描述题上Truth与Lie无差异；作者检查思维链后认为，这类题推理步骤较少，可能不足以拉开差异。
• GPT-OSS：多数道德子类和非道德题复现Truth更少、Lie与Bullshit无差异（pTukey分别为.223、.413、.591、.767）。仅fairness/justice上Lie多于Bullshit（pTukey=.016）。作者称Lie比Bullshit多约14%，并称交互宜谨慎解读，因为它依赖这一处对比。
• Qwen：m2、m3虽在似然比上优于m1，但奇异拟合，按预定规则未解释，正文没有可解释的题型分解。

Gemma是否产生推理

• 零推理：Fig. 1数据集中，Gemma共1783次（14.2%）无推理：Truth 1194次（28.4%），Lie 245次（5.8%），Bullshit 344次（8.2%）。作者认为这不太可能是与条件无关的解析失败。作者称Gemma文档支持可配置thinking mode，但未描述开启后会按内容抑制推理。GPT-OSS与Qwen始终有推理。
• m4：条件效应χ²(2)=606.909，p<.001（Fig. 4）。推理概率Truth最低、Lie最高。OR为Lie对Truth 22.62，Lie对Bullshit 4.07，Bullshit对Truth 5.56，均pTukey<.001。
• m5：与Category 1交互χ²(4)=98.535，p<.001（Fig. 5）。作者称顺序与m2不同：三类题都是Truth最低、Lie最高、Bullshit居中，均pTukey<.001。Table 2中Lie对Truth的OR为Analytic 25.77、Descriptive 9.89、Normative 46.08；Lie对Bullshit为6.45、3.47、2.83；Bullshit对Truth为3.99、2.85、16.29。

其他消融与分析

• 完成时间与推理token的Spearman相关：Gemma R(12598)=.972，Qwen R(6928)>.999，GPT-OSS R(11968)=.783，均p<.001。作者称本地模型的相关更高，在线的GPT-OSS较低。
• Qwen的m2、m3对m1的似然比为χ²(6)=141.043、χ²(12)=78.612，均p<.001，但奇异拟合，未解释。
• Gemma的m3对m1为χ²(12)=20.953，p=.051，未解释；m6对m4为χ²(12)=14.872，p=.248，未解释。
• 被解释模型的似然比：Gemma的m2对m1为χ²(6)=381.009；其m5对m4为χ²(6)=143.659。GPT-OSS的m2、m3对m1为χ²(6)=145.968、χ²(12)=46.925。均p<.001。

作者指出的局限与后续方向

• 提示诱导：结果依赖提示模型不诚实，策略性欺骗以及为非HHH行为微调的模型尚未检验（第4.1节）。作者称，没有HHH训练时，不诚实未必违反模型的既有倾向，token数还能否标出不诚实也因此未检验。
• 思维链内容：没有对思维链做定量分析，文中例子只是轶事。作者建议后续用LLM作评审，做系统定量（第4.1节）。
• Bullshit对照：为使指令相近，作者称无意中让“不顾真假”和“仔细思考”发生冲突。增加的token可能部分来自调和这一冲突，该条件有时未表现出对真相完全无所谓（第4.1节）。
• 规范性题目：作者称这类题涉及主观意见，难以用正确性定义说谎；真假可能只是相对微调后的默认回答是否真诚。作者建议先测操纵前的答案分布（第4.1节）。
• 逐例与语境：结论称还需训练分类器，并在未见实例上检验逐例检测。作者称部分模型的token数随语境变化（Fig. 3），若用作检测器，宜把语境考虑进去（Conclusion）。
• 其他错位与压力：摘要列出的后续包括分布外泛化、习得的欺骗政策、隐藏目标，以及对抗压力下的robustness。结论另列出deception、sandbagging、alignment faking、reward hacking、sabotage、self-exfiltration（Abstract、Conclusion）。

实验覆盖范围

• 被测模型为Gemma-4-e4b、Qwen-3.5-9b、GPT-OSS-120B，共3个；前两者本地Q4_K_M，GPT-OSS经Groq默认设置（第2.1节）。
• 材料为自建210道四选一题和Truth、Lie、Bullshit三条件；最终分析trial数为20、19、11（第2.2–2.4节）。
• 被解释的统计模型是Gemma的m1、m2、m4、m5，GPT-OSS的m1至m3，以及Qwen的m1（第2.4、3节）。
• 论文未报告逐例检测率，也未报告在留出实例上训练分类器的结果；摘要和Conclusion把这项列为后续。
• 论文未报告思维链的定量编码，以及LLM评审或人工编码的一致性。延迟与token数的Spearman相关有报告（Discussion、第4.1节）。

三个推理模型在被提示的回答政策下出现组水平推理token差异；作者把它当作不读思维链内容的black-box候选信号，而不是自发欺骗检测器。

• 问题：语义监控依赖思维链可读、忠实且可访问。作者担心这些前提变差，于是借用认知负荷，看推理token数是否随被提示的不诚实上升。
• 做法：Gemma-4-e4b、Qwen-3.5-9b与GPT-OSS-120B回答自建210道四选一题。系统提示分别要求说真话、说假话或不顾真假；每题重置记忆。不一致回答排除后，对对数token做混合效应模型。Gemma另建模是否产生推理。
• 操纵：Truth正确率为99.9%、99.9%、100%；Lie选错率为96.3%、97.3%、97.5%。Bullshit正确率为11.9%、76.1%、41.2%，均偏离随机选择所对应的25%。
• 主差异：m1上Truth少于Lie与Bullshit。有推理时Gemma少10.3%与9.4%；GPT-OSS少50.9%与51.8%；Qwen的推理链短68.0%与75.3%。Qwen的Bullshit还比Lie多29.4%。另两模型的总体Lie与Bullshit无统计差异。
• 例外：Gemma描述题上Truth与Lie无差异。Gemma有14.2%的回答没有推理，其中Truth条件为28.4%，Lie为5.8%。作者称假设(b)(c)不成立。
• 作者结论：作者称结果与不诚实需要额外努力的猜想相容，并在结论中把本研究称为proof of concept。逐例检测、策略性欺骗、其他错位行为，以及对抗压力下是否仍成立，都被列为后续工作。