U-Space：揭示语言模型不确定性何时与为何产生

如何在单次推理轨迹上估计答案可靠性，并指出不确定性何时、以何种形式出现，且该信号不只来自生成长度。

• 高风险场景：作者认为模型输出正影响现实决策，错误代价可能远高于交给专家；流畅解释和权威语气使何时弃权很难判断（Introduction）。
• 现有估计的缺口：作者称许多方法要重复调用模型或单独训练组件，并把不确定性压成一个分数，看不出推理中哪一段产生不确定性、之后如何变化（Abstract、Section 2）。
• 长度捷径：作者引近期工作称，错误答案往往更长，不少估计器靠这一信号预测错误；因此要分开总体预测效用和超出长度的信息，并同时报告未调整与长度控制结果（Introduction）。
• 提出的对象：作者提出残差流子空间 U-SPACE 和线性读出 U-LENS。用怀疑与确定的语义锚点构造对比方向，投影得到 token 级类别图，再与平均预测熵合成轨迹分数；不需要正确性标签、重复生成或任务训练（Section 3）。
• 作者主张：作者称据他们所知，这是首个同时操作化一阶分布不确定性与二阶可言语化不确定性的估计器（Introduction）。

预测不确定性

• Hendrycks and Gimpel [2017]、Malinin and Gales [2021]：分类上用类概率或分布熵；自回归场景则沿回答聚合 token 概率或熵。作者指出序列概率不等于答案可靠性，因为它依赖长度和措辞。
• Kadavath et al. [2022]、Tian et al. [2023]、Xiong et al. [2024]：让模型自评，例如口头置信度或 “True” token 的概率。作者引 Xiong et al. [2024] 称，自我口头置信度常常过度自信。
• Manakul et al. [2023] 的 SelfCheckGPT、Kuhn et al. [2023] 的 Semantic Entropy：用多次生成的不一致，或先按意义分组再测离散度。作者称代价是重复生成，以及另需模型做语义分组。

长文与推理轨迹

• Zhang et al. [2024] 的 LUQ、Fadeeva et al. [2024]：在长输出侧做更细的定位。作者称它们不揭示模型内部如何表示不确定性。
• Kang et al. [2025] 的 Self-Certainty、Fu et al. [2026] 的 DeepConf、Zhang et al. [2026] 的 TokUR：沿生成轨迹做 token 级不确定性；TokUR 用低秩权重扰动估计贝叶斯不确定性。
• Grünefeld et al. [2026]、Bakman et al. [2026]：同期工作用正确性监督汇总时间剖面，或把可解释特征合成不确定性分数。作者称这些路线或要重复评估、或要正确性标签，或不提供可解释归因。

生成长度

• Devic et al. [2026]：推理后训练之后，轨迹长度本身是有竞争力的零样本置信信号。
• Heo et al. [2025]、Vashurin et al. [2025]、Santilli et al. [2025]、Li et al. [2026]：正确与错误回答有系统性长度差；若干名义上归一化的分数仍依赖长度。作者同时报告未调整结果，并按 Li et al. [2026] 在输出长度箱内重算指标。

内部表示

• Azaria and Mitchell [2023]、Kossen et al. [2024]、Zhang et al. [2025]、Zhao et al. [2026]：用隐藏状态探针或归因图特征，检测虚假陈述、近似语义熵，或预测中间答案是否正确。
• logit lens、Belrose et al. [2023] 的 tuned lens、Gurnee et al. [2026] 的 J-LENS：把中间残差状态映到词表。J-LENS 用平均 Jacobian，不学习解码器。
• Park et al. [2024]、Marks and Tegmark [2024]：可解释概念常线性表示，语义两极相减可压掉共享成分。作者把该做法用到词表方向上。Turner et al. [2023] 的激活相加被用于后续转向。

基线与基准：主比较包括生成长度、MSP、Maximum Entropy、Mean NLL、Self-Certainty、DeepConf、P(True)、TokUR、Semantic Entropy、SentenceSAR、Feature-Gaps 和 Predictive Entropy（Section 4.1）。基准为 MMLU-Pro、Omni-MATH、SuperGPQA、TriviaQA，各抽 1,000 条（App. E）。

作者把 U-LENS 放在单次生成、无正确性监督、同时给出位置和原因的位置上；与正确性探针的区别是，轴由语义锚点而非任务标签定义（Section 2）。

作者把不确定性拆成可言语化的二阶成分和不必能口头报告的一阶成分，用 U-SPACE 承载前者，用 U-LENS 读出并与平均预测熵相乘。

类别与锚点

• 定义：沿用 Kumaran et al. [2026]，一阶不确定性在输出概率里，二阶是模型可以言语化的不确定性；作者注明这不是导数阶。U-SPACE 被看成可言语化工作空间里的不确定性切片（Section 3）。
• 四类：ambiguity、incompleteness、conflicting evidence、general uncertainty。作者称受 Parsons [1996] 启发，不求穷尽；四类作为三维单纯形的顶点（Figure 1）。
• 词表：不确定极用 Chen et al. [2018] 的 61 个种子线索，确定极用 Rocklage et al. [2023] 中不低于语料均值的 348 个单词。去掉多 token 词后，用独立于被测模型的句子编码器，按与四类一句定义的 z-score 最高者归类（App. B）。
• 规模：归类后、分词过滤前，正锚为 13、14、17、17 个，负锚为 82、84、84、98 个。Table 3 是 Gemma 4 单 token 过滤后的词与数量。初步探针用不成对命名类别的最短提示对，经 J-LENS 解码差向量，看是否出现对应词表（App. C）。

构造 U-SPACE

• 拉回：每个锚点的词表基向量，经预计算的平均 Jacobian、unembedding 和最终 RMSNorm 增益，映回层 ℓ 的残差方向。Gemma 4 与 Qwen3.5 用公开、在 WikiText 上拟合的 lens；Magistral 1.1 无公开 lens，作者用 100 条 WikiText-103、序列长度 128 估计，不更新参数（App. A）。
• 对比：每类分别池化不确定极与确定极，相减后再做 ℓ2 归一化。作者写 b_ℓ,c=norm(μ⁺_ℓ,c−μ⁻_ℓ,c)，相减用来压掉两极共享成分，方向指向不确定。
• 正交化：四条方向组成矩阵后取正交归一基，其列张成该层的 U-SPACE（Figure 2a）。不需要任务样本、正确性标签或拟合参数。作者称只更换锚点集合，同一构造可用于其他语义属性。
• 读出层：预先固定在网络深度的三分之二，Gemma 4 为 40/60，Qwen3.5 为 42/64，Magistral 1.1 为 27/40，不按模型或数据集另选层（Section 4.1）。

U-LENS 读出

• Token 图：每个推理 token 的归一化隐藏状态投影到基上，坐标是与各类的带符号对齐。归一化坐标经 softplus 进入正锥，负对齐不能抵消其他类的正对齐；序列构成 token×类别图（式 2、Figure 2b）。
• 标量位置：锥对齐只在思维结束标记上取一次。作者的理由是该状态以整段推理为条件，且位置固定，不必对可变长度的推理 token 做池化。
• 一阶项：分布成分是推理轨迹上的平均下一 token 熵。作者称熵的链式法则使逐步条件熵成为序列不确定性的自然贡献，而求和会随长度机械变大，所以取平均（式 3）。
• 合成：作者将二者相乘，S(r)=A_cone(h_teot) H(r)，其中 H(r) 是上述平均预测熵。相乘避免拟合相对尺度，任一侧的正全局缩放不改变排序。增益取 C 的平方根，C=4，由维数固定，不另调参；用 softplus 而不是 ReLU，以保留锥边界附近的渐进变化。

转向设定

• 干预：在读出深度附近的连续层和一段 token 上，把某一类方向按该隐藏状态自身范数的比例 λ 加进残差流（式 5）。因在自回归生成中施加，效果会传到后面的 token。跨度可以是预填充时的提示，或推理中已生成的一段（Section 4.3）。
• 附录协议：App. H 的 Qwen3.5 实验使用相对深度 0.50 到 0.85，即 64 层中的第 32 到 54 层；采样设置与主实验的模型卡推荐一致。具体续写放在第 4 问，此处不展开。

实验设置

• 模型：Gemma-4-31B-it、Qwen3.5-27B、Magistral-Small-2507。读出层为 40/60、42/64、27/40。前两者用公开 lens，后者由作者拟合（Section 4.1、App. A、App. E）。
• 数据：MMLU-Pro、Omni-MATH、SuperGPQA、TriviaQA。各用种子 42 抽 1,000 条。Omni-MATH 用可规则验证且难度至少 4.25 的子集；SuperGPQA 用 hard 子集（Table 8）。
• 生成：每题三个采样种子 41、42、43，零样本，开启各模型原生思考模式。温度、top-p、top-k 和最大生成 token 按模型卡（Table 9）。截断或无法解析的输出不计分（Table 10）。
• 基线：单次分数有生成长度、MSP、Maximum Entropy、Mean NLL、Self-Certainty、DeepConf、预测熵。多次生成有 P(True)、TokUR（1 次干净加 4 次扰动）、Semantic Entropy 与 SentenceSAR（各 10 次生成）。唯一主表有监督基线是 Feature-Gaps，用留出标签拟合（Section 4.1、App. E.1）。
• 指标：AUROC、AUPRC 衡量分数区分正确与错误；AURC 衡量按不确定性弃答后保留集的错误率。对错由各基准标准规则从推理块后的文本抽取，主指标不用 LLM 裁判。长度控制按生成 token 数分 10 个分位箱，箱内计算后再按箱大小加权（Section 4.1）。
• 其他角色：Semantic Entropy 用 DeBERTa-large-MNLI 做双向蕴含聚类；SentenceSAR 用 stsb-roberta-large。Table 1 的 ± 是跨模型标准差；Table 2 写明每格为三种子均值。

主结果

长度控制、四基准平均、三种子均值（单位：百分比，据 Table 2）：

表格较宽，可左右滑动

模型（平均准确率）	U-LENS AUROC	Acone	预测熵	DeepConf	Feature-Gaps
Gemma 4（78.8±0.2）	68.4±0.4	66.3±0.5	66.1±0.7	65.6±1.0	66.2±1.2
Qwen3.5（79.7±0.3）	71.0±0.7	66.7±0.9	68.9±1.0	69.1±0.5	63.5±1.7
Magistral 1.1（65.0±0.6）	68.3±1.0	67.6±1.1	62.6±0.5	63.6±1.0	60.2±0.9

• 作者称 U-LENS 是 Table 2 里唯一在九个模型—指标比较中都领先的方法；相对最强基线，AUROC 提高 2.2、1.9、4.7 个百分点，AUPRC 提高 0.8 到 4.2 个百分点，AURC 降低 0.4 到 2.5 个百分点。Qwen3.5 上 Self-Certainty 的长度控制 AUROC 也是 69.1±0.3，与 DeepConf 相同。
• 作者称这种格局来自式 (4) 的互补：Gemma 4 上预测熵与 Acone 各有指标优势，Qwen3.5 上预测熵全程更强，Magistral 1.1 上 Acone 全程更强，相乘后仍高于两个成分。
• 未调整的 Table 1：U-LENS 的 AUROC、AUPRC、AURC 为 71.1±4.7、45.5±4.2、16.2±8.3，AURC 与 TokUR 的 16.2±5.4 相同；长度控制使 U-LENS 的 AUROC 变化 −1.8，生成长度变化 −16.2，正文写后者降到 52.4%。Table 12 中，Magistral 1.1 未调整 AUROC 上 U-LENS 为 65.7%，低于 Acone 的 68.5% 和生成长度的 67.8%；作者称是较弱的预测熵把锥对齐拉低了。Gemma 4 未调整时 TokUR 的 AUROC 为 75.1%，高于 U-LENS 的 73.2%。

长度分布与填充干预

• Figure 8(a) 将三模型合并：错误轨迹的中位长度更长，MMLU-Pro、Omni-MATH、SuperGPQA、TriviaQA 的中位比为 2.33×、1.64×、1.33×、4.79×。作者称分布仍大量重叠，长度是聚合信号，不是逐例充分估计。
• App. F.1 在 Gemma 4 的 24 道短事实题上固定问答，只把推理块换成无关计数。作者称求和型分数随填充变长，平均型分数被稀释，MSP 几乎不变；Acone 读自单个思维结束状态，既不随 token 数发散，也不塌到填充统计。正文未列出该图的 Spearman ρ。
• 作者称长度控制后，P(True)、TokUR、SentenceSAR 除九次比较中的一次外都低于预测熵；Semantic Entropy 在跨模型平均上只比预测熵高 0.1 个百分点。

监督方法的跨基准迁移

• App. F.4 用一个基准的 256 条拟合、另 256 条选择超参和读出块，再评估其他基准；数字为 seed 42。作者称线性与 MLP 探针域内未调整 AUROC 均值在 75.4%–81.8%，迁出后为 59.7%–69.1%，下降 9.8–22.1 个百分点。
• 作者称 Feature-Gaps 跨模型少 3.4–8.0 个未调整 AUROC 百分点，mass-mean 少 1.4–4.1 个。长度控制下，三种子均值的 U-LENS（68.4%、71.0%、68.3%）高于作者给出的 mass-mean 对照（67.3%、63.1%、62.4%）。论文写明监督数字来自 seed 42，U-LENS 来自三种子均值。
• 作者称 Qwen3.5 上用 SuperGPQA 拟合的 Feature-Gaps，长度控制后在 MMLU-Pro 与 Omni-MATH 上低于随机。

Token 读出与转向

• Section 4.3 与 Figure 3：作者对 Qwen3.5 回答 Hamlet 问题时的单纯形路径称，陈述未写明的信息时读作 incompleteness，在 play 转向 ambiguity，肯定爱与残忍并存时为 conflicting evidence，句末 her 为 general uncertainty。该读出给出份额，不表示不确定性有多少。
• Figure 4：预填充时分别沿四类方向转向，续写随类别变化；推理中沿 ambiguity 转向，作者称模型在目标片段失去信心。App. H 给出不同 λ 的续写。论文未报告转向成功率。
• App. C：四类差方向的峰值余弦为 0.093、0.122、0.113、0.109；随机方向在思维结束处为 0.060±0.003。作者称随机方向不给出可解释词表。

其他消融与分析

• 关键词计数（Table 4，长度匹配）：Gemma 4 上只计不确定锚为 52.1%，减去确定锚为 41.7%，Acone 为 66.3%，U-LENS 为 68.4%。无锚词的 77% Gemma 4 轨迹上，U-LENS 为 68.6%。
• J-LENS 解码 top-n（Table 11）：n≤15 时未调整 AUROC 为 50.0% 或 50.1%；Gemma 4 的 top-100 长度匹配 AUROC 为 54.8%，作者称比 U-LENS 低 13.6 个百分点。
• 情绪（Table 5，Qwen3.5，GoEmotions 测试集 5,427 条）：anger、sadness、fear、negative affect 的 AUROC 为 74.6±2.4、76.8±2.8、79.8±4.6、73.0±1.6；± 为 95% bootstrap 区间半宽。无锚点子集基本不变。Table 6 在 1,262 条负向评论内，自身轴高于泛负向轴。
• 奖励投机（Table 7，思维结束 token，三分之二深度）：留出样本 AUROC 为 91.9%、92.6%、90.2%，留出作弊方式为 92.8%、96.9%、91.4%，仅用长度为 59.3%、60.7%、59.3%（Gemma 4、Qwen3.5、Magistral 1.1）。作者称该轴看不出不像异常文本的作弊。
• 读出深度（Figure 5，seed 42）：作者称 Acone 随深度变化大，中后层较好；与同数据拟合的 R-Lens 相比，Acone 曲线强相关，早期层没有提升。正文未给出逐层 AUROC。
• 运行开销（Table 18，Gemma 4 31B、MMLU-Pro、一块 H200）：U-LENS 相对正常生成的额外时间小于 0.001 秒/题；Semantic Entropy 与 SentenceSAR 不少于 55.6 秒/题。

作者指出的局限与后续方向

• 多语言锚点：附录 C 称，用解码得到的、可能多语言的锚点集有望减弱语言先验，评估这种自推导锚点是后续方向。
• 专节：论文没有 Limitations、Discussion 或 Future Work 专节，Conclusion 未把某项结果写成局限。

实验覆盖范围

• 主评测模型为 Gemma-4-31B-it、Qwen3.5-27B、Magistral-Small-2507；基准为 MMLU-Pro、Omni-MATH、SuperGPQA、TriviaQA，各抽 1,000 条，三个生成种子（Section 4.1、Table 8）。
• 主指标为 AUROC、AUPRC、AURC 及其按生成 token 十分位箱计算的长度控制版本；对错由基准规则抽取，不另用 LLM 裁判（Section 4.1）。
• 比较包含单次分数、P(True)、TokUR、Semantic Entropy、SentenceSAR 和有监督 Feature-Gaps；App. F.4 另报线性探针、两种 MLP 探针和 mass-mean 的跨基准迁移，该部分为 seed 42。
• 另有 Qwen3.5 上的 token 级单纯形读出和激活转向（Section 4.3、App. H），以及 GoEmotions（5,427 条）与 School of Reward Hacks（100 对）上的同一构造（App. D）。
• 论文未报告主结果 AUROC 的统计显著性检验；Figure 5 与填充干预的正文未给出逐层 AUROC 或 Spearman ρ 的具体数值。

U-SPACE 与 U-LENS 是面向推理模型的无训练读出：用语义方向定位不确定性的形式，并用一个轨迹分数区分更可能错的回答。

• 问题：总准确率不指出哪一次回答更可能失败。作者认为重复生成、额外训练和纯标量分数，都难说明不确定性在推理中从哪进入；生成长度又会混入许多估计器。
• 方法：四类锚点经 J-LENS 拉回残差流，不确定极减去确定极后正交化。轨迹分数是思维结束处的正锥对齐，乘以推理段的平均预测熵。不使用正确性标签，也不重复采样。
• 长度控制结果：Table 2 中，Gemma 4、Qwen3.5、Magistral 1.1 的 U-LENS AUROC 为 68.4±0.4%、71.0±0.7%、68.3±1.0%。作者称这是九项模型—指标比较中都领先的方法，相对最强基线提高 2.2、1.9、4.7 个百分点。
• 未调整与例外：Table 1 里三模型平均的未调整 AUROC，U-LENS 为 71.1±4.7%，生成长度为 68.6±1.4%。Table 12 中 Magistral 1.1 未调整时，U-LENS 为 65.7%，低于 Acone 的 68.5% 和生成长度的 67.8%；作者称较弱的预测熵拉低了锥对齐。
• 作者的结论：作者认为，能显示不确定性从哪进入推理的估计更有用；轨迹读出和沿基方向的干预说明这些方向可解释，并会改变生成。作者还称同一无标签构造可迁到情绪与奖励投机读出。伦理声明中，作者称该读出不是校准过的安全检测器，不能替代独立核查。