VStress:面向重复验证器的相关性感知审计与自适应预算分配
VStress: Correlation-Aware Auditing and Adaptive Budget Allocation for Repeated Verifiers
VStress 用冻结回放审计重复验证器;VStress-CA 按条件边际信息分配预算,固定预算下 BA 0.6538、RLVR 0.6417(Table 2)。
- 重复调用验证器只在额外视图带来条件信息时有用;相关错误会使多数投票增成本却不增加证据。审计需要同时给出质量、覆盖、选择性准确率、调用成本和相关边界。
- VStress 在接入干净 oracle 前冻结决策与成本账本。VStress-CA 在密封校准集上估计未查询通道的条件边际可区分度,按成本归一、折扣不确定性,不信息时停止或弃权;依赖漂移时关闭通道偏好并回退 exact-stop。
- 对称损坏 35% 时 majority-5 的 BA 从 0.6578 升至 0.7739,65% 时下降 0.1226(Table 3)。固定预算下广度、冗余、VStress-CA 的 BA 为 0.6048、0.6375、0.6538,后者 RLVR 0.6417、每项 3.4216 次调用(Table 2)。
- 条件信息估计依赖校准划分,通道池相对校准集过大时估计变噪;低依赖不等于因果独立,保留可观测摘要的潜在漂移可能检不出。评测固定二元决策、有界验证器池和匹配候选缓存。
- 基准
- 512 条周期二元 oracle fixtureGSM8K payloads(仅作不可变标识)repeated real-verifier held-out tracesdownstream RLVR held-out tasks
- 指标
- balanced accuracy (BA)coverageselective accuracycalls per itemRLVR scoreerror overlapconditional marginal gain
VStress 是一套可审计的重放契约,其 VStress-CA 策略在密封校准集上估计未查询验证器的条件边际信息,按调用成本归一化,并在下一次调用无信息量时停止或弃权。在 35% 对称污染下,majority-5 将平衡准确率从 0.6578 提升至 0.7739,而在 65% 污染下反而损失 0.1226 点。匹配固定预算对比中,广度、冗余与自适应分配分别取得 0.6048、0.6375 和 0.6538 的平衡准确率,VStress-CA 每项调用 3.4216 次,RLVR 得分为 0.6417。
深度解读
这篇论文试图解决什么问题?
重复验证只在带来条件信息时有用,作者要把相关结构变成可审计的分配决策。
重复调用验证器只在额外视图含有独立信息时有用;相关损坏下继续调用只增加成本。
- 场景:作者认为,损坏独立时多数投票可以提高质量;同一失败到达每个视图时,额外调用增加成本但不增加证据。有用的验证器审计必须在同一条轨迹里给出质量、覆盖、选择性准确率、调用成本和相关边界。
- 现有不足:作者称,选择性预测、成本感知路由和相关错误方面的工作提供了成分,但没有规定共同的决策后审计边界,也没有把测得的条件信息用作在线获取信号。
- 核心观察:实现多样性不被视为统计独立。论文报告测得的重叠、关联、互信息、分歧和留出集上的实现增益;在相同总调用预算下比较重复验证与广度,使质量增益不能只归因于在更多条目上少花钱。
- 提出的方法:作者把审计契约与分配规则分开。VStress 是可回放的二元反馈契约,在线证据在 oracle 接入前冻结。VStress-CA 选择下一通道、决定何时停止,并在部署依赖离开校准区域时回退。
有哪些相关研究?
作者把奖励模型评测、选择性预测和相关错误研究收成一条可回放的二元审计,而不是新学习器。
- 奖励模型与可验证奖励:Lambert 等(2024)强调留出质量与失败模式;Lightman 等(2024)用可验证奖励训练推理与代码系统。作者称这些工作未规定共同的决策后审计边界,VStress 把该边界写明,并用测得的条件信息作在线获取信号,而不是提出新学习器。
- 选择性预测与失败模式:Geifman 与 El-Yaniv(2019)把拒绝选项形式化;稳健统计与序贯决策为弃权与成本感知停止提供动机。Lambert 等(2024)、Zheng 等(2024)、Skalse 等(2022)暴露奖励模型与过程验证器的系统性、语义性失败模式。作者称 VStress 把这些关切合成一条可回放二元审计,比较对象是额外视图、测得的共享错误结构,以及接受或弃权的成本。
- 相关错误与验证器鲁棒性:Kim 等(2025)、Chen 等(2025)、Patel 等(2026)被作者称为最近的外部比较点。相关感知扩展把验证器选择视为固定预算分配:高精度通道在残差错误重复当前证据时可能是差的下一次查询,较弱通道在解决不同错误模式时可能有用。
- 基线与评测对象:比较对象包括固定多数投票、随机分配、边际准确率贪心,以及忽略条件依赖的边际信息策略;应用问题还在相同总调用预算下比较广度与冗余。数据侧使用 512 条带周期二元 oracle 的 fixture(GSM8K payloads 只提供不可变标识)、重复真实验证器轨迹,以及下游 RLVR。
作者将本文定位为:把测得的条件依赖接到可审计的分配决策,而不是声称多数投票在相关错误下会失败这一已知机制。
论文如何解决这个问题?
VStress 先冻结账本再接入 oracle;VStress-CA 用校准集上的条件边际信息做成本归一分配。
VStress 规定二元反馈的回放契约,VStress-CA 用密封校准集上的条件边际信息决定下一通道、停止或弃权。
任务与信息边界
- 输入:fixture 条目 i 有干净二元 oracle yi。在线聚合器只收到由声明的损坏族生成的五个损坏视图 vi,1:5。干净标签和任务级结果留在事后 oracle 文件。一次运行由稳定源标识和 SHA-256 manifest 标识。
- 损坏与聚合:族 r、损坏率 ρ 下,z 为五个视图之和,a = max(z, 5−z)/5。多数决策为 z 至少为 3,固定弃权规则只在 a 至少为 0.8 时接受。轨迹冻结后计算弃权前平衡准确率、覆盖、选择性准确率、按类召回、Brier 分数和调用次数。
- 独立视图界:作者给出独立视图下多数错误概率的二项和。65% 被预先声明为压力边界;作者认为,即使 ρ 小于 1/2,部分相关仍可能使独立视图直觉失效。
四阶段流程
- 校准:在密封划分上估计每通道可靠性、失败率、成本和条件依赖。
- 在线获取:VStress-CA 在有界预算下选通道;原始裁决、失败码、延迟和计费成本写入账本。
- 冻结:控制器在干净 oracle 接入前冻结预测、弃权状态和已获取通道集。
- 评分与复用:同一冻结账本在留出验证器轨迹上评分,并在学习器缓存、优化器和任务划分固定时复用于 RLVR。
条件感知分配
- 通道值:通道池 C 为 1 到 M。Vj 取 0、1 或不可用(超时、模式非法记为 ⊥)。已查询集合 S 上,未查询通道的条件边际可区分度为 D(j | S) = I(Y ; Vj | VS),只在校准行上估计。
- 打分:用 bootstrap 标准误 σ 与校准成本 c 构造 U(j | S),分子为 D 减去 β 倍标准误后的正部,分母为成本加 ε。下一步选 U 最大的未查询通道。作者称通道只因尚未出现在已查询视图中的信息而获得价值,模型或提供方身份不是独立性的代理。
停止与依赖漂移回退
- 接受:每增加一个视图后,校准后验在 max(p, 1−p) 至少为 τ 时接受。否则仅当已查询规模小于预算 B,且未查询通道的最大 U 大于 γ 时继续;两者都不满足则弃权。
- 漂移:部署窗口用 Jensen–Shannon 统计量 Sshift 比较裁决频率、分歧和失败率与校准分布。Sshift 大于 δ 时关闭学习到的通道偏好,改用预先声明的 exact-stop。作者称这是为了避免把依赖估计外推到校准支撑之外。
训练与推理契约
- 在线路径:收到条目标识和有界裁决载荷。模式合法的裁决贡献一票、实现标识和延迟;畸形或不可用调用写入失败码并消耗声明预算。投票在读取任何 oracle 字段前冻结。离线评分按条目标识接入不可变 oracle,计算质量–覆盖–成本向量。协议对视图数线性,事后连接在按 manifest 键排序后对条目数线性。
- 两条臂共用契约:重复验证器臂保留原始裁决文本、提示/模板标识、模型版本、token 数、延迟、缓存来源和通道身份。RLVR 臂保留候选缓存、学习器种子、检查点、任务划分、聚合输出和验证器成本。干净 oracle 不在线复用。
论文做了哪些实验?
机制边界、固定预算分配和真实验证器/RLVR 对照是主实验;相关增强时增益降到 0。
实验设置
- Fixture:512 条有序记录,带周期二元 oracle。GSM8K payloads 提供不可变标识,不提供正确性标签。七个确定性损坏种子可回放。
- 指标:全条目、弃权前平衡准确率(BA)、覆盖、选择性准确率、按类诊断、每项调用次数。留出结果账本的区间是对声明的留出条目或任务单元的 95% 区间;种子级摘要是描述性的,不替代条目级分母。覆盖用原始条目分母,选择性准确率只在接受条目上定义。
- 应用四问:校准的条件依赖是否预测额外验证器的实现边际价值;固定调用预算下相关感知分配是否改善质量–覆盖–成本前沿;分配对校准规模和依赖漂移是否敏感;在匹配验证器调用或接受的学习器更新时,下游 RLVR 是否改善。
- 比较策略:固定多数、随机分配、边际准确率贪心,以及忽略条件依赖的边际信息策略。正文主表实际给出广度(每项一视图)、冗余(每项五视图)、VStress-CA 和等接受更新对照。论文未在 Table 2 中报告随机与贪心的数字。
- 损坏族:对称翻转、假阳性优先改变负类、部分相关把独立抽样与共同潜变量混合。固定工作点在 fixture 1001 上选择,再在四个留出受控 fixture 上回放。
- RLVR:学习器、优化器、批日程和三个训练种子在接入聚合结果前固定。训练、验证、留出任务 ID 不相交。聚合器是单次调用、多数和 sequential-safe 之间唯一改动的组件。
主结果
Table 3 给出质量–覆盖–成本边界;Table 2 给出固定预算比较。
表格较宽,可左右滑动
设置 BA 覆盖 选择性准确率 调用 出处 symmetric 35%,single 0.6578 未单列 未单列 未单列 Table 3 symmetric 35%,majority-5 0.7739 0.4919 0.8953 5 Table 3,增益 +0.1161 false-positive 45%,majority-5 0.7920 0.7946 0.9458 5 Table 3,single BA 0.7698,增益 +0.0221 symmetric 65%,majority-5 0.2362 0.4886 0.1179 5 Table 3,single BA 0.3587,变化 −0.1226 广度,每项 1 视图 0.6048 未报告 0.6217 1.0000 Table 2,5120 items,RLVR 0.5826 冗余,每项 5 视图 0.6375 未报告 0.6614 5.0000 Table 2,1024 items,RLVR 0.6148 VStress-CA 0.6538 未报告 0.6892 3.4216 Table 2,1497 items,RLVR 0.6417 等接受更新对照 0.6319 未报告 0.6547 3.0000 Table 2,1706 items,更新 4861,RLVR 0.6073 - 作者解读:35% 对称损坏下 majority-5 提高 BA,65% 是预先声明的压力条件,多数投票损失 0.1226。固定预算下 VStress-CA 的 BA 与 RLVR 分数高于同表的冗余行;等接受更新对照把训练更新分母保持可见。
- 依赖诊断(Table 1):same-model repeats、same-family variants、cross-family channels 的错误重叠为 0.7826、0.5413、0.3187,条件边际增益为 0.0126、0.0462、0.0913。作者称跨族对的错误重叠最低、条件边际增益最大。
- Figure 3 标注:对称损坏率轴上可见 +0.132、+0.126、+0.012 与 −0.102;共同原因强度轴上作者标注“shared error erases gain”,曲线从约 0.12 降到 0.00。正文称部分相关回放中配对增益从 +0.1102 降到完全共享错误端点的 0(与 Table 10 一致)。
真实验证器与下游 RLVR
- 重复真实验证器(Table 4、Table 13):低依赖通道在留出条目上 BA 0.8017、覆盖 0.5874、选择性准确率 0.9186、成本 4.96,区间 [0.7754, 0.8280]。共同原因通道为 0.7224、0.9048、0.7489、成本 4.91,区间 [0.6930, 0.7518]。Table 13 的单次对照 BA 为 0.7186。作者称这是离开受控 fixture 后仍可见同一质量–覆盖–成本权衡。
- RLVR(Table 6、Table 14):三个种子、留出任务上,single-call 任务分 0.6127(覆盖 0.9678,1.0000 次调用),majority-5 为 0.6429(覆盖 0.5891,5.0000 次,成本 4.91×),sequential-safe 为 0.6408(覆盖 0.5836,4.6934 次,成本 4.52×)。成本漂移下 majority-5 为 0.6418(6.24×,Table 6);验证器漂移下为 0.6287。
- 失败分解(Table 5):single-call 对称损坏 BA 0.6578、覆盖 1、失败率 0;majority-5 对称损坏 BA 0.7739、覆盖 0.4919、失败率 0;majority-5 共同原因为 0.6591、覆盖 1;sequential-safe 在畸形/超时下 BA 0.7558、覆盖 0.4512、选择性准确率 0.9006、平均调用 4.3867、失败率 0.0714。
序贯停止、跨 fixture 与漂移
- Exact-stop 与 prefix-stop(Table 9,七种子均值):exact-stop 保持 majority-5 的最终决策。对称 35% 下两者 BApre 同为 0.7739,调用从 5.0000 降到 4.7999。prefix-stop 的 BApre 为 0.7178、调用 4.0477。假阳性 45% 下 prefix-stop 的 BApre 为 0.8764、调用 3.3795,与 full majority-5 的 0.7920 不同。对称 65% 下 exact-stop 仍为 0.2362。
- 跨 fixture(Table 12):校准 fixture 1001 的 single/majority BA 为 0.6578/0.7739。四个留出受控 fixture 的 majority BA 为 0.7685、0.7798、0.7711、0.7766,BA 增益 +0.1154 至 +0.1174。real anchor 只有一次冻结裁决,single BA 0.7191,majority BA 为 N/A。
- 部分相关(Table 10,对称损坏 35,复制门):共同原因强度 c 从 0 到 1 时,单视图 BA1 固定为 0.6417,majority-5 的配对增益从 +0.1102 降到 +0.0000,覆盖从 0.4738 升到 1.0000。作者写明该边界特定于这一复制门构造。
其他消融与分析
- 视图数(Table 11,p+=0.666,τ=0.80):k=3/5/7 的 BAk 为 0.7187/0.7770/0.7980,增益 +0.0673/+0.1257/+0.1466,覆盖 0.3281/0.4866/0.2458。
- 阈值(Table 11,k=5):τ=0 与 0.60 覆盖 1.0000、BAsel 0.7770;τ=0.80 覆盖 0.4866、BAsel 0.8903;τ=1 覆盖 0.1336、BAsel 0.9654。BA 均为 0.7770。
- 损坏率(Table 11):对称 0.15 增益 +0.1318;0.35 为 +0.1257;0.50 为 +0.0123;0.65 为 −0.1017。Figure 2 横轴为 views k、agreement threshold τ、symmetric corruption,纵轴为 paired ΔBApre 与 coverage;具体曲线端点论文未在图注中逐点列出。
- 校准样本量(Table 46):n=32/64/128/256/512 时 CMD error 为 0.0867/0.0612/0.0385/0.0197/0.0000,BA 为 0.6269/0.6381/0.6462/0.6511/0.6538,RLVR 为 0.6106/0.6224/0.6335/0.6391/0.6417。
- 依赖漂移(Table 47):无漂移时 VStress-CA 的 BA 0.6538、调用 3.4216。重度漂移(JS 0.2269)无回退 BA 0.5869,有回退(exact-stop)BA 0.6206、调用 4.6719。中度漂移无回退 0.6237,有回退 0.6382。
- RLVR 错误分解(Table 48,接受更新分母):VStress-CA 的 FP 奖励 0.1589、FN 奖励 0.1519、弃权 0.0438、接受 0.9563、任务分 0.6417;single-call 任务分 0.5826,majority-5 为 0.6148。
有什么可以进一步探索的点?
校准估计会变噪,低依赖不是因果独立,评测停在二元任务和有界通道池。
作者指出的局限与后续方向
- 校准样本:分配策略依赖校准划分上的条件信息估计。通道池相对校准集较大时估计变噪;样本效率表把这一依赖写明,作者称并不声称最优样本复杂度(Limitations)。
- 非因果:测得的低依赖不意味着因果独立。共享训练数据、推理模板、基础设施或失败原因可以仍然是潜在的(Limitations)。
- 漂移监测:依赖漂移通过可观测的裁决与失败摘要监测,因此保留这些摘要的潜在漂移可能仍然检不出(Limitations)。
- 任务范围:评测仍然固定二元决策任务、有界验证器池,以及下游学习器的匹配候选缓存。受控周期 oracle 识别机制,真实验证器与 RLVR 臂只在所记录的通道和种子下界定部署相关性。多类和更大通道池需要精确条件表以外的结构化估计器(Limitations)。
- 日志:方法使用原始验证器输出、实现标识、延迟和失败码。作者建议发布前做访问控制并去掉个人或敏感内容;更广部署在通道共享提示、数据或基础设施时也可能集中模型或提供方偏差。作者建议在每个聚合分数旁报告通道多样性、按类覆盖、校准划分和服务成本(Limitations)。
- 相关构造:Table 10 写明,测得的依赖边界特定于复制门构造;更广的可交换、成簇、提示依赖和验证器族相关需要单独评估。
实验覆盖范围
- 受控 fixture:512 条记录、七个损坏种子;损坏族包括对称、假阳性和部分相关。工作点在 fixture 1001 上选择,并在四个留出受控 fixture 上回放(附录 A、Table 12)。
- 主比较:Table 2 报告广度、冗余、VStress-CA 和等接受更新对照的调用、条目数、接受更新、BA、选择性准确率和 RLVR 分数。正文还列出随机分配、边际准确率贪心和忽略条件依赖的边际信息策略作为比较对象,这些策略的数字未出现在 Table 2。
- 真实验证器:留出测量包括低依赖通道与共同原因通道,各 5 个视图,并给出 95% 区间(Table 4、Table 13)。real anchor 为每项一条冻结裁决(Table 12)。
- RLVR:三个训练种子;比较 single-call、majority-5、sequential-safe,以及成本漂移和验证器漂移(Table 6)。检查点账本给出调用规模,例如 majority-5 为 93.61k 次调用、留出端点 0.6429(Table 25)。
- 漂移与校准:Table 46 在固定留出划分上改变校准条目数;Table 47 在无、轻度、中度、重度漂移下比较有无回退。论文报告区间为 95% 区间,未报告评审模型,因为评分在冻结后接入 oracle。
总结一下论文的主要内容
VStress 冻结后再评分,VStress-CA 按条件信息分配调用,相关共享时增益消失。
VStress 是重复二元验证器的回放审计,VStress-CA 把未查询通道的条件边际信息变成固定预算下的停止与分配。
- 问题:额外视图只在含有尚未出现的信息时值得调用。独立损坏下多数投票可以提高质量;共享失败时调用增加成本但不增加证据。
- 做法:在线聚合器只看损坏视图,写下决策和成本账本并冻结,然后才接入干净 oracle。分配在密封校准集上估计条件互信息,用不确定性折扣和调用成本归一,信息不足时停止或弃权;Jensen–Shannon 漂移报警后关闭通道偏好,回退到 exact-stop。
- 机制边界:对称损坏 35% 时 majority-5 的 BA 从 0.6578 到 0.7739(覆盖 0.4919,选择性准确率 0.8953,5 次调用);对称 65% 时从 0.3587 降到 0.2362,变化 −0.1226(Table 3)。复制门下配对增益从 +0.1102 降到 0(Table 10)。
- 分配与下游:同一候选池上,广度、冗余、VStress-CA 的 BA 为 0.6048、0.6375、0.6538,RLVR 分数为 0.5826、0.6148、0.6417;VStress-CA 每项 3.4216 次调用(Table 2)。跨族通道的条件边际增益为 0.0913,同模型重复为 0.0126(Table 1)。低依赖真实通道的留出 BA 为 0.8017,共同原因通道为 0.7224(Table 4)。
- 作者结论:贡献是一条从测得条件依赖到分配决策的可审计路径。作者区分三种情形:未查询通道仍有条件信息时,重复验证买到新证据;错误冗余时,边际质量高估价值;部署依赖离开校准支撑时,应关闭通道偏好并使用 exact-stop。