CARE：为视觉-语言-动作模型推理加速提供认证式选择

如何加速策略，同时用有限样本限制加速毁掉参考策略已能完成的任务。

• 场景：视觉-语言-动作（vision-language-action, VLA）模型把观察和语言指令映射成动作。作者认为在闭环控制器里每步运行大模型会使执行变慢，推理成本是实际瓶颈。
• 现有评估的缺口：加速手段包括 action chunking、视觉 token 剪枝、特征缓存、动态推理，以及减少 flow-matching 的细化步。它们通常只报推理成本和平均任务成功率。作者认为平均成功率隔离不了加速回归：两边共同的失败会计入加速策略，加速策略新完成的任务又能抵消它毁掉的任务。
• 核心定义：加速诱发失败（acceleration-induced failure）指同一任务、同一初始场景下，全计算参考策略成功而加速策略失败。作者称该回合级风险一般不能由边际成功率，或置信度、动作覆盖等逐步量还原（附录 A.5），必须在配对的完整回合上测量。
• CARE：部署前离线运行。给定参考策略、加速配置族和用户风险预算，在校准集上做配对回合，为该风险构造有限样本证书，返回最快的已认证候选；数据不支持任何加速时保留参考。部署时只运行被选策略。
• 两难：风险要从有限回合给出上界，多个候选又增加碰巧接受不安全配置的机会；每次评估都是闭环回合，其中包括本想避免的参考策略。

推理加速与自适应计算

• Kim 等（2025）的 action chunking，Chen 等（2024）、Liu 等（2025b）、Wang 等（2025）、Pei 等（2026）的视觉 token 剪枝，Xu 等（2026）的特征缓存，以及 Schuster 等（2022）、Yue 等（2024）的早退或动态推理，改变的是算什么或多久算一次。
• Liu 等（2026b；2025a）把大模型或多模态教师转到较小学生，或训练时使用辅助模态、推理时丢掉。Black 等（2024）与 Intelligence 等（2025）用更少积分步降低 π0、π0.5 一类 flow-matching 策略的计算。
• Zheng 等（2026a；2026b；2026c）与 Dai 等（2026）用动态剪枝、停止或学习到的分配减少语言模型推理。论文指出：这类工作主要在保持总体表现的同时减少计算，用延迟和平均任务成功率评估，看不出更快策略新失败了哪些任务，也看不出成功率能否在新场景上保持。

有限样本风险控制

• Angelopoulos 等（2025）与 Bates 等（2021）的 Learn-then-Test 把候选选择写成有限族上的多重假设检验；Laufer-Goldshtein 等（2022）的 Pareto Testing 用估计顺序提高选择效率。Angelopoulos 等（2024）与 Angelopoulos（2026）在额外损失结构下做 conformal risk control。
• Ville（1939）、Vovk 与 Wang（2021）、Ramdas 等（2023）、Howard 等（2021）的 anytime-valid 推断、e-value 和检验上鞅允许反复查看并早停。Schuster 等（2022）与 Jazbec 等（2024）把这类工具用于早退和自适应计算。
• Thomas 等（2015）比较期望回报与基线；Liu 等（2023b；2024）优化尾部或最坏情况；Yan 等（2021）分析更新后模型在原模型成功的输入上失败的 negative flip。论文指出：与固定输入上的逐预测一致性或 negative flip 不同，CARE 的对象是闭环加速风险，一般不能由边际成功率、平均成功率之差或逐步保证推出。

基线与基准

• 基线方法：Latency only、Average success、Validation tuned、Unpaired test、Pareto Testing、cost-order LTT、safe policy improvement，以及 full-sample Hoeffding–Bentkus、sequential HB、sequential exact、plug-in e-process。
• 基准：LIBERO 的 Goal、Spatial、Object、Long（Liu 等，2023a）；Crafter 的 collect wood 与 collect drink（Hafner，2021）。

作者把 CARE 定位为只使用配对终端结果和测得的推理成本，同一认证流程用于 action chunking、token 剪枝、特征缓存、flow 减步及其组合；并称任务均衡的序贯认证和失败触发的参考执行针对配对的回合级评估，在保留部署保证的同时降低认证成本。

CARE 是免训练的先认证再选择：从参考策略 π0 和加速配置族中选出校准数据能够认证的最快候选，否则保留 π0。部署时只运行被选策略，认证不加在推理路径上（Figure 1）。

问题设定

• 评估单元含任务索引、初始场景和执行随机种子。参考与候选从同一单元出发，得到成败 Y0、Yλ。校准集、测试集，以及只测延迟的画像集互不相交。
• 加速诱发失败损失为 L_λ(U)=Y₀(U)(1−Y_λ(U))，只在参考成功且加速失败时为 1。部署风险 R(λ) 是等权任务混合下该损失的期望；参考自身风险为 0。
• 用户给出预算 α 和错误水平 δ。选择规则应满足 Pr(R(λ̂)≥α)≤δ，概率来自校准集及其执行。论文同时定义保留比例 Ret：参考已成功回合中加速仍成功的比例。参考经常失败时，R 低于 α 与一个固定的 Ret 要求可以不一致。
• 附录 A.5 写明：固定边际成功率后，R 仍可在一个区间内取值。Theorem 2 构造了单决策效应都为 0、整回合风险却分别为 1 和 0 的两个加速器。证书因此来自配对的完整回合。

先认证再选择

• 按 Learn-then-Test，对每个候选检验“风险不低于 α”。只有该零假设被拒绝，候选才可部署。
• 多候选会抬高碰巧认证不安全配置的概率。论文把家族错误率拆开，例如每个 δj=δ/M 且总和不超过 δ，再用 union bound。未被认证则部署参考。
• 固定样本使用 Hoeffding–Bentkus p 值（附录 A.2）：对 [0,1] 损失、任意样本量有效，不要求同分布。p 值不超过分配到的 δj 则认证。

任务均衡的序贯认证

• 任务风险可以差很多。若按任务顺序到达，早看可能只见到低风险任务。论文把校准单元分成轮次，每轮每个任务相同数量，只在轮次边界检查。实验里的每轮数量论文未给出。
• 每次重算普通 p 值都会多一次碰巧通过的机会。论文改用 e-process：把已观察到的损失与低于 α 的风险、以及边界风险 α 的似然比比较，再在有限网格上平均。不安全假设下，任务均衡轮次使它成为非负上鞅（Lemma 2）。按 Ville 不等式，它在任一检查点达到 1/δj 的概率不超过 δj，停止时刻可以依赖数据。
• 候选按画像集测得的延迟从快到慢排列，认证到第一个即停止。若此后即使不再出现损失也到不了阈值，就放弃该候选。顺序事先固定；早停不改变最终会被认证的对象。

失败触发的参考执行

• 候选在该单元成功时损失必为 0，不必运行参考。参考只在候选失败且缓存尚无该单元结果时运行，供后面的候选复用。每个单元最多一次参考执行，且只出现在某个被评估候选失败过的单元上（Lemma 1）。
• 论文称由此得到的损失和认证决定与穷尽配对评估相同。最快优先、早停和失败触发一起仍满足上面的概率界（Theorem 1）。假设包括：候选、α、δ、轮次、网格和顺序在看到校准结果前固定；单元独立；一次执行只依赖该单元及独立随机性，仿真残余非确定性计入结果分布（附录 A.2）。
• 若直接认证保留比例预算，即使候选成功也要跑参考，不能用失败触发（附录 A.6）。报告中的 preserved 走失败触发路径，另用事先指定的参考样本给参考成功率做 Hoeffding 下界；论文写 δ0=0.01，其余 0.04 分到 32 个套件–候选假设。该预指定样本量未给出。

实验设置

• 被测模型：OpenVLA-OFT，参考为一步重规划 H1；π0.5，参考为默认十步、动作视界 H8；Crafter 智能体为 Qwen3.5-9B 与 Llama-3.1-8B。4.4 节写评估了 π0 与 π0.5，表格只报告 π0.5。
• 基准与规模：LIBERO 四套件 Goal、Spatial、Object、Long，各 10 个任务、每任务 50 个固定初始状态，每套件 500 个场景。论文写合计 2,000 个初始场景，参考与候选共 18,000 次 rollout。Crafter 任务为 collect wood 与 collect drink。
• 候选：八配置均为 horizon 8：plain、FastV-25、FastV-50、FastV-75、VLA-Cache、VLA-Pruner、SpecPrune、VLA-ADP。24 配置为 H∈{2,4,6,8} 乘六种模式（plain、FastV-25/50/75、VLA-Cache、VLA-Pruner）。π0.5 候选为 2、4、6 个 flow 步。
• 划分与预算：OpenVLA 每套件 250 个任务均衡校准回合，其余 250 为测试集；α=5.0%，δ=5.0%。π0.5 每套件 250 个任务分层回合，每 50 回合检查，三候选族控制在 α=0.05；该段未写 δ。
• 指标：speedup 是参考平均推理时间除以部署控制器。preserved 是经家族校正的 95% 下界，对象是参考已成功回合被保留的比例；校正覆盖四套件上的多候选选择。over-budget rate 是所选策略的总体 AIF 超过 α 的试验比例。
• 判定：LIBERO 在步数上限前满足目标条件即成功；Crafter 在步数预算内解锁成就即成功。论文未报告 LLM 裁判或人工一致性。选择器比较为每套件 10,000 次重采样。Figure 3 的画面来自脚本策略，不是被测语言模型智能体的回合。

主结果

摘要写 9.0–10.8×，并在 95% 置信下至少保留 85.8%。4.1 节写 9.02–10.81×，保留 85.8%–95.7%。下表按 Table 1，对象为 OpenVLA-OFT，相对 H1，α=5.0%，δ=5.0%。

Swipe horizontally to read the table

套件	选出策略	加速	preserved
Goal	FastV-25 H8	9.02×	93.5%
Spatial	FastV-75 H8	10.08×	95.7%
Object	Plain H8	9.56×	92.2%
Long	VLA-Cache H8	10.81×	85.8%

• 作者称这回答其 Q1：CARE 选出可用的加速策略，并带家族层面的保证。
• preserved 不是平均成功率；论文写家族校正后，这些下界在四套件、多候选选择之后仍然有效。
• 四套件都未退回 H1。Long 的下界低于另外三套件；该节没有解释原因。

与其他选择器的比较

• 每套件以 500 个已存配对回合为经验总体，每次抽 250 个做校准，共 10,000 次，再在全总体上评估。Latency only 总选最快者。Average success 选经验成功率落在 H1 一个百分点以内的最快者。Validation tuned 选观察到的 AIF 率低于 α 的最快者，不校正多候选选择。Unpaired test 比较边际成功率而非配对 AIF。
• Table 2：α=2.0% 时 Latency only、Average success、Validation tuned、Unpaired test、CARE 的超预算率分别为 75.0%、75.0%、36.8%、67.1%、0.0%；α=2.5% 时为 25.0%、25.0%、13.0%、19.5%、0.0%。引言把无保证选择器概括为 13–75%，摘要写最高到 75%。
• 作者称 CARE 的结果来自证据不足时保留 H1，不是强制加速；并称对照方法的加速来自证据不足时仍部署加速策略。Table 3 在 α=5.0%：fixed-n CARE 平均加速 8.88×、回退 11.7%、平均 rollout 2,250；sequential CARE 为 7.32×、26.9%、592。Pareto Testing、cost-order LTT、safe policy improvement 分别为 6.16×/42.2%、6.35×/45.5%、5.30×/60.5%，rollout 均为 2,250。表注写 sequential 把评估成本减少 73.7%，并称 fixed-n 的平均加速在控风险选择器中最高。作者称后两种有序方法会在到达可认证策略前停止；safe policy improvement 允许新解决回合抵消失败，不直接控制 AIF。

更大的候选族

• 24 个 OpenVLA-OFT 配置，使用新的校准流，H1、AIF 预算和家族级风险控制与前面相同。Table 4 中 CARE 四套件均认证：Goal 为 FastV-25 H8，Spatial 为 FastV-75 H8，Object 为 Plain H8，Long 为 VLA-Cache H8。
• CARE 的候选 rollout 为 5,150，参考为 113，合计 5,263，相对 full-sample HB 的 25,000 节省 78.9%。sequential HB、sequential exact、plug-in e-process 合计分别为 7,306、6,485、5,873，节省 70.8%、74.1%、76.5%。论文写 CARE 比这三者少 2,043、1,222、610 次 rollout。
• 同一张表里，full-sample HB 与 sequential exact 在 Long 为 Reference；plug-in e-process 在 Spatial 与 Long 为 Reference；sequential HB 只在 Object 认证 VLA-Pruner H8。作者称所比较方法中只有 CARE 每套件都认证了加速策略。摘要把 78.9% 写在序贯形式相对穷尽评估上；引言与 Table 4 将该数字对应 24 配置族。

跨架构与 Crafter

• Table 5，π0.5，相对十步参考：Goal 选四步，计算为参考的 40%，测得加速 1.26×，305 次 rollout，节省 69.5%。Spatial、Object 选两步，计算 20%，加速均为 1.45×，rollout 为 254 与 253，节省 74.6% 与 74.7%。Long 保留参考，计算 100%，加速 1.00×，464 次，节省 53.6%。四套件合计 1,276 次，相对 4,000 少 68.1%；参考 rollout 为 26。作者称两步把 flow 计算减少 5×、四步减少 2.5×；这与表中测得加速不是同一列。Long 上三个候选都早停。
• Table 6：Qwen3.5-9B 的 collect wood 为 3/3 种子、计算占参考 69.4%，collect drink 为 2/3、85.8%。Llama-3.1-8B 为 wood 3/3、74.9%，drink 2/3、98.6%。作者称 wood 在每个种子上认证，计算减少 25.1%–30.6%；drink 在三个种子中的两个上认证，减少更小。日程在认证前训练，在预留流上评估。该段未写 α、δ 或回合数。

其他消融与分析

• Table 7，单决策效应 / 整回合 AIF：Goal 2.3%/2.6%，Spatial 0.7%/0.8%，Object 4.3%/1.0%，Long 9.5%/2.7%。作者称 Object 与 Long 相差 4.31 倍与 3.52 倍；表中比例是上述百分数。
• Table 8，十候选模拟，α=0.1，每试验 200 回合，4,000 次：未校正选择的超预算部署为 46.0%，家族校正为不超过 0.15%。
• Table 9，Eight safe, two risky 且 R=0.050：均衡轮次认证超预算候选的概率为 1.84×10^−4，按任务顺序为 1.00。
• Table 10：固定样本全测 9,000 次 rollout、38.6 h；CARE 为 1,950+47=1,997 次、7.0 h。表注写 rollout 少 77.8%，墙钟少 81.9%。
• Table 11：α=5.0%、n=250 时超预算 0.00%、回退 11.7%、加速 8.88×，数字与 Table 3 的 fixed-n 行相同，论文未写明该表是固定样本还是序贯。α=2.0% 或 2.5% 且 n=250 时回退 100.0%、加速 1.00×。α=2.5%、n=500 时观察到超预算 0.02%。α=10.0%、n=250 时回退 0.0%、加速 11.25×。

作者指出的局限与后续方向

论文未专门讨论局限。第 5 节只写加速可以按它引入的失败做有限样本控制，没有列出不足或后续工作。

实验覆盖范围

• 结果表中的被测模型为 OpenVLA-OFT、π0.5、Qwen3.5-9B、Llama-3.1-8B。4.4 节写评估了 π0 与 π0.5，表格只报告 π0.5。
• LIBERO 四套件各 10 个任务、每套件 500 个场景；认证与测试各 250 个回合。Crafter 为 collect wood 与 collect drink，Table 6 为 3 个种子；日程在认证前训练。
• OpenVLA-OFT 有 8 配置（均 H8，含 SpecPrune、VLA-ADP）和 24 配置（H 为 2、4、6、8，六种模式）。π0.5 候选为 2、4、6 步，参考为十步 H8，每 50 回合检查一次。
• 成功由仿真终态判定。选择器比较为每套件 10,000 次重采样。主设定为 α=5.0%、δ=5.0%；附录 B.2 还报告了其他 α 与校准规模 n。
• 论文未报告 Crafter 的 α、δ 与回合数，未报告主实验的网格 Q 与每轮每任务数 m，未报告保留界所用的预指定参考样本量 n0。

CARE 在部署前从加速配置中选出最快、且加速诱发失败风险能被有限样本认证为低于用户预算的候选；证据不足就保留全计算参考策略。

• 闭环里每步跑 VLA 很贵。延迟和平均成功率回答不了加速是否毁掉参考本可完成的回合：共同失败和新成功会混在一起，动作一变，后面的状态也会分叉。
• 校准单元固定任务、初始场景和随机种子。损失只在参考成功、加速失败时为 1，风险对任务等权。检验遵循 Learn-then-Test，固定样本用 Hoeffding–Bentkus，序贯情形用任务均衡轮次上的 e-process，并控制家族错误率。候选按另一画像集的延迟从快到慢评估，可以早停；参考只在候选失败时运行并缓存。
• OpenVLA-OFT、α=5.0%、δ=5.0% 时，四套 LIBERO 相对一步重规划的加速为 9.02×、10.08×、9.56×、10.81×，同时 95% 下界为 93.5%、95.7%、92.2%、85.8%（Table 1）。摘要写成 9.0–10.8×、至少保留 85.8%。
• 10,000 次重采样、α=2.0% 时，Latency only 与 Average success 的超预算率为 75.0%，CARE 为 0.0%（Table 2）。24 配置族上 CARE 用 5,263 次 rollout，Table 4 写节省 78.9%。
• π0.5 在 Spatial 与 Object 选两步，Table 5 的测得加速为 1.45×，Long 保留十步参考。Crafter 的 collect wood 在 Table 6 的 3/3 种子上通过认证。作者认为加速不必只当作速度与准确率的权衡，而可以按它引入的失败做有限样本控制。