ConceptTime：以预测意外构建自接地概念瓶颈，实现可解释时间序列分类

核心问题：时间序列分类器如何同时做到准确、可解释、并能在证据不足时校准拒判（calibrated abstention）。 作者认为现有方法无法同时满足这三点，且障碍是结构性的而非工程性的。

• 应用场景：医疗、可穿戴传感、环境监测、工业遥测等风险敏感领域部署的时间序列分类器，需要可检查决策依据并能在证据弱时延迟判断（Introduction）。

• 现有方法的不足：黑盒分类器只追求准确率；post-hoc 解释方法只描述输出而不约束决策过程；interpretable-by-design 方法最接近目标，但概念标注在序列数据上稀缺且昂贵（Introduction）。

• 核心观察（鸡生蛋问题）：有意义的时间概念需要知道片段边界才能定义，而有意义的边界又需要知道要找什么概念才能划定。以往方法把两步解耦——先固定窗口或阈值切分，再学概念——各自牺牲了三性质之一（Introduction）。

• 论文的假设：同一个自监督信号既能定位边界也能描述片段。冻结的概率预测模型给出下一步观测的分布，预测与实现信号的失配（predictive surprise）是天然的边界位置，其预测统计同时刻画片段行为（Introduction）。

• 论文提出：ConceptTime——用单个冻结的自回归高斯密度模型（ARGDM）闭环分段与概念发现，概念由相对预期的行为而非外观锚定，原型距离直接给出 fidelity 分数用于拒判，无需人工标注、语言模型或领域专家（Abstract）。

概念瓶颈模型（CBM）

• Koh et al. 的 CBM [28]——预测经由可检查、可干预的中间概念，但原始形式需要概念标注；后续 label-free 工作借助视觉-语言模型挖掘概念 [45, 66, 53, 50]。
• 时间序列 CBM——Wu et al. [62] 用预定义统计摘要作临床信号概念；van Sprang et al. [57] 用 CKA 对齐概念做预测；Ferfoglia et al. [16] 用 Signal Temporal Logic 谓词。论文指出这些方法都从指定词汇出发，未解决时长和模式身份都未知时如何同时发现概念及其边界。

自适应分块与离散 token 化

• BLT [46] 与 EntroPE [1]——BLT 在 next-token 熵峰值处放边界，EntroPE 将其适配到时间序列（对类别熵设阈值）；另有强化学习学边界 [64] 和内容感知压缩 [4]。
• TOTEM、VQShape、Chronos [55, 59, 5]——用学习码本或值量化把时间序列表示为离散 token。论文指出这些方法解决的是在哪切分或如何编码，未回答选择边界的预测信号能否同时描述片段行为。

原型、形状与 post-hoc 方法

• 原型/shapelet 分类器 [67, 43, 21, 15, 60, 33]——用代表性子序列和局部形状做解释。论文指出仅靠形状会丢失区分：外观相同的平坦片段在平静后与尖峰后含义不同。
• Post-hoc 解释器（TimeX、TimeX++、ShapeX 等 [48, 34, 8, 23]）——通过显著性或扰动找影响区域；论文指出其解释描述已有分类器的行为，而概念瓶颈要求分类器基于所暴露的概念做预测。

选择性预测与概念级不确定性

• 常见信号——softmax 置信度 [18]、集成分歧 [29]、基于距离的 OOD 分数 [30, 54, 36, 37]；视觉领域有经不确定性头、校准网络或随机概念层实现拒判的概念模型 [26, 35, 58, 27, 52]。

基线与基准：分类对比 ROCKET、MiniRocket、InceptionTime、TS-TCC、TimesNet、PatchTST、GPT4TS、CrossFormer、TSLANet、EntroPE、MLP（黑盒/分块类）与 catch22、ProSeNet、VQShape、TOTEM（可解释类）；OOD 与忠实度对比 softmax、TOTEM/VQShape 原型距离、GradientSHAP、TimeX、TimeX++；基准为 UCI-HAR、Epilepsy、Sleep-EDF、UEA 10 数据集、FD-A 至 FD-D（Section 4.1）。

定位：作者称 ConceptTime 用一个冻结高斯密度模型同时做分段与概念发现，无需概念标注或语言先验，原型距离同时提供拒判用的 fidelity 分数；UCI-HAR 消融中预测矩特征比原始形态特征高 45.0 个百分点（87.7% 对 42.7%，Section 2）。

整体思路：ConceptTime 把分类分解为训练信号互不重叠的阶段——自监督密度模型产生所有表示，聚类得到非参数概念词汇，轻量 transformer 头消费标签；从原始信号到概念激活的路径完全确定、可检查（Section 3）。

问题设定与 ARGDM

• 输入为 T 步、C 通道的多变量序列；ARGDM 和概念词汇在无标签语料 Du 上拟合（实验中用训练输入、不用标签）（Section 3.1）。
• ARGDM 是 4 层因果 Transformer，预测下一步的对角高斯分布 p_θ(x_t+1|x_{≤ t})，训练目标为逐步高斯 NLL 加校准正则项，迫使预测方差匹配实际残差能量；作者称没有校准时方差会退化为自由参数，下游签名失去可解释性（Section 3.2）。
• 每步 surprise 为实现信号在预测分布下的负对数似然 s_t，它在模型自信却预测错误时最高，正是分段器应标记的机制转换点（Eq. 2）。

长度约束自适应分段

• 给定 surprise 序列和目标片段数 K，用动态规划放置 K−1 个边界，在每段长度约束 [Lmin, Lmax] 下最大化累积 surprise，复杂度 O(TK)（Eq. 3）。
• 长度约束防止两类失效：平坦 surprise 上的单片段退化和边界聚集在峰值的尾部坍缩（Section 3.3）。

预测几何签名

• 每个片段压缩为 2C+13 维签名，全部来自 ARGDM 输出，信号与签名之间无神经组件（Section 3.4）。
• 三个特征族：预测矩（2C+1 维，均值预测、方差、对数长度）、残差形态（8 维，在标准化残差上算 FFT 峰值频率、自相关等）、surprise 轨迹（4 维，刻画片段内 surprise 的位置与分布）。
• 签名用 Du 上估计的 99 分位截断统计标准化，防止单片段离群值压垮其他维度。

非参数概念词汇

• 在标准化签名上拟合对角协方差的 GMM，M ∈ {8, 16, 32}；作者称该范围小到概念转移矩阵可读、大到保证类别可分（Section 3.5）。
• 片段经温度缩放的软分配映射到原型，距离为分量协方差加权的 Mahalanobis 距离（Eq. 4）；概念张量 Π ∈ R^{K×M} 堆叠各片段分配。
• 作者称整条路径（ARGDM、标准化器、GMM）都不见标签，因此概念对 concept-leakage 失效模式免疫 [42]。

分类器与 fidelity 分数

• 轻量分类器 gψ（约 10^3–10^4 参数）把 Π 映到类别 logits，用交叉熵训练，是唯一有标签监督的组件（Section 3.6）。
• fidelity 分数 F(x)=exp(−1/(Kτ)∑_j d_j)，即各片段到最近原型距离的指数化均值，τ 取 Du 上片段-原型距离的中位数；高 F 表示输入能被词汇描述，低 F 表示存在词汇覆盖不了的机制。
• 作者强调 F 与 softmax 回答的问题不同：softmax 问分类器是否自信，F 问输入能否在概念空间中被描述——后者是分类器自身无法提出的表示层问题（Section 3.6）。

实验设置

• 数据集：UCI-HAR（7352 训练/2947 测试，9 通道，6 类）、UCI Epilepsy（9200/2300，单通道，二分类）、Sleep-EDF（25612/8910，Fpz-Cz 通道，5 类）、UEA 档案 10 个数据集、Fault Diagnosis FD-A 至 FD-D（8184/2728，3 类，4 个迁移域）（Table 5、6）。
• 配置：ARGDM 为 4 层因果 Transformer（d=128，λcal=0.25，50 epoch）；(Lmin, Lmax)=(8, 40)；K 与签名族按验证集准确率选择；分类器为 2 层 Transformer（dcls=64）；结果为 3 个种子的均值（Section 4.1）。
• 基线：黑盒类 ROCKET、MiniRocket、InceptionTime、TS-TCC、TimesNet、PatchTST、GPT4TS、CrossFormer、TSLANet、MLP；可解释类 catch22、ProSeNet、VQShape、TOTEM；自适应分块对照 ConceptTime-Static、EntroPE（Section 4.1）。
• 指标：分类准确率（全标签、1%、5% 标签预算）；OOD 检测 AUROC；删除忠实度 AUC（越低越忠实）；选择性预测 AURC/E-AURC。

主结果

分类准确率（%，据 Table 1，Full 列；1% 列见正文）：

表格较宽，可左右滑动

方法	类别	HAR Full	Epilepsy Full	Sleep-EDF Full	UEA Full
MiniRocket	黑盒	97.31	98.26	85.91	73.80
TSLANet	黑盒	95.41	97.26	81.51	75.35
ROCKET	黑盒	93.91	97.15	76.38	72.30
TOTEM	可解释	83.83	94.56	67.75	52.99
VQShape	可解释	72.24	90.43	59.95	59.82
catch22	可解释	58.87	88.34	71.36	43.29
ConceptTime-Static	本文	83.27	95.47	73.36	67.82
ConceptTime-Dynamic	本文	88.91	98.39	78.15	71.82

• 作者称 ConceptTime-Dynamic 在全部 4 个基准、全部标签比例上都是最强的可解释方法，优势从 1.5 个百分点（Epilepsy 全标签）到超过 30 个百分点（HAR 对 catch22）。
• 全标签下作者在 Epilepsy 上达到或超过黑盒基线（98.39% 高于表中所有黑盒方法），其余基准落后 2–8 个百分点；1% 标签下在 Epilepsy 上超过所有黑盒基线（97.91% 对 TSLANet 95.41%）。
• 消融显示收益来自预测几何而非仅自适应分块：换等长窗口在 HAR 降 5.64 点、Epilepsy 降 2.92 点；换 EntroPE 分段降 4.5–8.5 点；换 catch22 形态描述子在 HAR 降 30 点、UEA 降 28 点（Section 4.2）。

跨域迁移（FD-A 至 FD-D，Table 2）

• 测了什么：12 个有向工况对上的目标域准确率。Direct（零样本直接应用）平均 67.61%；固定源词汇、仅用 5% 目标标签训练分类器（Source-Mθ）升至 91.09%；密度模型也在目标域无标签数据上训练（Target-Mθ）再升 3.28 个百分点至 94.37%，为 Panel A 最高均值，在 7 个方向上排名第一。
• 对照：TSLANet（掩码重建预训练+全模型微调）平均 90.76%，在 3 个方向领先；Source-Mθ 在 2 个方向领先。
• 词汇适配（Panel B）：源密度模型冻结时，在目标域重拟合标准化器和 GMM 使均值从 91.38% 升至 91.74%（12 方向中 7 个改善，最大增益 A→D +4.67 点，最大下降 B→A −2.75 点）；密度模型和词汇都在目标域训练则为 90.48%。

选择性预测与忠实度

• OOD 检测（Figure 3）：HAR 上 3 档高斯噪声和 3 种 shuffle 扰动下，fidelity 在全部 6 个条件下优于 max-softmax 及 TOTEM/VQShape 的原型距离，AUROC 随噪声因子 0.5→2.0 从 0.864 升至 0.992，其他分数接近随机。作者称这说明基于原型的 OOD 检测不是码本方法的免费性质。
• FD 真实工况偏移（Table 13）：fidelity 在 4 个指标上均值最好，但 AUROC 仅 0.666±0.187，FPR95 达 0.719±0.343，且各方向差异大。
• 删除忠实度（Figure 4、附录 E.3）：按 fidelity 排序逐步删除片段，Epilepsy 上 fidelity 的删除 AUC 最低（0.804），HAR 上 GradientSHAP 领先（0.411 对 fidelity 0.418）；两者都优于随机删除。作者称 TimeX、TimeX++ 在解释概念瓶颈分类器时无法优于随机。
• 选择性预测（Table 14）：Epilepsy 上 fidelity 的 E-AURC（0.01032）优于所有 TOTEM/VQShape 分数，但 ConceptTime 自身的 max softmax 更低（0.00117）。

其他消融与分析

• 签名族（Table 3）：HAR 上预测矩单独达 87.7%，比原始形态高 45.0 点；Epilepsy 上分布特征最强（97.2%），残差感知签名整体最高（98.0%）；Sleep-EDF 上全部 4 族组合最好（78.3%）。
• 词汇量（Table 3）：M=128 在 3 个数据集上均最高；M=32 时与各数据集最佳值差距在 2.2 个百分点内，作者因此默认 M=32。
• 边界信号（Table 3）：entropy、KL、surprise 之间差异不超过 1.8 个百分点；作者默认用 surprise。
• 无标签数据规模（Table 8）：Epilepsy 1% 标签下，无标签比例从 1% 到 100% 准确率升 1.72 点，50% 到 100% 仅升 0.03 点。
• 密度模型规模（Table 9）：Tiny（约 11 万参数）在两个数据集上均值最高，但作者称与 Default 的差距相对种子波动较小，相对优劣不确定。
• 匹配标签对照（Table 10）：标签与无标签数据访问对齐后，MiniRocket 在 HAR 两个预算下领先；Epilepsy 上 CT-FullU 在 1% 标签最高、CT-LabelOnly 在 5% 最高。

作者指出的局限与后续方向

• 词汇量需预先固定（Conclusion, Limitations and Future Work）。
• 每个学到的原型的含义依赖训练后的人工解读（Conclusion, Limitations and Future Work）。
• 层次化词汇可捕捉不同粒度的模式（Conclusion，后续方向）。
• 在线更新可帮助词汇随信号模式变化而适配（Conclusion，后续方向）。
• 低 fidelity 片段可指导主动重标注，识别需人工复核的样本（Conclusion，后续方向）。
• 作者计划探索这些概念能否帮助发现运行工况、定位异常、支持可检查的决策（Conclusion）。

实验覆盖范围

• 被测基准为 UCI-HAR、Epilepsy、Sleep-EDF、UEA 10 数据集与 FD 4 工况，共 17 个基准（Section 4.1）；主结果为 3 个种子的均值（附录 Table 7 给出标准差）。
• OOD 检测的合成扰动实验在 HAR 上做（高斯噪声与 shuffle，Figure 3）；真实分布偏移检测在 FD 12 个有向工况对上做，fidelity 平均 AUROC 0.666、FPR95 0.719（Table 13）。
• 删除忠实度在 Epilepsy 和 HAR 两个数据集上评测（Figure 4）；选择性预测（AURC/E-AURC）只在 Epilepsy 上评测（Table 14）。
• 无标签数据规模扫描只在 Epilepsy 上进行，作者说明原因是 UCI-HAR 的初步扫描只覆盖一个种子（附录 C.2）。
• 跨域迁移实验使用 FD 的 4 个工况、12 个有向对，少样本设置为 5% 目标标签（Table 2、附录 D）。

一篇时间序列可解释分类的方法论文：作者针对风险敏感领域中准确、可解释、可拒判难以兼得的问题，提出概念瓶颈框架 ConceptTime。

• 问题：作者认为时间序列概念瓶颈存在分段与概念定义相互依赖的循环，以往方法靠固定窗口或专家标注词汇绕开，各自牺牲三性质之一。
• 方法：冻结的自回归高斯密度模型（ARGDM）预测每步观测分布，predictive surprise 经长度约束动态规划定位片段边界；片段由预测矩、残差形态、surprise 轨迹构成的签名刻画，GMM 聚类为概念原型；轻量分类器在概念张量上训练，原型距离即内置 fidelity 分数，全程无需人工标注或语言模型。
• 分类结果：17 个基准上作者称其优于所有可解释基线；Epilepsy 全标签 98.39%（高于表中所有黑盒方法），1% 标签 97.91%（高于所有黑盒基线，Table 1）；HAR 与 Sleep-EDF 全标签下落后最佳黑盒基线若干点。
• 迁移结果：FD 12 个有向工况对上，目标域训练密度模型加 5% 目标标签平均 94.37%，高于 TSLANet 的 90.76%（Table 2）。
• 拒判与忠实度：fidelity 在 HAR 合成扰动 OOD 检测上 AUROC 最高 0.992，优于 softmax 与 TOTEM/VQShape 原型距离；删除忠实度在 Epilepsy 上最优（AUC 0.804）、HAR 上次于 GradientSHAP；但 FD 真实工况偏移检测平均 AUROC 仅 0.666。
• 作者结论：作者认为把概念锚定在 predictive surprise 而非人工标注上，可解释性、标签效率与可靠拒判可以共同涌现；局限在于词汇量需预设、原型含义依赖事后人工解读。