SCIB：基于条件信息瓶颈的脉冲神经网络鲁棒表征学习

1. 01这篇论文试图解决什么问题？

   作者认为标准 SNN 会留下标签条件下的输入信息，故用条件信息瓶颈做鲁棒训练。

   标准训练的 SNN 在标签预测信息趋稳后仍保留大量输入相关表示，部署时易受环境噪声、硬件噪声和对抗扰动影响。

   • 场景：作者认为 SNN 以离散脉冲做事件驱动计算，可部署于 Intel Loihi、IBM TrueNorth、Tianjic。环境噪声、器件非理想因素和替代梯度对抗攻击会扰动脉冲时序、膜电位或输入脉冲模式。
   • 现有不足：作者按扰动源归纳编码优化、构造噪声、频域编码、随机神经元/突触，以及谱/梯度正则和对抗训练。作者认为它们常绑定特定噪声或攻击，对抗训练还依赖攻击样本和内层优化。
   • 观察：Figure 1 的信息平面上，标准 SNN 在 I(S;Y) 相对稳定后，I(X;S) 仍处高信息区或缓慢上升。在 Y↔X↔S 下，I(X;S)=I(S;Y)+I(X;S|Y)，直接惩罚 I(X;S) 可能连判别信息一起压掉。
   • 提出：作者提出 SCIB，以条件互信息 I(X;S|Y) 为压缩目标，并用可学习类条件先验，作为不改架构和神经元动力学的目标级正则。
   • 威胁模型：
     • 评测目标：三类异构扰动下的图像分类准确率。对抗鲁棒性被作者视为表示正则的附带结果，训练不用对抗样本。
     • 知识：对抗实验用替代梯度与 BPTT 近似不可微脉冲。论文未使用 white-box 或 black-box 这些说法。
     • 可施加的扰动：环境噪声加在像素；硬件噪声加在突触更新或膜电位；对抗扰动限于 L∞，ε∈{4/255, 8/255}，方法为 FGSM、PGD、BIM。
     • 受害系统：替代梯度直接训练的 SNN 分类器，骨干为 VGG-9 LIF，默认时间步 T=4。

   收起这一问

2. 02有哪些相关研究？

   作者将 SCIB 区别于特定扰动防御和直接压缩 I(X;S) 的常规 IB。

   SNN 鲁棒性与训练

   • 训练路线：作者列举 ANN-to-SNN 转换、基于膜电位的学习，以及替代梯度直接训练（Wu 等，2019；Neftci 等，2019）。作者称替代梯度已成为深 SNN 的主要训练方式，但其可微近似也使网络易受梯度对抗攻击。
   • 按扰动源的方法：离散输入编码被报告有部分内在鲁棒性（Sharmin 等，2020）；HIRE-SNN 用构造输入噪声（Kundu 等，2021）；FEEL-SNN 用频率编码和可进化漏电因子（Xu 等，2024）。硬件侧包括随机门控、随机异质神经元和动态突触噪声。对抗侧包括 SNN-RAT 的 Parseval 正则与混合对抗训练，以及稀疏梯度方法。
   • 作者的分组批评：作者认为这些方法多绑定特定扰动模型、攻击过程或结构修改，因而还有表示级学习目标的空间。这是作者对这一组工作的看法，不是被引论文自己的结论。

   深度网络中的信息瓶颈

   • IB 与变分实现：Tishby 等（2000；2015）用 I(S;Y)−β I(X;S) 描述最小充分表示。VIB（Alemi 等，2016）用变分推断使高维网络可优化。作者还列举非线性 IB、监督 IB、信息瓶颈蒸馏和门控 IB，作为向泛化、对抗鲁棒、蒸馏和序列决策的扩展。
   • 条件形式：Conditional Entropy Bottleneck（Fischer，2020）用 I(Z;X|Y) 形式化监督压缩。Tang 与 Yu（2025）用变分 IB 和条件互信息，从两条相依序列抽取共享表示。
   • 信息平面：Shwartz-Ziv 与 Tishby（2017）、Geiger（2021）等被作者用作观察 I(X;S) 与 I(S;Y) 训练轨迹的经验工具。

   脉冲域中的 IB

   • SNIB（Yang 与 Chen，2023）：把非线性信息瓶颈正则用于脉冲学习，约束输入与表示的依赖，并报告可提高 SNN 鲁棒性。本文噪声基线中的 SIB、QIB 是该框架的平方与四次变体。
   • SeLHIB（Yang 等，2024）：把高阶信息瓶颈用于自监督事件光流。作者称这两类工作主要沿用常规压缩形式，尚未系统处理脉冲表示中的条件冗余和类结构变分先验。

   基线与数据集

   • 噪声对照：w.o. IB、IB（先验为 N(0,I)）、NBP-SNN、SIB、QIB；数据集为 Fashion-MNIST、CIFAR-10、CIFAR-100。
   • 对抗对照：Vanilla SNN、FEEL-SNN；数据集为 CIFAR-10、CIFAR-100。

   作者把 SCIB 放在不改架构、不依赖特定噪声模型的目标级正则上：压缩对象从 I(X;S) 改为 I(X;S|Y)，并用可学习类条件先验代替与标签无关的各向同性高斯。

   收起这一问

3. 03论文如何解决这个问题？

   SCIB 用交叉熵保住预测信息，用类条件高斯上的 KL 上界压缩 I(X;S|Y)。

   SCIB 不改 SNN 结构和 LIF 动力学，只在替代梯度训练中加入条件压缩：交叉熵保留标签预测信息，KL 项压缩给定标签后仍残留的输入信息。

   问题设定

   • 马尔可夫链：训练时 Y↔X↔S，S 由 X 生成，推理时不再读取 Y，因而 I(S;Y|X)=0。链式法则写成 I(X;S)=I(S;Y)+I(X;S|Y)。
   • 最小充分表示：作者要求 I(S*;Y)=I(X;Y)，并在充分表示中最小化残留输入信息。当 I(X;S*|Y)=0 时，I(X;S*)=I(X;Y)。
   • 两点限制：直接惩罚 I(X;S) 不区分预测项和标签条件下的冗余；标准 VIB 常用 N(0,I)，把各类后验拉向同一锚点。Figure 2 把 SCIB 的压缩对象画成条件化之后的残留项。
   • 编码器：基本单元为 LIF，V_t=τ V_{t-1}+W·S_{t-1}，S_t=H(V_t−V_th)。T 步积分得到随机编码分布 p_θ(s|x)。

   目标与变分界

   • 信息目标：最大化 𝒥_SCIB=max I(S;Y)−β· I(X;S|Y)。β 控制条件压缩强度。
   • 压缩上界：由 p_θ(s|x,y)=p_θ(s|x)，条件互信息写成后验对真实 p(s|y) 的 KL 期望。p(s|y) 不可得，故用变分先验 r_φ(s|y) 得到可算上界；作者称 r_φ=p 时界紧。
   • 预测下界：分类器 q_ψ(y|s) 近似 p(y|s)。数据集标签熵在训练中为常数，最大化该下界等价于最小化交叉熵。
   • 代理损失：最小化 ℒ_SCIB=ℒ_CE+β𝔼[D_KL(p_θ(s|x)|r_ϕ(s|y))]。

   可学习类条件先验

   • 参数化：K 类各有均值 μ_k 与对角方差 σ_k²，r_φ(s|y=k)=N(s; μ_k, diag(σ_k²))。对标签边缘化后，作者将其解释为高斯混合。
   • 后验与 KL：编码器给出 μ_x、σ_x²，经重参数化采样。两边都是对角高斯，KL 有闭式，不靠高方差蒙特卡洛。
   • 作者给出的作用：把样本后验拉向该类中心并约束方差；不同类有独立锚点，再与交叉熵一起维持类间可分。

   优化与推理

   • 流程：Figure 3 与 Algorithm 1 为输入经 T 步编码、训练时用标签索引先验、交叉熵与 KL 相加后 BPTT。θ、ψ、φ 联合更新。
   • 默认设置：SGD，动量 0.9，初始学习率 0.1，余弦退火，批大小 128。β 默认 0.4；硬件噪声实验用 0.2。先验初始化为均值 ~ N(0, 0.01I)、对数方差 ~ N(0, 0.01I)。
   • 推理：类条件先验不参与，预测走标准前向 SNN。

   收起这一问

4. 04论文做了哪些实验？

   作者称 SCIB 在多数噪声和所评迭代攻击上准确率更高，且未做对抗训练。

   实验设置

   • 实现：PyTorch 1.12、Python 3.9、Ubuntu 20.04、NVIDIA A100。SGD 动量 0.9，初始学习率 0.1，余弦退火，批大小 128。
   • 网络与数据：骨干为 VGG-9 SNN，7 个 Conv+BN+LIF 加 1 个全连接，LIF，默认 T=4；对抗实验另测 T=8。数据集为 Fashion-MNIST、CIFAR-10、CIFAR-100。论文未写样本量。
   • 对照：噪声组为 w.o. IB、IB（先验 N(0,I)）、NBP-SNN、SIB、QIB。对抗组为 Vanilla SNN 与 FEEL-SNN；后者 T=4 时 r=[16, 14, 12, 10]，T=8 时再加 8、6、4、2。
   • 扰动：外部噪声为椒盐、高斯、Rayleigh，各两档 NNI。硬件噪声为突触权重噪声和膜电位噪声，NNI=1 与 5，该组 β=0.2。对抗为 L∞ 下 FGSM、PGD、BIM，ε∈{4/255, 8/255}；PGD/BIM 步长 0.01、7 步。
   • 指标：分类准确率。能耗为 SynOps 解析代理，采用 45 nm 估计，MAC 4.6 pJ、AC 0.9 pJ，只计运算能耗。无 LLM 评审，无人工一致性。论文未报告重复次数或统计检验。
   • SCIB：默认 β=0.4，训练不使用对抗样本。

   主结果

   对抗主表只覆盖 CIFAR-10、T=4。准确率（%），据 Table 2。

   表格较宽，可左右滑动

   方法	Clean	FGSM ε=4/255	PGD ε=4/255	BIM ε=4/255	PGD ε=8/255
   Vanilla SNN	92.94	19.63	0.78	0.67	0.02
   FEEL-SNN	88.07	39.17	21.33	21.10	1.73
   SCIB	89.69	52.08	47.58	47.73	26.65

   • 作者称 CIFAR-10、T=4 上，相对 Vanilla 的 PGD/BIM（ε=4/255）高出 46.80 与 47.06 个百分点，相对 FEEL-SNN 高出 26.25 与 26.63 个百分点；ε=8/255 时相对 FEEL-SNN 为 24.92 与 24.66 个百分点（第 5.4 节）。
   • 作者称这些数字是表示正则的附带增益，不应据此认为 SCIB 压过专用对抗训练防御。SCIB 训练未使用对抗样本。
   • 例外：CIFAR-100、T=4、ε=4/255 的 FGSM 上，FEEL-SNN 为 19.51%，SCIB 为 14.08%（Table 2）。Table 2 各 Clean 格中 Vanilla 都高于同格 SCIB。

   外部噪声

   • 椒盐：NNI=0.3 时 SCIB 在三个数据集均为该行最高，CIFAR-100 为 58.40%；作者称比 SIB 高 0.91 个百分点（Table 1）。NNI=0.1 的 CIFAR-100 上 SIB 63.27%、QIB 62.92%、SCIB 62.91%。
   • 高斯：NNI=1.0 时 SCIB 在三集均为该行最高，Fashion-MNIST 89.86%、CIFAR-10 81.78%、CIFAR-100 51.32%。NNI=0.25 的 CIFAR-10 上 IB 88.52%，高于 SCIB 的 88.44%。
   • Rayleigh：作者称 CIFAR-10 与 CIFAR-100 的四档中 SCIB 最高。NNI=1.0 的 CIFAR-100 上 SCIB 46.60%，无约束基线 45.91%，IB 45.39%；作者称 IB 比无约束基线低 0.52 个百分点。Fashion-MNIST、NNI=1.0 上 IB 85.07% 高于 SCIB 84.99%。作者把 CIFAR 上的对比解读为类条件先验比与标签无关的标准高斯更适合该非对称噪声。

   硬件噪声与能耗

   • 膜电位噪声：正文给出 CIFAR-10 上 NNI=1 时 SCIB 88.18%、IB 88.20%；NNI=5 时 IB 由 88.20% 到 64.08%，SCIB 为 64.45%（第 5.3 节）。作者称 CIFAR-100 两档均为最高，但未给出这两档准确率。Figure 4 为训练曲线，正文未列全部终点。
   • 突触噪声：作者称多数配置为最高或接近最高。CIFAR-100、NNI=5 时 SCIB 为 62.98%，作者称约高于第二名 0.9 个百分点；论文未给出第二名数值（第 5.3 节，Figure 5）。
   • 能耗：CIFAR-10 单样本 SynOps 代理为 ANN 9.02×10^8 pJ、w.o. IB 5.31×10^8 pJ、IB 6.11×10^8 pJ、SIB 4.10×10^8 pJ、SCIB 3.99×10^8 pJ（第 5.5 节）。作者称相对 ANN 约降 55.8%，相对 w.o. IB 降 24.9%。Table 3 中 Conv#6、Conv#7 发放率为 2.4516、2.6551。

   其他消融与分析

   • 信息平面只比较标准 SNN 与常规 IB，数据为 Fashion-MNIST、CIFAR-10；作者称标准 SNN 未见压缩相，常规 IB 中后期 I(X;S) 下降而 I(S;Y) 保持较高（第 3 节，Figure 1）。正文无轨迹终点数值。
   • 先验可视化在 Fashion-MNIST：作者称 Epoch 0 均值约在 ±0.5 内、椭圆重叠，Epoch 80 后在 PCA 中分开，Epoch 120 更紧；Epoch 0 非对角 KL < 0.5 nats（Figure 7）。上衣类、鞋类的近邻关系是作者对图的解读，文本无投影坐标。
   • β 扫描只在 CIFAR-10、VGG-9：高斯 NNI 为 0.25、0.50、0.75、1.00，膜电位 NNI 为 2、4、6、8，β 为 0.2、0.4、0.6、0.8、1.0。作者称高斯噪声下对 β 不敏感，膜电位噪声下准确率随 β 增大单调下降（Figure 8）。正文无各格准确率。
   • 硬件噪声曲线训练 200 epoch，图只画前 150 epoch（第 5.3 节）。
   • T=8、CIFAR-10、ε=4/255：SCIB 的 PGD/BIM 为 44.88%/45.10%，FEEL-SNN 为 17.67%/17.71%，Vanilla 为 0.56%/0.52%（Table 2）。
   • T=8、CIFAR-100 的 Clean：FEEL-SNN 61.68%，SCIB 61.53%；同设置 ε=8/255 的 PGD/BIM，SCIB 为 7.55%/7.18%，Vanilla 为 0.02%/0.00%（Table 2）。

   收起这一问

5. 05有什么可以进一步探索的点？

   作者写明未针对对抗样本优化，并计划做层次先验与芯片验证。

   作者指出的局限与后续方向

   • 未针对对抗样本优化：作者写明因此在某些单步攻击下，鲁棒性可能仍有限（第 6 节）。
   • 先验形式：当前为每类一个独立高斯分量，作者认为类别很多、粒度很细的数据集可能需要更谨慎的设计（第 6 节）。
   • 层次与样本效率：作者计划探索更省样本和层次化的先验结构（第 6 节）。
   • 与对抗训练结合：作者计划研究 SCIB 与对抗训练的互补组合（第 6 节）。
   • 硬件验证：作者计划在物理神经形态硬件上验证该框架（第 6 节）。

   实验覆盖范围

   • 分类与噪声实验使用 VGG-9 SNN、LIF、默认 T=4，数据集为 Fashion-MNIST、CIFAR-10、CIFAR-100（第 5.1 节）。
   • 噪声对照为 w.o. IB、IB、NBP-SNN、SIB、QIB；对抗对照为 Vanilla SNN 与 FEEL-SNN，且只在 CIFAR-10、CIFAR-100 的 T=4 与 T=8 上报（Table 1、Table 2）。
   • 对抗设置为 L∞、FGSM/PGD/BIM、ε∈{4/255, 8/255}，PGD/BIM 步长 0.01、7 步；SCIB 训练不用对抗样本（第 5.1、5.4 节）。
   • 能耗数字来自 45 nm MAC/AC 的 SynOps 解析模型，只计运算能耗（第 5.5 节）。论文未报告重复次数、方差或统计检验。
   • 信息平面为 Fashion-MNIST 与 CIFAR-10 上的标准 SNN 和常规 IB；先验可视化在 Fashion-MNIST；β 扫描在 CIFAR-10（第 3、5.6 节）。

   收起这一问

6. 06总结一下论文的主要内容

   SCIB 用类条件先验上的条件互信息上界正则 SNN，作者称多数扰动下更鲁棒且更省脉冲。

   SCIB 是加在 SNN 训练目标上的条件信息瓶颈，用来应对环境噪声、硬件噪声和梯度对抗扰动，而不改 LIF 与网络结构。

   • 问题：作者认为标准 SNN 在标签信息趋稳后仍保留大量输入相关信息；在 Y↔X↔S 下，直接压 I(X;S) 会把预测项和标签条件下的残留项一起压掉。常规各向同性高斯先验也不区分类别。
   • 做法：理想目标是最大化 I(S;Y)−β I(X;S|Y)。实现为交叉熵加上编码器后验到可学习类条件高斯先验的闭式 KL。标签只在训练时索引先验，推理走普通前向。默认 β=0.4，硬件噪声实验用 0.2。
   • 外部噪声：Table 1 共 18 个配置。作者称多数情况下 SCIB 高于无 IB 和 IB 类基线。表中不是该行最高的包括：椒盐 NNI=0.1 的 CIFAR-100（SCIB 62.91%，SIB 63.27%），高斯 NNI=0.25 的 CIFAR-10（IB 88.52%，SCIB 88.44%），以及 Rayleigh NNI=1.0 的 Fashion-MNIST（IB 85.07%，SCIB 84.99%）。
   • 对抗：CIFAR-10、T=4、ε=4/255，SCIB 的 PGD/BIM 为 47.58%/47.73%，Vanilla 为 0.78%/0.67%（Table 2）。作者称训练未用对抗样本，不能把这看成压过专用对抗训练的证据。CIFAR-100、T=4、ε=4/255 的 FGSM 上，FEEL-SNN 19.51% 高于 SCIB 14.08%。各 Clean 格中 Vanilla 高于 SCIB。
   • 能耗：CIFAR-10 的单样本 SynOps 代理，SCIB 为 3.99×10^8 pJ，w.o. IB 为 5.31×10^8 pJ。作者称相对无约束 SNN 降低 24.9%，相对 ANN 约降低 55.8%。
   • 作者的结论：条件压缩可在所评设置中同时提高鲁棒性并降低脉冲活动。作者同时写明，单步攻击下仍可能有限，细粒度多类的独立高斯先验需要再设计，物理芯片验证留作后续。

   收起这一问

相关论文