AlignmentResearch 发布 FIBS 探针推理代码
feat: initial import of the FIBS probe inference code
AI 导读
AlignmentResearch 发布了 FIBS 探针推理代码,支持 linear、MLP、EFC 和 axial 四种激活探针架构,可从本地目录或 Hugging Face Hub 加载已训练探针,对转录的残差流激活打分。已发布权重位于 AlignmentResearch/probe-inference-weights,覆盖 qwen3.5-2b 至 397b-a17b、Nemotron-3 Nano/Super/Ultra 和 Kimi K3 等模型,共 36 个探针。探针在 FIBSv1 数据集上训练,含 152,980 条训练行和 5,000 条验证行,代码与权重均以 MIT 许可发布。
推荐理由
该仓库开源了四种激活探针的推理代码与已发布权重,可复现地对 Qwen、Nemotron 等模型的残差流激活打分。
阅读原文