Translation in progress Some entries still include text in the original language.
Oct 13 · Tuesday
All papers Found 14 papers Another 213 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
提出路由 TopK SAE，把语音编码器稀疏码拆成语言与副语言通路
Published Oct 8
Evaluated models SPEAR XLarge , WavLM Large Abstract 路由 SAE 在冻结 SPEAR 与 WavLM 上分开语言和副语言因子，探针与交换支持通路分工。TopK SAE 的稀疏码被分成语言通路与副语言通路，用来分开冻结语音编码器里同时存在的音素信息和说话人、情感、韵律。只重构不能得到作者选定的这一分解。语言通路由音素识别监督，副语言通路由说话人识别、情感分类和韵律预测监督，作用在对方通路上的梯度反转对抗用来压低交叉因子。
用均值差激活转向检验全双工语音模型的情感方向几何
Published Oct 6
Evaluated models kyutai/moshika-pytorch-q8 Abstract 转向跟方向几何走而不跟标签走：sad 可单独对准，高唤醒情感共享方向。Moshi 上的情感激活转向跟方向之间的几何关系走，不跟被请求的标签走。
提出 Spatial-SAE，用空间依赖先验改进视觉概念分解
Published Oct 3 Abstract Spatial-SAE 用空间 Markov 先验替换 patch 独立先验，换取更对齐的视觉概念。Spatial-SAE 针对视觉 SAE 的概念碎片化：tokenwise 目标在 LRH 之外把各 patch 的码当成独立，而作者报告冻结视觉 Transformer 的激活仍保留邻域可预测性。
提出多 SAE 对齐方法，从音乐模型表征中发现和弦与调性轨道
Published Oct 1
Evaluated models MuQ , MusicFM Abstract 用移调对齐的多 SAE 恢复和弦、调与旋律轨道，并用少量锚点做下游音乐理解。作者提出一套面向音乐基础模型的结构可解释性框架：不把 SAE 特征当作孤立概念，而用半音移调把它们连成有序轨道。
提出 DiDAE，对冻结视觉基础模型做无梯度解耦反事实解释
Published Oct 1
Evaluated models ResNet-18 , DINOv3 ViT-L/16 Abstract DiDAE 用无梯度字典编辑生成解耦反事实，并用于修正与排序。DiDAE 用冻结视觉基础模型和一个解耦字典，生成按分量编辑的视觉反事实，再拿去修正依赖伪相关的分类器，或给字典原子按“是否真能翻转该分类器”排序。
检验视觉 SAE 的可解释性，对照人类判断比较 AIS 与标准指标
Published Sep 28
Evaluated models Vanilla SAE , TopK SAE , MP-SAE Abstract 视觉 SAE 重构很好，但 AIS、MS 与字典指标互不对齐，单一代理不足以核验 LRH。这篇工作把 NLP 的 AIS 改到视觉 SAE，用来检查 LRH 的结构代理是否等于人类可解释性。 。
用激活交换分析音频语言模型的事件时间绑定
Published Sep 28
Evaluated models AF-Next , MOSS-Audio , Qwen3-Omni Abstract 事件名表示在中间层编码相对时间，可改先后判断，但不能稳定改 onset。这项工作用机制干预检查三个开源 LALM 如何把时间位置绑到声音事件。
用 SAE 分析神经音频编解码器如何编码年龄、性别与口音
Published Sep 28
Evaluated models EnCodec (24 kHz, 6 kbps) , DAC , SpeechTokenizer and others5 Abstract SAE steering 被用作探测 NAC 说话人属性编码的代理。作者用 SAE steering 探测 NAC 表示如何编码说话人属性，目标是可解释性，不是属性转换。
提出 FLIP 末层推理时探针，检验视觉语言模型干预效应的来源
Published Sep 25
Evaluated models Qwen3-VL-4B-Instruct , Qwen3-VL-8B , Kimi-VL-A3B Abstract 末层 flooring 扫描在四准则下通过，原始层和左右对照没有同一正向区间。FLIP 是开源 VLM 上的推理时末层探针，用来检验干预效应是否结构化、与任务相连，而不是用来转向模型。 。
提出 TAME，在强化学习中抑制模板激活以缓解思维链混淆
Published Sep 21
Evaluated models Qwen3-VL-8B , Gemma-3-12B-it 提出 ResLRP，抑制视觉 Transformer 残差抵消引起的归因不稳定
Published Sep 15
Evaluated models ViT-B/16 , ViT-L/14 , ViT-H/14 and others11 Abstract ResLRP 用残差 γ 规则限制 ViT 相关性爆炸，VLM 上忠实性与定位提升最大。Berend 等人针对 ViT 上 LRP 热图嘈杂、不忠实的问题，把原因放在残差加法而不是注意力规则：前向抵消留下很小的 zout，标准 LRP 用它作分母，放大成不稳定的正负相关性。
检验个体身份训练的视觉表示是否线性编码生物概念
Published Sep 5
Evaluated models DINOv3-Base ViT（gorilla Re-ID fine-tuned，triplet-margin loss） Abstract metric learning 的大猩猩 Re-ID 表示沿 sex、age 形成可转向的线性轴，微调只重排其位置。这篇工作检查只做个体匹配的动物 Re-ID 表示里，有没有可审计的生物学结构。 。
提出 Capsule Lens，用胶囊近似并追踪表示空间的概念几何
Published Sep 4
Evaluated models CLIP ViT-B/32 , CLIP ViT-L/14 , Qwen2-VL-2B and others6 Abstract 胶囊闭式拟合概念区域。Capsule Lens 用一个可闭式拟合、可跨 checkpoint 比较的胶囊，定位概念在表示空间中的区域并跟踪训练引起的漂移。
提出 VisER，用内部视觉证据检测 LVLM 物体幻觉
Published Aug 31
Evaluated models LLaVA-1.5-7B , LLaVA-NeXT-7B , InstructBLIP and others8 Abstract VisER 用证据门与图像–前缀比给物体提及打落地分。VisER 是面向 LVLM 开放式图像描述的免训练物体级幻觉检测分数，用来处理内部支持的来源混淆。
You have reached the end