Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 14 papers Another 247 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Using fear activation steering to test the hazard judgment criteria of vision-language models
Published Oct 8
Evaluated models Qwen/Qwen2.5-VL-7B-Instruct 提出基于决策前隐藏状态的检测与引导，预测并抑制智能体欺骗
Published Oct 5
Evaluated models Qwen3-14B Abstract 论文展示了智能体自发欺骗可在行为显现前由内部表征预测，并通过激活引导证实了表征的行为可操作性。
提出 Spatial-SAE，用空间依赖先验改进视觉概念分解
Published Oct 3 Abstract Spatial-SAE 用空间 Markov 先验替换 patch 独立先验，换取更对齐的视觉概念。Spatial-SAE 针对视觉 SAE 的概念碎片化：tokenwise 目标在 LRH 之外把各 patch 的码当成独立，而作者报告冻结视觉 Transformer 的激活仍保留邻域可预测性。
提出 DiDAE，对冻结视觉基础模型做无梯度解耦反事实解释
Published Oct 1
Evaluated models ResNet-18 , DINOv3 ViT-L/16 Abstract DiDAE 用无梯度字典编辑生成解耦反事实，并用于修正与排序。DiDAE 用冻结视觉基础模型和一个解耦字典，生成按分量编辑的视觉反事实，再拿去修正依赖伪相关的分类器，或给字典原子按“是否真能翻转该分类器”排序。
检验视觉 SAE 的可解释性，对照人类判断比较 AIS 与标准指标
Published Sep 28
Evaluated models Vanilla SAE , TopK SAE , MP-SAE Abstract 视觉 SAE 重构很好，但 AIS、MS 与字典指标互不对齐，单一代理不足以核验 LRH。这篇工作把 NLP 的 AIS 改到视觉 SAE，用来检查 LRH 的结构代理是否等于人类可解释性。 。
提出 FLIP 末层推理时探针，检验视觉语言模型干预效应的来源
Published Sep 25
Evaluated models Qwen3-VL-4B-Instruct , Qwen3-VL-8B , Kimi-VL-A3B Abstract 末层 flooring 扫描在四准则下通过，原始层和左右对照没有同一正向区间。FLIP 是开源 VLM 上的推理时末层探针，用来检验干预效应是否结构化、与任务相连，而不是用来转向模型。 。
提出有守卫最小步激活引导，只在关机语境把继续偏好转向接受关机
Published Sep 24
Evaluated models Qwen3.5-0.8B 提出 ResLRP，抑制视觉 Transformer 残差抵消引起的归因不稳定
Published Sep 15
Evaluated models ViT-B/16 , ViT-L/14 , ViT-H/14 and others11 Abstract ResLRP 用残差 γ 规则限制 ViT 相关性爆炸，VLM 上忠实性与定位提升最大。Berend 等人针对 ViT 上 LRP 热图嘈杂、不忠实的问题，把原因放在残差加法而不是注意力规则：前向抵消留下很小的 zout，标准 LRP 用它作分母，放大成不稳定的正负相关性。
提出 MonoTM，用 SAE 单义特征估计文档主题混合并生成主题描述
Published Sep 9 Abstract MonoTM 分开估计混合与解释主题，三套基准上二者偏好的 SAE 配置不同。MonoTM 是建在文档嵌入 SAE 上的可解释主题模型：混合估计用全部 SAE 特征，主题描述只用另一套配置里通过验证的语义特征。
用 SAE 追踪稠密检索查询扩展的潜变量并用激活转向验证
Published Sep 7
Evaluated models Qwen3-Embedding-0.6B（Qwen-Embed） , SimLM Abstract SAE 追踪稠密检索 QE 的潜变量，转向在四基准上比文本扩展更稳。作者用稀疏自编码器分析稠密检索里的查询扩展：现成检索器不微调时，拼接扩展文本往往增益有限甚至变差，而最终指标和嵌入整体偏移不足以说明内部发生了什么。
检验个体身份训练的视觉表示是否线性编码生物概念
Published Sep 5
Evaluated models DINOv3-Base ViT（gorilla Re-ID fine-tuned，triplet-margin loss） Abstract metric learning 的大猩猩 Re-ID 表示沿 sex、age 形成可转向的线性轴，微调只重排其位置。这篇工作检查只做个体匹配的动物 Re-ID 表示里，有没有可审计的生物学结构。 。
提出 Capsule Lens，用胶囊近似并追踪表示空间的概念几何
Published Sep 4
Evaluated models CLIP ViT-B/32 , CLIP ViT-L/14 , Qwen2-VL-2B and others6 Abstract 胶囊闭式拟合概念区域。Capsule Lens 用一个可闭式拟合、可跨 checkpoint 比较的胶囊，定位概念在表示空间中的区域并跟踪训练引起的漂移。
在写入点定位拒答方向，经刚性旋转跨架构迁移并门控放大
Published Sep 4
Evaluated models Falcon-Mamba-7B , Falcon3-Mamba-7B , Llama-3.1-8B and others8 Abstract 拒答方向可经刚性旋转跨架构迁移，但必须在各架构的写入点读取。作者研究拒答表示是否随架构改变，结论是表示共享、读取位置随架构变。
提出 VisER，用内部视觉证据检测 LVLM 物体幻觉
Published Aug 31
Evaluated models LLaVA-1.5-7B , LLaVA-NeXT-7B , InstructBLIP and others8 Abstract VisER 用证据门与图像–前缀比给物体提及打落地分。VisER 是面向 LVLM 开放式图像描述的免训练物体级幻觉检测分数，用来处理内部支持的来源混淆。
You have reached the end