Translation in progress Some entries still include text in the original language.
Oct 13 · Tuesday
All papers Found 18 papers Another 201 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Uses premise permutation and hidden-layer tracing to audit whether legal chain-of-thought truly relies on the cited legal provisions.
Published Oct 9
Evaluated models Qwen3-8B , Qwen3-14B , Llama-3.1-8B and others7 Abstract Using counterfactual substitution of authorities and internal commitment tracing, the authors find that legal CoT rulings depend on authorities only to a limited extent and are vulnerable to prompt injection manipulation.This study conducts an empirical audit of the causal truthfulness of legal citations in chain-of-thought reasoning of large language models in the legal domain.
Using fear activation steering to test the hazard judgment criteria of vision-language models
Published Oct 8
Evaluated models Qwen/Qwen2.5-VL-7B-Instruct 提出 U-SPACE 与 U-LENS，从残差流估计推理轨迹不确定性
Published Oct 7
Evaluated models Gemma-4-31B-it , Qwen3.5-27B , Magistral-Small-2507 Abstract U-SPACE 与 U-LENS 用语义方向和预测熵读推理不确定性，长度控制后仍高于所比基线。U-SPACE 与 U-LENS 是面向推理模型的无训练读出：用语义方向定位不确定性的形式，并用一个轨迹分数区分更可能错的回答。
提出 Spatial-SAE，用空间依赖先验改进视觉概念分解
Published Oct 3 Abstract Spatial-SAE 用空间 Markov 先验替换 patch 独立先验，换取更对齐的视觉概念。Spatial-SAE 针对视觉 SAE 的概念碎片化：tokenwise 目标在 LRH 之外把各 patch 的码当成独立，而作者报告冻结视觉 Transformer 的激活仍保留邻域可预测性。
提出 DiDAE，对冻结视觉基础模型做无梯度解耦反事实解释
Published Oct 1
Evaluated models ResNet-18 , DINOv3 ViT-L/16 Abstract DiDAE 用无梯度字典编辑生成解耦反事实，并用于修正与排序。DiDAE 用冻结视觉基础模型和一个解耦字典，生成按分量编辑的视觉反事实，再拿去修正依赖伪相关的分类器，或给字典原子按“是否真能翻转该分类器”排序。
提出 CIA 指标衡量并改进思维链与内部计算的一致性
Published Sep 30
Evaluated models Llama3.1-8B-Instruct , Gemma2-9B-it , Qwen3-8B and others5 Abstract 用 CIA 度量并以后训练拉齐 CoT 与内部策略。
检验视觉 SAE 的可解释性，对照人类判断比较 AIS 与标准指标
Published Sep 28
Evaluated models Vanilla SAE , TopK SAE , MP-SAE Abstract 视觉 SAE 重构很好，但 AIS、MS 与字典指标互不对齐，单一代理不足以核验 LRH。这篇工作把 NLP 的 AIS 改到视觉 SAE，用来检查 LRH 的结构代理是否等于人类可解释性。 。
提出 FLIP 末层推理时探针，检验视觉语言模型干预效应的来源
Published Sep 25
Evaluated models Qwen3-VL-4B-Instruct , Qwen3-VL-8B , Kimi-VL-A3B Abstract 末层 flooring 扫描在四准则下通过，原始层和左右对照没有同一正向区间。FLIP 是开源 VLM 上的推理时末层探针，用来检验干预效应是否结构化、与任务相连，而不是用来转向模型。 。
提出 TAME，在强化学习中抑制模板激活以缓解思维链混淆
Published Sep 21
Evaluated models Qwen3-VL-8B , Gemma-3-12B-it 分析量化、剪枝与 KV 缓存压缩对推理模型越狱鲁棒性的影响
Published Sep 20
Evaluated models QwQ-32B , DeepSeek-R1-Distill-Qwen-32B , DeepSeek-R1-Distill-Llama-8B Abstract 效率压缩常使 LRM 越狱 HR 下降，作者将其归因于推理退化而非对齐增强。作者分析量化、剪枝和 KV 缓存压缩如何同时改变 LRM 的显存、推理和越狱脆弱性。 。
用共享 SAE 检验 CoT 与直接预测的概念对齐和因果接地
Published Sep 19
Evaluated models Llama-3.1-8B , Gemma-2-2B , Gemma-2-9B and others5 Abstract 共享 SAE 上的概念重叠只标出候选概念，Δp 才度量它们是否因果支撑答案，且该效应随层和架构变化。这篇工作把 CoT 忠实性从“说得像不像、输入归因像不像”改写成内部概念是否接地：CoT 有没有用到直接预测也在用的 SAE 概念，这些概念消掉以后答案概率会不会掉。
提出 ResLRP，抑制视觉 Transformer 残差抵消引起的归因不稳定
Published Sep 15
Evaluated models ViT-B/16 , ViT-L/14 , ViT-H/14 and others11 Abstract ResLRP 用残差 γ 规则限制 ViT 相关性爆炸，VLM 上忠实性与定位提升最大。Berend 等人针对 ViT 上 LRP 热图嘈杂、不忠实的问题，把原因放在残差加法而不是注意力规则：前向抵消留下很小的 zout，标准 LRP 用它作分母，放大成不稳定的正负相关性。
提出 MonoTM，用 SAE 单义特征估计文档主题混合并生成主题描述
Published Sep 9 Abstract MonoTM 分开估计混合与解释主题，三套基准上二者偏好的 SAE 配置不同。MonoTM 是建在文档嵌入 SAE 上的可解释主题模型：混合估计用全部 SAE 特征，主题描述只用另一套配置里通过验证的语义特征。
用 SAE 追踪稠密检索查询扩展的潜变量并用激活转向验证
Published Sep 7
Evaluated models Qwen3-Embedding-0.6B（Qwen-Embed） , SimLM Abstract SAE 追踪稠密检索 QE 的潜变量，转向在四基准上比文本扩展更稳。作者用稀疏自编码器分析稠密检索里的查询扩展：现成检索器不微调时，拼接扩展文本往往增益有限甚至变差，而最终指标和嵌入整体偏移不足以说明内部发生了什么。
检验个体身份训练的视觉表示是否线性编码生物概念
Published Sep 5
Evaluated models DINOv3-Base ViT（gorilla Re-ID fine-tuned，triplet-margin loss） Abstract metric learning 的大猩猩 Re-ID 表示沿 sex、age 形成可转向的线性轴，微调只重排其位置。这篇工作检查只做个体匹配的动物 Re-ID 表示里，有没有可审计的生物学结构。 。
提出 Capsule Lens，用胶囊近似并追踪表示空间的概念几何
Published Sep 4
Evaluated models CLIP ViT-B/32 , CLIP ViT-L/14 , Qwen2-VL-2B and others6 Abstract 胶囊闭式拟合概念区域。Capsule Lens 用一个可闭式拟合、可跨 checkpoint 比较的胶囊，定位概念在表示空间中的区域并跟踪训练引起的漂移。
提出 VisER，用内部视觉证据检测 LVLM 物体幻觉
Published Aug 31
Evaluated models LLaVA-1.5-7B , LLaVA-NeXT-7B , InstructBLIP and others8 Abstract VisER 用证据门与图像–前缀比给物体提及打落地分。VisER 是面向 LVLM 开放式图像描述的免训练物体级幻觉检测分数，用来处理内部支持的来源混淆。
分析推理模型拒答假新闻时思维链的内部安全分叉
Published Feb 5
Evaluated models Llama3-8B , Qwen3-4B , Qwen3-8B and others5 Abstract 拒绝不等于过程安全。作者对推理 LLM 在虚假新闻生成中的 CoT 做内部路由分析，并只改关键头来降低过程风险。作者称这是该场景下不安全 CoT 的首次系统分析。
You have reached the end