Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 34 papers Another 265 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Using fear activation steering to test the hazard judgment criteria of vision-language models
Published Oct 8
Evaluated models Qwen/Qwen2.5-VL-7B-Instruct 提出 Safety-Aware Pruning，缓解视觉 token 剪枝放大的多模态越狱
Published Oct 7
Evaluated models LLaVA-1.5-7B Abstract 剪枝去掉背景 token 后注意力塌向恶意前景。这篇工作评估视觉 token 剪枝如何改变 VLM 在多模态越狱下的行为，并给出推理时防御 SAP。
开环审计冻结视觉语言安全分，发现其反映场景模板而非危险感知
Published Oct 7
Evaluated models CLIP ViT-B/32 , CLIP ViT-L/14 , Qwen2-VL-7B Abstract 论文审计了冻结 VLM 安全评分机制，指出其反映场景模板而非危险感知，为安全强化学习评估提供了严谨基准。本文是一项针对安全强化学习中冻结视觉语言模型（VLM）安全评分机制的实证审计研究。
AI summary 研究者提出一种轻量级路由 logits 安全检测器，在提示词预填充阶段读取 MoE 视觉语言模型的专家路由信号，在生成前判断多模态请求是否安全，且不修改模型参数或专家路由。
Published Oct 6
Evaluated models Qwen3-VL-30B-A3B-Instruct , Kimi-VL-A3B-Instruct Abstract 读出而非操纵 router logits，可在不改模型的情况下降低两模型的组合式安全错误。作者在两个指令微调 MoE VLM 上比较改模型与读路由。组合式风险按 HoliSafe 分成五类：图文各自可安全，合在一起才不安全，或不安全内容只在图像里。
主张多模态安全评测应衡量可控性，并用 SAE 建立四轴画像
Published Oct 5
Evaluated models LlavaGuard-v1.2-7B-OV , Qwen3.5-9B Abstract 四轴画像把读出与选择性控制分开。作者主张多模态安全评测在行为分类之外，单独报告可控性画像，而不是把检测准确当成控制证据。
提出 Geodesic Unlearning，沿测地线编辑权重以提升缺模态鲁棒性
Published Oct 4
Evaluated models RoBERTa , ResNet50 , Qwen2.5-3B and others6 Abstract GU 用测地线子空间编辑应对部署时缺模态下降，并尽量保住全模态精度。这项工作讨论多模态模型在部署时整段缺一个模态的性能下降，并把校正写成训练后的子空间编辑。
提出 Spatial-SAE，用空间依赖先验改进视觉概念分解
Published Oct 3 Abstract Spatial-SAE 用空间 Markov 先验替换 patch 独立先验，换取更对齐的视觉概念。Spatial-SAE 针对视觉 SAE 的概念碎片化：tokenwise 目标在 LRH 之外把各 patch 的码当成独立，而作者报告冻结视觉 Transformer 的激活仍保留邻域可预测性。
提出条件特征抑制防御，检出对抗补丁后抑制 VLA 内部特征
Published Oct 2
Evaluated models π0.5 , SmolVLA Abstract 条件抑制与 patch 相关的 SAE 特征，间歇攻击下可提高 SR，持续攻击下则不能。
提出 Patch-to-Prune，旁路 VLM 部分层的视觉投影计算
Published Oct 2
Evaluated models Qwen2.5-VL-3B-Instruct , Qwen2.5-VL-7B-Instruct , LLaVA-v1.6-Vicuna-7B-HF and others4 Abstract P2P 用深度上的激活修补旁路视觉投影，以可调容忍度交换准确率与计算量。P2P 是面向 VLM 推理的训练无关计算旁路：不删除视觉 token，而在选定 decoder 层用固定激活代理代替视觉投影。
提出 OmniConfess，冻结候选并按通道重打分以缓解全模态幻觉
Published Oct 2
Evaluated models Qwen2.5-Omni-7B , Qwen3-Omni-30B-A3B , Nemotron-3-Nano-Omni-30B 提出 DiDAE，对冻结视觉基础模型做无梯度解耦反事实解释
Published Oct 1
Evaluated models ResNet-18 , DINOv3 ViT-L/16 Abstract DiDAE 用无梯度字典编辑生成解耦反事实，并用于修正与排序。DiDAE 用冻结视觉基础模型和一个解耦字典，生成按分量编辑的视觉反事实，再拿去修正依赖伪相关的分类器，或给字典原子按“是否真能翻转该分类器”排序。
研究视觉语言模型在协作中能否表示并说出指称不确定性
Published Sep 30
Evaluated models GPT-4.1 (2025-04-14) , GPT-5 (2025-08-07) , GPT-5.5 (2026-04-24) Abstract 指称不确定性可被引出，但很少说出来。
提出 FAME，用反事实概念漂移评测智能体虚假记忆
Published Sep 30
Evaluated models Llama-3B Abstract FAME 用反事实引起的隐状态概念漂移，在出答案前区分忠实记忆与虚假记忆。FAME 是一个免训练的评测框架，用来判断自主智能体的记忆在虚假相关、环境偏移或知识冲突下是否已变成虚假记忆。 。
测量并预测具身 VLM 规划器的任务拒答可变性
Published Sep 30
Evaluated models gemini-robotics-er-2-preview , gemini-robotics-er-1.6-preview Abstract 日常物体能翻转一部分已给出的拒答，可翻转程度取决于任务且可被本地代理预测。作者测量 constitution 守护的具身 VLM 规划器：一次拒答在只往场景里放一个日常物体之后还保不保持得住，并把这种易翻转程度称为任务的 malleability 。
提出训练无关的 SECRET，对问题表征做源条件转向以缓解音视频模型幻觉
Published Sep 29
Evaluated models VideoLLaMA2-AV-7B , Qwen2.5-Omni-7B , Qwen3-Omni-30B-A3B Abstract SECRET 在问题状态上做源条件转向，三个 AVLLM 上减轻了跨模态接地幻觉。SECRET 是一种训练无关的问题状态转向方法，用来减轻 AVLLM 的 source-confused grounding hallucination。
证明无显式危害的图文窄微调可诱发跨任务涌现未对齐
Published Sep 28
Evaluated models GPT-4o , GPT-4.1 , Gemini 2.5 and others15 Abstract 证实窄多模态微调可引发全面的多渠道未对齐行为转变，揭示了后训练阶段对齐被隐蔽重塑的安全隐患。论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐（Emergent Misalignment, EM）现象。
检验视觉 SAE 的可解释性，对照人类判断比较 AIS 与标准指标
Published Sep 28
Evaluated models Vanilla SAE , TopK SAE , MP-SAE Abstract 视觉 SAE 重构很好，但 AIS、MS 与字典指标互不对齐，单一代理不足以核验 LRH。这篇工作把 NLP 的 AIS 改到视觉 SAE，用来检查 LRH 的结构代理是否等于人类可解释性。 。
构建 Mandela-Bench，评测多模态模型是否凭记忆接受篡改图像
Published Sep 27
Evaluated models Gemini-3.8-Flash , GPT-5.6 , GLM-5.3-Flash and others15 Abstract 论文构建 Mandela-Bench 发现模型对经典图像存在记忆重构偏见，过度依赖先验导致无法有效利用知识核验事实篡改。该研究系统评估了多模态大语言模型在面对无痕事实性编辑时，能否利用自身内在世界知识核验被识别出的经典图像。
提出 FLIP 末层推理时探针，检验视觉语言模型干预效应的来源
Published Sep 25
Evaluated models Qwen3-VL-4B-Instruct , Qwen3-VL-8B , Kimi-VL-A3B Abstract 末层 flooring 扫描在四准则下通过，原始层和左右对照没有同一正向区间。FLIP 是开源 VLM 上的推理时末层探针，用来检验干预效应是否结构化、与任务相连，而不是用来转向模型。 。
提出 ResLRP，抑制视觉 Transformer 残差抵消引起的归因不稳定
Published Sep 15
Evaluated models ViT-B/16 , ViT-L/14 , ViT-H/14 and others11 Abstract ResLRP 用残差 γ 规则限制 ViT 相关性爆炸，VLM 上忠实性与定位提升最大。Berend 等人针对 ViT 上 LRP 热图嘈杂、不忠实的问题，把原因放在残差加法而不是注意力规则：前向抵消留下很小的 zout，标准 LRP 用它作分母，放大成不稳定的正负相关性。