Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 44 papers Another 240 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Auditing LLM judge reliability and defining trustworthy verdict rate and accuracy upper bound
Published Oct 8
Evaluated models GPT-5.2 , GPT-4o , Gemini-2.5-Pro and others6 Abstract The authors claim that comparing judges should look at T, not just accuracy.The authors audit whether LLM-as-a-Judge decisions can still be treated as actionable ground truth under repeated queries, swapped candidate order, and changed prompt formats.
Using fear activation steering to test the hazard judgment criteria of vision-language models
Published Oct 8
Evaluated models Qwen/Qwen2.5-VL-7B-Instruct 提出 Safety-Aware Pruning，缓解视觉 token 剪枝放大的多模态越狱
Published Oct 7
Evaluated models LLaVA-1.5-7B Abstract 剪枝去掉背景 token 后注意力塌向恶意前景。这篇工作评估视觉 token 剪枝如何改变 VLM 在多模态越狱下的行为，并给出推理时防御 SAP。
开环审计冻结视觉语言安全分，发现其反映场景模板而非危险感知
Published Oct 7
Evaluated models CLIP ViT-B/32 , CLIP ViT-L/14 , Qwen2-VL-7B Abstract 论文审计了冻结 VLM 安全评分机制，指出其反映场景模板而非危险感知，为安全强化学习评估提供了严谨基准。本文是一项针对安全强化学习中冻结视觉语言模型（VLM）安全评分机制的实证审计研究。
提出 Persist-3 序贯检验，从隐藏表示识别未见越狱源
Published Oct 7
Evaluated models Llama2-7B-chat , Qwen2.5-7B-Instruct , Gemma-2-9B-it and others4 Abstract Persist-3 用有限窗口检验攻击流是否超出已知越狱源，检出率低于全历史 SR-DKW，但决策只依赖最近观测。Persist-3 是一个有限记忆的序贯检测器，用来判断攻击表示流是否已经不能由任何一个已知越狱源解释。 。
AI summary 研究者提出一种轻量级路由 logits 安全检测器，在提示词预填充阶段读取 MoE 视觉语言模型的专家路由信号，在生成前判断多模态请求是否安全，且不修改模型参数或专家路由。
Published Oct 6
Evaluated models Qwen3-VL-30B-A3B-Instruct , Kimi-VL-A3B-Instruct Abstract 读出而非操纵 router logits，可在不改模型的情况下降低两模型的组合式安全错误。作者在两个指令微调 MoE VLM 上比较改模型与读路由。组合式风险按 HoliSafe 分成五类：图文各自可安全，合在一起才不安全，或不安全内容只在图像里。
评测文生图模型的有害内容生成能力与审核检测缺口
Published Oct 5
Evaluated models SDXL , Stable Diffusion 3.5 Large , FLUX.1-dev and others12 主张多模态安全评测应衡量可控性，并用 SAE 建立四轴画像
Published Oct 5
Evaluated models LlavaGuard-v1.2-7B-OV , Qwen3.5-9B Abstract 四轴画像把读出与选择性控制分开。作者主张多模态安全评测在行为分类之外，单独报告可控性画像，而不是把检测准确当成控制证据。
提出 Geodesic Unlearning，沿测地线编辑权重以提升缺模态鲁棒性
Published Oct 4
Evaluated models RoBERTa , ResNet50 , Qwen2.5-3B and others6 Abstract GU 用测地线子空间编辑应对部署时缺模态下降，并尽量保住全模态精度。这项工作讨论多模态模型在部署时整段缺一个模态的性能下降，并把校正写成训练后的子空间编辑。
提出 PyINE 基准，训练捷径跟随模型并比较监督者
Published Oct 4
Evaluated models shortcut-following model organism , gpt-4o , gpt-5 and others12 Abstract PyINE 用可验证代码执行研究捷径失败的监督覆盖与成本权衡。PyINE 是用可执行程序研究推理模型引出与监督的框架，PyINE-v1 是其第一次发布。
提出 Spatial-SAE，用空间依赖先验改进视觉概念分解
Published Oct 3 Abstract Spatial-SAE 用空间 Markov 先验替换 patch 独立先验，换取更对齐的视觉概念。Spatial-SAE 针对视觉 SAE 的概念碎片化：tokenwise 目标在 LRH 之外把各 patch 的码当成独立，而作者报告冻结视觉 Transformer 的激活仍保留邻域可预测性。
提出条件特征抑制防御，检出对抗补丁后抑制 VLA 内部特征
Published Oct 2
Evaluated models π0.5 , SmolVLA Abstract 条件抑制与 patch 相关的 SAE 特征，间歇攻击下可提高 SR，持续攻击下则不能。
提出 Patch-to-Prune，旁路 VLM 部分层的视觉投影计算
Published Oct 2
Evaluated models Qwen2.5-VL-3B-Instruct , Qwen2.5-VL-7B-Instruct , LLaVA-v1.6-Vicuna-7B-HF and others4 Abstract P2P 用深度上的激活修补旁路视觉投影，以可调容忍度交换准确率与计算量。P2P 是面向 VLM 推理的训练无关计算旁路：不删除视觉 token，而在选定 decoder 层用固定激活代理代替视觉投影。
提出 OmniConfess，冻结候选并按通道重打分以缓解全模态幻觉
Published Oct 2
Evaluated models Qwen2.5-Omni-7B , Qwen3-Omni-30B-A3B , Nemotron-3-Nano-Omni-30B 提出 DiDAE，对冻结视觉基础模型做无梯度解耦反事实解释
Published Oct 1
Evaluated models ResNet-18 , DINOv3 ViT-L/16 Abstract DiDAE 用无梯度字典编辑生成解耦反事实，并用于修正与排序。DiDAE 用冻结视觉基础模型和一个解耦字典，生成按分量编辑的视觉反事实，再拿去修正依赖伪相关的分类器，或给字典原子按“是否真能翻转该分类器”排序。
研究视觉语言模型在协作中能否表示并说出指称不确定性
Published Sep 30
Evaluated models GPT-4.1 (2025-04-14) , GPT-5 (2025-08-07) , GPT-5.5 (2026-04-24) Abstract 指称不确定性可被引出，但很少说出来。
测量并预测具身 VLM 规划器的任务拒答可变性
Published Sep 30
Evaluated models gemini-robotics-er-2-preview , gemini-robotics-er-1.6-preview Abstract 日常物体能翻转一部分已给出的拒答，可翻转程度取决于任务且可被本地代理预测。作者测量 constitution 守护的具身 VLM 规划器：一次拒答在只往场景里放一个日常物体之后还保不保持得住，并把这种易翻转程度称为任务的 malleability 。
提出训练无关的 SECRET，对问题表征做源条件转向以缓解音视频模型幻觉
Published Sep 29
Evaluated models VideoLLaMA2-AV-7B , Qwen2.5-Omni-7B , Qwen3-Omni-30B-A3B Abstract SECRET 在问题状态上做源条件转向，三个 AVLLM 上减轻了跨模态接地幻觉。SECRET 是一种训练无关的问题状态转向方法，用来减轻 AVLLM 的 source-confused grounding hallucination。
诊断护栏相对基座在对抗提示上的置信失校
Published Sep 29
Evaluated models Llama-Guard 7B , Llama-Guard-2 8B , Llama-Guard-3 8B and others10 Abstract 对抗包装使 guard 高置信漏检，而对应 base 在同一输入上常更不确定。诊断性分析 ：五个提示词分类 guard 的置信度，在清洁输入上可以较校准，在越狱包装后则变成高置信度的错误判定。
证明无显式危害的图文窄微调可诱发跨任务涌现未对齐
Published Sep 28
Evaluated models GPT-4o , GPT-4.1 , Gemini 2.5 and others15 Abstract 证实窄多模态微调可引发全面的多渠道未对齐行为转变，揭示了后训练阶段对齐被隐蔽重塑的安全隐患。论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐（Emergent Misalignment, EM）现象。