Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 17 papers Another 240 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
提出 Persist-3 序贯检验，从隐藏表示识别未见越狱源
Published Oct 7
Evaluated models Llama2-7B-chat , Qwen2.5-7B-Instruct , Gemma-2-9B-it and others4 Abstract Persist-3 用有限窗口检验攻击流是否超出已知越狱源，检出率低于全历史 SR-DKW，但决策只依赖最近观测。Persist-3 是一个有限记忆的序贯检测器，用来判断攻击表示流是否已经不能由任何一个已知越狱源解释。 。
AI summary 研究者提出一种轻量级路由 logits 安全检测器，在提示词预填充阶段读取 MoE 视觉语言模型的专家路由信号，在生成前判断多模态请求是否安全，且不修改模型参数或专家路由。
Published Oct 6
Evaluated models Qwen3-VL-30B-A3B-Instruct , Kimi-VL-A3B-Instruct Abstract 读出而非操纵 router logits，可在不改模型的情况下降低两模型的组合式安全错误。作者在两个指令微调 MoE VLM 上比较改模型与读路由。组合式风险按 HoliSafe 分成五类：图文各自可安全，合在一起才不安全，或不安全内容只在图像里。
系统评估循环语言模型加深 loop 后的 CoT 可监控性
Published Oct 2
Evaluated models Ouro-1.4B-Thinking , Ouro-2.6B-Thinking , Nanbeige4.2-3B and others4 Abstract 加深 loop 可在部分压力测试任务降低可监测性，循环架构本身并不必然更难监测。这项工作评估 LoopLM 的 CoT 可监测性：加深共享层的重复次数，以及“有循环结构”本身，会不会让决策关键因素更少出现在可监测文本里。
用分类后缀提升激活探针对分布外恶意输入的检测
Published Oct 2
Evaluated models Llama-3.1-8B , Qwen3.5-9B , Gemma-4-12B Abstract 作者称排序增益来自分类格式，低 FPR 精度来自点名准则。用户轮后的分类后缀，被作者用作激活探针的分布外检测干预：排序看格式，低 FPR 精度看是否点名恶意/良性。
提出 NDDL，用良性扩散轨迹检测文生图后门提示并定位触发 token
Published Sep 30
Evaluated models Stable Diffusion v1.5 , Stable Diffusion XL , Stable Diffusion v3.5 and others4 Abstract NDDL 从良性扩散轨迹学习正常转移，用动态不一致检测后门并定位触发 token。NDDL 是面向文生图扩散模型的后门防御：防御者只有白盒模型访问和良性提示词，没有后门先验，需要区分后门提示词并找出触发 token。
分析隐蔽推理在思维链监控下的信息足迹下界与不可读性
Published Sep 29
Evaluated models Qwen2.5-7B-Instruct , Llama-3.1-8B-Instruct , Qwen 3.5 397B-A17B and others12 Abstract 论文从理论与实证探明了思维链监控的边界：复杂隐蔽计算必然泄露信息足迹且需承担长度税，但该足迹可被在线加密而不可读。
用能量势垒信号检测扩散语言模型的越狱
Published Sep 25
Evaluated models LLaDA-8B-Instruct , LLaDA-1.5 , Dream-v0-Instruct-7B and others4 Abstract 能量势垒把 dLLM 越狱分成掩盖初始状态或中途越垒，三个 logit 信号据此互补检测。Bach 等提出用去噪能量景观解释 masked diffusion 语言模型上的越狱，并由此得到三个免训练检测信号。 。
提出免参考探测 PIR，从激活读出被隐瞒答案并区分擦除
Published Sep 19
Evaluated models gemma-2-9b , gemma-3-12b , Qwen2.5-7B and others9 Abstract 论文提出免参考内部识别探测 PIR，划分了隐瞒与遗忘的边界，为评估沙盒审计与遗忘真实性提供了内部依据。
提出局部稀疏无监督安全检测，标记偏离安全分布的输入
Published Sep 17
Evaluated models qwen2-1.5b-instruct , ministral-8b-instruct , llama3-8b-instruct and others6 提出 HERALD，用跨层有害投影轨迹检测越狱提示
Published Sep 12
Evaluated models Llama-3.1-8B-Instruct , Mistral-7B-Instruct , OLMo2-7B-Instruct and others4 Abstract HPD 用跨层投影形状区分有害与良性提示。
提出内生护栏 SingProbe，复用解码隐状态监测查询意图、回复安全与幻觉
Published Aug 31
Evaluated models Ling-3.0-tiny-singprobe , Ling-3.0-flash-singprobe Abstract SingProbe 用轻量内生探针做生成时三类监测，并给出流式基准与低开销服务接入。SingProbe 是面向生成时监测的开源内生护栏：复用基座解码隐状态，而不是另起模型反复编码文本。
提出 VisER，用内部视觉证据检测 LVLM 物体幻觉
Published Aug 31
Evaluated models LLaVA-1.5-7B , LLaVA-NeXT-7B , InstructBLIP and others8 Abstract VisER 用证据门与图像–前缀比给物体提及打落地分。VisER 是面向 LVLM 开放式图像描述的免训练物体级幻觉检测分数，用来处理内部支持的来源混淆。
提出 AMS，用激活分离与方向相似度检测安全训练改动
Published Aug 6
Evaluated models Llama-3.1-8B-Instruct , Llama-3.2-3B-Instruct , Llama-3.2-1B-Instruct and others14 Abstract AMS 按激活签名把安全改动分四类，前三类可由两级扫描覆盖，行为微调会漏。AMS 是面向开放权重模型、部署前使用的激活扫描器，用来看安全训练被拿掉或改写之后，激活空间里还留着什么几何痕迹。
提出 DeMTS，把扩散语言模型去噪轨迹建成多元时间序列以检测幻觉
Published Jul 24
Evaluated models LLaDA-8B-Instruct , Dream-7B-Instruct 提出 D²-Monitor，按犹豫步数把难提示路由到更强探针
Published May 25
Evaluated models LLaDA-8B-Base , LLaDA-8B-Instruct , LLaDA-1.5-8B and others4 提出自动化红队流水线，用系统提示词压测对齐审计能否抵御策略性欺骗
Published Feb 10
Evaluated models Gemma 2 9B Instruct , Llama 3.3 70B Instruct Abstract 通过红队提示词揭示现有审计方法易受策略欺骗，并在激活层面诱导高置信度错误推断。
提出推理扫描器，在仅有模型文件时检测后门并重构触发词
Published Feb 3
Evaluated models gemma-3-270m-it , DeepSeek-R1-Distill-Qwen-1.5B , Phi-4-mini-instruct and others8 Abstract 用记忆泄漏和内部信号重构触发词。这是一个只做推理的 sleeper agent 扫描器：在不知触发词和目标行为时，检测因果语言模型里的条件后门并重构触发词。 。问题在于，后门只在触发词出现时偏离基线，而开放仓库和网页投毒使检测方通常没有触发词、目标或激活语料。
You have reached the end