Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 66 papers

Filter5

Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 233papers have no tags yet and are not included in filtered results.

Layer：Model layer System component：Guardrails and judges System component：Vision System component：Image generation System component：Embeddings Clear all

Another 233papers do not have category tags yet and are not included in filtered results.

Analysis and theoryarXiv 2610.12083Oct 8
Paper audits LLM judge reliability: repeated agreement does not equal correctness
Auditing LLM judge reliability and defining trustworthy verdict rate and accuracy upper bound
arXiv
2610.12083
Published
Oct 8
Layer
Model layer
Setting
Models and APIs
Evaluated models
GPT-5.2, GPT-4o, Gemini-2.5-Pro and others6
- ComponentGuardrails and judges
AbstractThe authors claim that comparing judges should look at T, not just accuracy.
The authors audit whether LLM-as-a-Judge decisions can still be treated as actionable ground truth under repeated queries, swapped candidate order, and changed prompt formats.
Paper analysisRead analysis
InterpretabilityarXiv 2610.11986Oct 8
FearCaut-Qwen: Activation steering changes the risk judgment criteria of vision-language models
Using fear activation steering to test the hazard judgment criteria of vision-language models
arXiv
2610.11986
Published
Oct 8
Layer
Model layer
Setting
LLM applications
Evaluated models
Qwen/Qwen2.5-VL-7B-Instruct
- ComponentVision
Paper analysisRead analysis
DefensesarXiv 2610.09703Oct 7
研究揭示 Token-Pruning 对 VLM 安全性的影响并提出 SAP 缓解机制
提出 Safety-Aware Pruning，缓解视觉 token 剪枝放大的多模态越狱
arXiv
2610.09703
Published
Oct 7
Layer
Model layer
Setting
Models and APIs
Attacker
Black-box
Evaluated models
LLaVA-1.5-7B
- DefensesInference-time intervention
- AttacksJailbreaks
- ComponentVision
Abstract剪枝去掉背景 token 后注意力塌向恶意前景。
这篇工作评估视觉 token 剪枝如何改变 VLM 在多模态越狱下的行为，并给出推理时防御 SAP。
Paper analysisRead analysis
Analysis and theoryarXiv 2610.09517Oct 7
审计发现 CLIP 安全分数主要反映画面与提示词场景的相似度
开环审计冻结视觉语言安全分，发现其反映场景模板而非危险感知
arXiv
2610.09517
Published
Oct 7
Layer
Model layer
Setting
Embodied systems and robotics
Evaluated models
CLIP ViT-B/32, CLIP ViT-L/14, Qwen2-VL-7B
- ComponentVision
Abstract论文审计了冻结 VLM 安全评分机制，指出其反映场景模板而非危险感知，为安全强化学习评估提供了严谨基准。
本文是一项针对安全强化学习中冻结视觉语言模型（VLM）安全评分机制的实证审计研究。
Paper analysisRead analysis
DefensesarXiv 2610.09167Oct 7
Persist-3 用顺序检验识别未见越狱来源，提升 MTK 与 Prompt Guard 2 防御效果
提出 Persist-3 序贯检验，从隐藏表示识别未见越狱源
arXiv
2610.09167
Published
Oct 7
Layer
Model layer
Setting
Models and APIs
Evaluated models
Llama2-7B-chat, Qwen2.5-7B-Instruct, Gemma-2-9B-it and others4
- DefensesMonitoring and auditing
- AttacksJailbreaks
- ComponentMonitors
AbstractPersist-3 用有限窗口检验攻击流是否超出已知越狱源，检出率低于全历史 SR-DKW，但决策只依赖最近观测。
Persist-3 是一个有限记忆的序贯检测器，用来判断攻击表示流是否已经不能由任何一个已知越狱源解释。。
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.08791Oct 7
研究者发布视频世界模型物理一致性基准 World Models' Last Exam in Physics
提出 World Models' Last Exam 评测视频物理一致性
arXiv
2610.08791
Published
Oct 7
Layer
Model layer
Setting
Models and APIs
Evaluated models
Seedance-2.5, MiniMax-H3, Cosmos3-Super and others8
- ComponentImage generation
Paper analysisRead analysis
Analysis and theoryarXiv 2610.08178Oct 6
研究给出潜空间图像水印的鲁棒性上限理论分析
分析潜空间图像水印对像素扰动的内在鲁棒性上限
arXiv
2610.08178
Published
Oct 6
Layer
Model layer
Setting
Models and APIs
Evaluated models
Stable Diffusion v2-1
- DefensesWatermarking and provenance
- ComponentImage generation
Abstract作者称当前潜空间水印在低 FPR 下受扩张映射与分布偏移的限制。
Paper analysisRead analysis
DefensesarXiv 2610.07774Oct 6
研究者提出读取路由 logits 的 MoE 视觉语言模型多模态安全检测器
AI summary研究者提出一种轻量级路由 logits 安全检测器，在提示词预填充阶段读取 MoE 视觉语言模型的专家路由信号，在生成前判断多模态请求是否安全，且不修改模型参数或专家路由。
arXiv
2610.07774
Published
Oct 6
Layer
Model layer
Setting
Models and APIs
Evaluated models
Qwen3-VL-30B-A3B-Instruct, Kimi-VL-A3B-Instruct
- DefensesMonitoring and auditing
- RiskInappropriate refusal
- ComponentMonitors
Abstract读出而非操纵 router logits，可在不改模型的情况下降低两模型的组合式安全错误。
作者在两个指令微调 MoE VLM 上比较改模型与读路由。组合式风险按 HoliSafe 分成五类：图文各自可安全，合在一起才不安全，或不安全内容只在图像里。
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.06503Oct 5
研究评测五款开源文生图模型的有害内容生成与审核缺口
评测文生图模型的有害内容生成能力与审核检测缺口
arXiv
2610.06503
Published
Oct 5
Layer
Model layer
Setting
Models and APIs
Evaluated models
SDXL, Stable Diffusion 3.5 Large, FLUX.1-dev and others12
- DefensesDetection and filtering
- AttacksMalicious use
- ComponentImage generation
Paper analysisRead analysis
OtherarXiv 2610.06452Oct 5
研究者提出多模态安全评测应衡量可控性而非仅做分类
主张多模态安全评测应衡量可控性，并用 SAE 建立四轴画像
arXiv
2610.06452
Published
Oct 5
Layer
Model layer
Setting
Models and APIs
Evaluated models
LlavaGuard-v1.2-7B-OV, Qwen3.5-9B
- ComponentVision
Abstract四轴画像把读出与选择性控制分开。
作者主张多模态安全评测在行为分类之外，单独报告可控性画像，而不是把检测准确当成控制证据。
Paper analysisRead analysis
AttacksarXiv 2610.05601Oct 5
Tracer 框架可从遗忘后的扩散模型中识别被擦除概念
提出 TRACER，从权重差识别扩散模型被擦除概念
arXiv
2610.05601
Published
Oct 5
Layer
Model layer
Setting
Models and APIs
Attacker
White-box
Evaluated models
Stable Diffusion v1.5, Stable Diffusion 3, FLUX.1 and others5
- AttacksExtraction and theft
- ComponentImage generation
AbstractTRACER 用权重足迹识别未披露擦除概念并估计个数，作者称数秒内完成且准确率高于对照。
TRACER 针对的是遗忘扩散模型上的目标识别：提供者从公开基座 W 用已发表方法擦掉未知集合 S⋆，只发布 W′。攻击者还有假定包含这些概念的词表，但不知擦了谁、擦了几个、用了什么算法。
Paper analysisRead analysis
OtherarXiv 2610.04792Oct 4
多模态一定更好吗？缺失模态鲁棒性的几何视角与 Geodesic Unlearning 方法
提出 Geodesic Unlearning，沿测地线编辑权重以提升缺模态鲁棒性
arXiv
2610.04792
Published
Oct 4
Layer
Model layer
Setting
Models and APIs
Evaluated models
RoBERTa, ResNet50, Qwen2.5-3B and others6
- ComponentVision
AbstractGU 用测地线子空间编辑应对部署时缺模态下降，并尽量保住全模态精度。
这项工作讨论多模态模型在部署时整段缺一个模态的性能下降，并把校正写成训练后的子空间编辑。
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.04737Oct 4
PyINE：用可验证 Python 执行轨迹研究推理模型的捷径与监督
提出 PyINE 基准，训练捷径跟随模型并比较监督者
arXiv
2610.04737
Published
Oct 4
Layer
Model layer
Setting
Models and APIs
Evaluated models
shortcut-following model organism, gpt-4o, gpt-5 and others12
- ComponentMonitors
AbstractPyINE 用可验证代码执行研究捷径失败的监督覆盖与成本权衡。
PyINE 是用可执行程序研究推理模型引出与监督的框架，PyINE-v1 是其第一次发布。
Paper analysisRead analysis
InterpretabilityarXiv 2610.06945Oct 3
超越线性表征假设：KANSteer 用非线性激活引导文本到图像模型
提出 KANSteer，用非线性激活引导拟合文生图有序概念轨迹
arXiv
2610.06945
Published
Oct 3
Layer
Model layer
Setting
Models and APIs
Evaluated models
FLUX.1-schnell, FLUX.1-dev
- ComponentImage generation
AbstractKANSteer 用曲线替代固定方向。
KANSteer 研究文生图扩散模型里，有序视觉概念能否沿单一激活方向被遍历，并改用一维曲线做 steering。
Paper analysisRead analysis
InterpretabilityarXiv 2610.04112Oct 3
Spatial-SAE：用空间依赖先验改进视觉概念分解
提出 Spatial-SAE，用空间依赖先验改进视觉概念分解
arXiv
2610.04112
Published
Oct 3
Layer
Model layer
Setting
Models and APIs
- ComponentVision
AbstractSpatial-SAE 用空间 Markov 先验替换 patch 独立先验，换取更对齐的视觉概念。
Spatial-SAE 针对视觉 SAE 的概念碎片化：tokenwise 目标在 LRH 之外把各 patch 的码当成独立，而作者报告冻结视觉 Transformer 的激活仍保留邻域可预测性。
Paper analysisRead analysis
DefensesarXiv 2610.03498Oct 2
检测与抑制：针对 VLA 模型对抗补丁的机制可解释性防御
提出条件特征抑制防御，检出对抗补丁后抑制 VLA 内部特征
arXiv
2610.03498
Published
Oct 2
Layer
Model layer
Setting
Embodied systems and robotics
Evaluated models
π0.5, SmolVLA
- DefensesInference-time intervention
- ComponentVision
Abstract条件抑制与 patch 相关的 SAE 特征，间歇攻击下可提高 SR，持续攻击下则不能。
Paper analysisRead analysis
OtherarXiv 2610.03389Oct 2
Patch-to-Prune：在 Qwen2.5-VL 与 LLaVA 上剪枝视觉计算
提出 Patch-to-Prune，旁路 VLM 部分层的视觉投影计算
arXiv
2610.03389
Published
Oct 2
Layer
Model layer
Setting
Models and APIs
Evaluated models
Qwen2.5-VL-3B-Instruct, Qwen2.5-VL-7B-Instruct, LLaVA-v1.6-Vicuna-7B-HF and others4
- ComponentVision
AbstractP2P 用深度上的激活修补旁路视觉投影，以可调容忍度交换准确率与计算量。
P2P 是面向 VLM 推理的训练无关计算旁路：不删除视觉 token，而在选定 decoder 层用固定激活代理代替视觉投影。
Paper analysisRead analysis
DefensesarXiv 2610.02999Oct 2
OmniConfess：用 Token 级「忏悔」缓解全模态幻觉
提出 OmniConfess，冻结候选并按通道重打分以缓解全模态幻觉
arXiv
2610.02999
Published
Oct 2
Layer
Model layer
Setting
Models and APIs
Evaluated models
Qwen2.5-Omni-7B, Qwen3-Omni-30B-A3B, Nemotron-3-Nano-Omni-30B
- DefensesInference-time intervention
- RiskHallucination and fabrication
- ComponentVision
Paper analysisRead analysis
DefensesarXiv 2610.01969Oct 2
RASteer：面向扩散模型概念擦除的保留感知激活引导方法
提出 RASteer，推理时按保留子空间校正激活以擦除文生图目标概念
arXiv
2610.01969
Published
Oct 2
Layer
Model layer
Setting
Models and APIs
Evaluated models
Stable Diffusion v1.4, Stable Diffusion v1.5, Stable Diffusion v2.1 and others4
- DefensesInference-time intervention
- ComponentImage generation
AbstractRASteer 用保留子空间校正擦除方向，在固定权重下同时压低目标并保住保留概念。
Retain-aware Activation Steering（RASteer） 是一种不改权重的推理时概念擦除方法，用于文生图扩散模型去掉指定概念并减少对保留概念的误伤。
Paper analysisRead analysis
InterpretabilityarXiv 2610.00895Oct 1
DiDAE：面向视觉基础模型的快速解耦反事实解释方法
提出 DiDAE，对冻结视觉基础模型做无梯度解耦反事实解释
arXiv
2610.00895
Published
Oct 1
Layer
Model layer
Setting
Models and APIs
Evaluated models
ResNet-18, DINOv3 ViT-L/16
- ComponentVision
AbstractDiDAE 用无梯度字典编辑生成解耦反事实，并用于修正与排序。
DiDAE 用冻结视觉基础模型和一个解耦字典，生成按分量编辑的视觉反事实，再拿去修正依赖伪相关的分类器，或给字典原子按“是否真能翻转该分类器”排序。
Paper analysisRead analysis

AI Safety Daily

Read the latest issueOne issue per day, updated as events develop

All papers

Attack type

Model risks

Defense type

Impact

System type

Attacker access

Attack surface / entry point

Layer

System component

Paper audits LLM judge reliability: repeated agreement does not equal correctness

FearCaut-Qwen: Activation steering changes the risk judgment criteria of vision-language models

研究揭示 Token-Pruning 对 VLM 安全性的影响并提出 SAP 缓解机制

审计发现 CLIP 安全分数主要反映画面与提示词场景的相似度

Persist-3 用顺序检验识别未见越狱来源，提升 MTK 与 Prompt Guard 2 防御效果

研究者发布视频世界模型物理一致性基准 World Models' Last Exam in Physics

研究给出潜空间图像水印的鲁棒性上限理论分析

研究者提出读取路由 logits 的 MoE 视觉语言模型多模态安全检测器

研究评测五款开源文生图模型的有害内容生成与审核缺口

研究者提出多模态安全评测应衡量可控性而非仅做分类

Tracer 框架可从遗忘后的扩散模型中识别被擦除概念

多模态一定更好吗？缺失模态鲁棒性的几何视角与 Geodesic Unlearning 方法

PyINE：用可验证 Python 执行轨迹研究推理模型的捷径与监督

超越线性表征假设：KANSteer 用非线性激活引导文本到图像模型

Spatial-SAE：用空间依赖先验改进视觉概念分解

检测与抑制：针对 VLA 模型对抗补丁的机制可解释性防御

Patch-to-Prune：在 Qwen2.5-VL 与 LLaVA 上剪枝视觉计算

OmniConfess：用 Token 级「忏悔」缓解全模态幻觉

RASteer：面向扩散模型概念擦除的保留感知激活引导方法

DiDAE：面向视觉基础模型的快速解耦反事实解释方法