Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 65 papers

Filter4

Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 233papers have no tags yet and are not included in filtered results.

Layer：Model layer System component：Reasoning chains System component：Permissions and sandboxing System component：Vision Clear all

Another 233papers do not have category tags yet and are not included in filtered results.

InterpretabilityarXiv 2610.12361Oct 9
Study: legal reasoning models citing legal provisions does not equal relying on legal provisions.
Uses premise permutation and hidden-layer tracing to audit whether legal chain-of-thought truly relies on the cited legal provisions.
arXiv
2610.12361
Published
Oct 9
Layer
Model layer
Setting
Models and APIs
Evaluated models
Qwen3-8B, Qwen3-14B, Llama-3.1-8B and others7
- AttacksPrompt injection
- ComponentReasoning chains
AbstractUsing counterfactual substitution of authorities and internal commitment tracing, the authors find that legal CoT rulings depend on authorities only to a limited extent and are vulnerable to prompt injection manipulation.
This study conducts an empirical audit of the causal truthfulness of legal citations in chain-of-thought reasoning of large language models in the legal domain.
Paper analysisRead analysis
InterpretabilityarXiv 2610.11986Oct 8
FearCaut-Qwen: Activation steering changes the risk judgment criteria of vision-language models
Using fear activation steering to test the hazard judgment criteria of vision-language models
arXiv
2610.11986
Published
Oct 8
Layer
Model layer
Setting
LLM applications
Evaluated models
Qwen/Qwen2.5-VL-7B-Instruct
- ComponentVision
Paper analysisRead analysis
Analysis and theoryarXiv 2610.11765Oct 8
研究提出三项指标衡量 LLM 不思考行为，发现被要求停止思考时仍持续显式推理
度量关闭思考指令下终答前是否仍有可见显式推理
arXiv
2610.11765
Published
Oct 8
Layer
Model layer
Setting
Models and APIs
Evaluated models
Qwen3-4B, Qwen3-32B, Qwen3-235B-A22B and others6
- ComponentReasoning chains
Abstract作者用三级指标测 no-thinking，并称模型有随答案空间加重的思考惯性。
作者把 no-thinking 定义为可测量的回答行为，而不是从思考开关、特殊标记或输出长度推断。
Paper analysisRead analysis
Analysis and theoryarXiv 2610.10405Oct 8
研究发现大语言模型被要求不诚实作答时推理 token 数上升
检验推理 token 数能否区分被提示的诚实与不诚实作答
arXiv
2610.10405
Published
Oct 8
Layer
Model layer
Setting
Models and APIs
Evaluated models
Gemma-4-e4b, Qwen-3.5-9b, GPT-OSS-120B
- RiskDeception and scheming
- ComponentReasoning chains
Abstract被提示不诚实时推理 token 组水平更高。
三个推理模型在被提示的回答政策下出现组水平推理 token 差异。作者把它当作不读思维链内容的 black-box 候选信号，而不是自发欺骗检测器。
Paper analysisRead analysis
DefensesarXiv 2610.09703Oct 7
研究揭示 Token-Pruning 对 VLM 安全性的影响并提出 SAP 缓解机制
提出 Safety-Aware Pruning，缓解视觉 token 剪枝放大的多模态越狱
arXiv
2610.09703
Published
Oct 7
Layer
Model layer
Setting
Models and APIs
Attacker
Black-box
Evaluated models
LLaVA-1.5-7B
- DefensesInference-time intervention
- AttacksJailbreaks
- ComponentVision
Abstract剪枝去掉背景 token 后注意力塌向恶意前景。
这篇工作评估视觉 token 剪枝如何改变 VLM 在多模态越狱下的行为，并给出推理时防御 SAP。
Paper analysisRead analysis
Analysis and theoryarXiv 2610.09667Oct 7
东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核
揭示推理模型用标识符规则替代随机抽样，使审计可被预测
arXiv
2610.09667
Published
Oct 7
Layer
Model layer
Setting
Models and APIs
Evaluated models
GPT-6 Sol, GPT-6 Luna, GPT-5.4 mini and others6
- ComponentReasoning chains
Abstract研究揭示推理智能体将标识符转化为确定性规则，破坏群体独立性并导致审计预测漏洞，建议显式提供随机输入。
Paper analysisRead analysis
Analysis and theoryarXiv 2610.09517Oct 7
审计发现 CLIP 安全分数主要反映画面与提示词场景的相似度
开环审计冻结视觉语言安全分，发现其反映场景模板而非危险感知
arXiv
2610.09517
Published
Oct 7
Layer
Model layer
Setting
Embodied systems and robotics
Evaluated models
CLIP ViT-B/32, CLIP ViT-L/14, Qwen2-VL-7B
- ComponentVision
Abstract论文审计了冻结 VLM 安全评分机制，指出其反映场景模板而非危险感知，为安全强化学习评估提供了严谨基准。
本文是一项针对安全强化学习中冻结视觉语言模型（VLM）安全评分机制的实证审计研究。
Paper analysisRead analysis
InterpretabilityarXiv 2610.09087Oct 7
U-Space：揭示语言模型不确定性何时与为何产生
提出 U-SPACE 与 U-LENS，从残差流估计推理轨迹不确定性
arXiv
2610.09087
Published
Oct 7
Layer
Model layer
Setting
Models and APIs
Evaluated models
Gemma-4-31B-it, Qwen3.5-27B, Magistral-Small-2507
- ComponentReasoning chains
AbstractU-SPACE 与 U-LENS 用语义方向和预测熵读推理不确定性，长度控制后仍高于所比基线。
U-SPACE 与 U-LENS 是面向推理模型的无训练读出：用语义方向定位不确定性的形式，并用一个轨迹分数区分更可能错的回答。
Paper analysisRead analysis
DefensesarXiv 2610.07774Oct 6
研究者提出读取路由 logits 的 MoE 视觉语言模型多模态安全检测器
AI summary研究者提出一种轻量级路由 logits 安全检测器，在提示词预填充阶段读取 MoE 视觉语言模型的专家路由信号，在生成前判断多模态请求是否安全，且不修改模型参数或专家路由。
arXiv
2610.07774
Published
Oct 6
Layer
Model layer
Setting
Models and APIs
Evaluated models
Qwen3-VL-30B-A3B-Instruct, Kimi-VL-A3B-Instruct
- DefensesMonitoring and auditing
- RiskInappropriate refusal
- ComponentMonitors
Abstract读出而非操纵 router logits，可在不改模型的情况下降低两模型的组合式安全错误。
作者在两个指令微调 MoE VLM 上比较改模型与读路由。组合式风险按 HoliSafe 分成五类：图文各自可安全，合在一起才不安全，或不安全内容只在图像里。
Paper analysisRead analysis
OtherarXiv 2610.06452Oct 5
研究者提出多模态安全评测应衡量可控性而非仅做分类
主张多模态安全评测应衡量可控性，并用 SAE 建立四轴画像
arXiv
2610.06452
Published
Oct 5
Layer
Model layer
Setting
Models and APIs
Evaluated models
LlavaGuard-v1.2-7B-OV, Qwen3.5-9B
- ComponentVision
Abstract四轴画像把读出与选择性控制分开。
作者主张多模态安全评测在行为分类之外，单独报告可控性画像，而不是把检测准确当成控制证据。
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.06366Oct 5
VERA：结构化审计发现约 60% 正确漏洞判定伴随虚构推理
提出 VERA，审计 LLM 漏洞解释里的虚构推理
arXiv
2610.06366
Published
Oct 5
Layer
Model layer
Setting
coding agent
Evaluated models
sonnet-5, gemma-4-26b, llama-4-maverick and others8
- RiskHallucination and fabrication
- ComponentReasoning chains
Paper analysisRead analysis
OtherarXiv 2610.04792Oct 4
多模态一定更好吗？缺失模态鲁棒性的几何视角与 Geodesic Unlearning 方法
提出 Geodesic Unlearning，沿测地线编辑权重以提升缺模态鲁棒性
arXiv
2610.04792
Published
Oct 4
Layer
Model layer
Setting
Models and APIs
Evaluated models
RoBERTa, ResNet50, Qwen2.5-3B and others6
- ComponentVision
AbstractGU 用测地线子空间编辑应对部署时缺模态下降，并尽量保住全模态精度。
这项工作讨论多模态模型在部署时整段缺一个模态的性能下降，并把校正写成训练后的子空间编辑。
Paper analysisRead analysis
InterpretabilityarXiv 2610.04112Oct 3
Spatial-SAE：用空间依赖先验改进视觉概念分解
提出 Spatial-SAE，用空间依赖先验改进视觉概念分解
arXiv
2610.04112
Published
Oct 3
Layer
Model layer
Setting
Models and APIs
- ComponentVision
AbstractSpatial-SAE 用空间 Markov 先验替换 patch 独立先验，换取更对齐的视觉概念。
Spatial-SAE 针对视觉 SAE 的概念碎片化：tokenwise 目标在 LRH 之外把各 patch 的码当成独立，而作者报告冻结视觉 Transformer 的激活仍保留邻域可预测性。
Paper analysisRead analysis
DefensesarXiv 2610.03498Oct 2
检测与抑制：针对 VLA 模型对抗补丁的机制可解释性防御
提出条件特征抑制防御，检出对抗补丁后抑制 VLA 内部特征
arXiv
2610.03498
Published
Oct 2
Layer
Model layer
Setting
Embodied systems and robotics
Evaluated models
π0.5, SmolVLA
- DefensesInference-time intervention
- ComponentVision
Abstract条件抑制与 patch 相关的 SAE 特征，间歇攻击下可提高 SR，持续攻击下则不能。
Paper analysisRead analysis
OtherarXiv 2610.03389Oct 2
Patch-to-Prune：在 Qwen2.5-VL 与 LLaVA 上剪枝视觉计算
提出 Patch-to-Prune，旁路 VLM 部分层的视觉投影计算
arXiv
2610.03389
Published
Oct 2
Layer
Model layer
Setting
Models and APIs
Evaluated models
Qwen2.5-VL-3B-Instruct, Qwen2.5-VL-7B-Instruct, LLaVA-v1.6-Vicuna-7B-HF and others4
- ComponentVision
AbstractP2P 用深度上的激活修补旁路视觉投影，以可调容忍度交换准确率与计算量。
P2P 是面向 VLM 推理的训练无关计算旁路：不删除视觉 token，而在选定 decoder 层用固定激活代理代替视觉投影。
Paper analysisRead analysis
DefensesarXiv 2610.02999Oct 2
OmniConfess：用 Token 级「忏悔」缓解全模态幻觉
提出 OmniConfess，冻结候选并按通道重打分以缓解全模态幻觉
arXiv
2610.02999
Published
Oct 2
Layer
Model layer
Setting
Models and APIs
Evaluated models
Qwen2.5-Omni-7B, Qwen3-Omni-30B-A3B, Nemotron-3-Nano-Omni-30B
- DefensesInference-time intervention
- RiskHallucination and fabrication
- ComponentVision
Paper analysisRead analysis
Evaluation and benchmarksarXiv 2610.02741Oct 2
研究系统评估循环语言模型的思维链可监控性
系统评估循环语言模型加深 loop 后的 CoT 可监控性
arXiv
2610.02741
Published
Oct 2
Layer
Model layer
Setting
Models and APIs
Evaluated models
Ouro-1.4B-Thinking, Ouro-2.6B-Thinking, Nanbeige4.2-3B and others4
- DefensesMonitoring and auditing
- RiskDeception and scheming
- ComponentReasoning chains
Abstract加深 loop 可在部分压力测试任务降低可监测性，循环架构本身并不必然更难监测。
这项工作评估 LoopLM 的 CoT 可监测性：加深共享层的重复次数，以及“有循环结构”本身，会不会让决策关键因素更少出现在可监测文本里。
Paper analysisRead analysis
Analysis and theoryarXiv 2610.03509Oct 2
高效推理训练并非总损害思维链忠实性与可监控性
测量三种长度压力训练对 CoT 忠实性与可监控性的影响
arXiv
2610.03509
Published
Oct 2
Layer
Model layer
Setting
Models and APIs
Evaluated models
Qwen3-4B-Thinking-2507, Qwen3-8B, Olmo3-7B-Think
- ComponentReasoning chains
Abstract效率训练多通过答案不一致损害忠实性。
这项工作比较三种缩短 CoT 的 RL 训练，看监督用的推理痕迹还剩多少。
Paper analysisRead analysis
InterpretabilityarXiv 2610.00895Oct 1
DiDAE：面向视觉基础模型的快速解耦反事实解释方法
提出 DiDAE，对冻结视觉基础模型做无梯度解耦反事实解释
arXiv
2610.00895
Published
Oct 1
Layer
Model layer
Setting
Models and APIs
Evaluated models
ResNet-18, DINOv3 ViT-L/16
- ComponentVision
AbstractDiDAE 用无梯度字典编辑生成解耦反事实，并用于修正与排序。
DiDAE 用冻结视觉基础模型和一个解耦字典，生成按分量编辑的视觉反事实，再拿去修正依赖伪相关的分类器，或给字典原子按“是否真能翻转该分类器”排序。
Paper analysisRead analysis
Risky behaviorarXiv 2609.39838Sep 30
研究：模型易学会隐写传信，隐写推理则难得多
比较隐写推理与隐写传信、编码推理的可学性
arXiv
2609.39838
Published
Sep 30
Layer
Model layer
Setting
Models and APIs
Evaluated models
GPT-5.5, Claude Sonnet 5, Gemini 3.5 Flash and others14
- RiskDeception and scheming
- ComponentReasoning chains
Abstract隐写推理比传信和编码推理更难学。
Schulz、Fülle 与 Frengel 测量大语言模型习得隐写推理的难度，并与隐写传信、编码推理对比，以估计依赖阅读 CoT 的监控还能否成立。
Paper analysisRead analysis

AI Safety Daily

Read the latest issueOne issue per day, updated as events develop

All papers

Attack type

Model risks

Defense type

Impact

System type

Attacker access

Attack surface / entry point

Layer

System component

Study: legal reasoning models citing legal provisions does not equal relying on legal provisions.

FearCaut-Qwen: Activation steering changes the risk judgment criteria of vision-language models

研究提出三项指标衡量 LLM 不思考行为，发现被要求停止思考时仍持续显式推理

研究发现大语言模型被要求不诚实作答时推理 token 数上升

研究揭示 Token-Pruning 对 VLM 安全性的影响并提出 SAP 缓解机制

东京大学研究：推理模型按 UUID 阈值或整除规则挑选审计样本，控制标识符即可躲开复核

审计发现 CLIP 安全分数主要反映画面与提示词场景的相似度

U-Space：揭示语言模型不确定性何时与为何产生

研究者提出读取路由 logits 的 MoE 视觉语言模型多模态安全检测器

研究者提出多模态安全评测应衡量可控性而非仅做分类

VERA：结构化审计发现约 60% 正确漏洞判定伴随虚构推理

多模态一定更好吗？缺失模态鲁棒性的几何视角与 Geodesic Unlearning 方法

Spatial-SAE：用空间依赖先验改进视觉概念分解

检测与抑制：针对 VLA 模型对抗补丁的机制可解释性防御

Patch-to-Prune：在 Qwen2.5-VL 与 LLaVA 上剪枝视觉计算

OmniConfess：用 Token 级「忏悔」缓解全模态幻觉

研究系统评估循环语言模型的思维链可监控性

高效推理训练并非总损害思维链忠实性与可监控性

DiDAE：面向视觉基础模型的快速解耦反事实解释方法

研究：模型易学会隐写传信，隐写推理则难得多