可解释性arXiv 2610.11986
FearCaut-Qwen：激活引导改变视觉语言模型的风险判定标准
用恐惧激活转向检验视觉语言模型的隐患判定准则
- arXiv
- 2610.11986
- 发表
- 层
- 模型层
- 场景
- LLM 应用
- 被测模型
- Qwen/Qwen2.5-VL-7B-Instruct
- 组件视觉
- 可解释性arXiv 2610.06576
研究：智能体欺骗行为在外部显现前已可从内部表征预测
提出基于决策前隐藏状态的检测与引导，预测并抑制智能体欺骗
- arXiv
- 2610.06576
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 被测模型
- Qwen3-14B
摘要论文展示了智能体自发欺骗可在行为显现前由内部表征预测，并通过激活引导证实了表征的行为可操作性。
- 可解释性arXiv 2610.06064
TrustMI：通过模型激活因果控制助手对用户的信任
提出 TrustMI，用激活转向因果调控助手对用户主张的信任
- arXiv
- 2610.06064
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 被测模型
- Qwen3.5-9B、Qwen3.5-27B、Llama-3.1-8B-Instruct 等 6 个
摘要作者用 BiPO 转向调控助手对用户的依赖，并称该效应迁移到智能体安全任务。
TrustMI 研究助手对用户的信任能否沿激活中的线性方向被因果调控，以及这种调控会不会改变安全相关的智能体行为。
- 可解释性arXiv 2610.05295
研究用因果追踪区分间接提示注入中的可读信号与有效干预
用因果追踪区分间接提示注入中的角色可读性与有效干预
- arXiv
- 2610.05295
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Qwen-2.5-7B、Qwen-2.5-1.5B、Llama-3.1-8B 等 8 个
- 攻击提示注入
摘要作者称源角色先于强工具选择效应可读，有效编辑还取决于位置、长度和方向来源。
在权重固定的白盒模型上，源角色可以先被读出。沿相关方向的编辑是否改变行为，要在目标位点上另测。。
- 可解释性arXiv 2610.02702
研究：LLM 智能体顺从多数时内部仍保留原有前提
用 J-lens 检测辩论中屈从多数的智能体是否仍内部表征原前提
- arXiv
- 2610.02702
- 发表
- 层
- 模型层
- 场景
- 多智能体
- 被测模型
- Qwen3.5-4B、Qwen3.6-27B、Gemma-4-E4B-it 等 4 个
- 风险欺骗与谋划
摘要揭示 LLM 智能体屈从多数时内部仍表征原推理前提，指出辩论表态共识可能夸大真实认同。
- 可解释性arXiv 2609.36138
SAKIKO：对工具调用 LLM 内部干预的机制审计框架
提出 SAKIKO，审计工具调用模型的激活干预是否构成修复
- arXiv
- 2609.36138
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 被测模型
- Phi-3.5-mini、Qwen2.5-7B、Llama-3.1-8B 等 8 个
摘要SAKIKO 用目的地、保持和预注册不确定性裁定内部转向是否算修复。
SAKIKO 审计工具型 LLM 在执行前 K 路动作上的内部干预：行为净增益、到达正确动作、保住原本正确的决策、以及统计证据充分，是四件分开的事。
- 可解释性arXiv 2609.34686
研究揭示工具智能体中越狱上下文残留导致的安全路由分化
用配对续写与激活修补分析工具智能体越狱后的安全路由
- arXiv
- 2609.34686
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Qwen3-14B、Qwen3.5-9B、Qwen3.5-27B 等 8 个
- 攻击越狱
摘要越狱后的同一安全反馈在八个工具智能体上分成三条路由，因果集中在最后几层并可作预测基线。
这篇工作把越狱上下文残留之后的运行时安全反馈，做成工具智能体上的三路路由问题，并用激活修补给这个路由一个晚层的因果位点。作者认为，反馈可能恢复合法执行、留下未授权动作，或误伤良性流程，而现有攻击、基准和静态护栏没有在固定历史上把这三种结局分开。配对续写因此从同一冻结检查点分别接中性提醒 N 和安全反馈 S，并交叉保留越狱 J+ 与中和越狱 J0。
- 可解释性arXiv 2609.08173
基于 SAE 引导的关键路径识别（KPI）解决知识冲突
提出 KPI，用入度定位跨层关键路径并做 SAE 转向以解决知识冲突
- arXiv
- 2609.08173
- 发表
- 层
- 模型层
- 场景
- LLM 应用
- 被测模型
- Llama-3-8B、Llama-3.1-8B、Gemma-2-9B
摘要KPI 以入度关键路径替代大批 SAE 特征转向，在冲突 RAG 上提高忠实并减轻副作用。
KPI 针对知识冲突 RAG 中的 SAE 转向：相关性批量改特征会带入冗余，少量因果上关键的特征即可完成转向。
- 可解释性arXiv 2609.06968
通过稀疏自编码器特征追踪查询扩展效果
用 SAE 追踪稠密检索查询扩展的潜变量并用激活转向验证
- arXiv
- 2609.06968
- 发表
- 层
- 模型层
- 场景
- LLM 应用
- 被测模型
- Qwen3-Embedding-0.6B（Qwen-Embed）、SimLM
- 组件嵌入
摘要SAE 追踪稠密检索 QE 的潜变量，转向在四基准上比文本扩展更稳。
作者用稀疏自编码器分析稠密检索里的查询扩展：现成检索器不微调时，拼接扩展文本往往增益有限甚至变差，而最终指标和嵌入整体偏移不足以说明内部发生了什么。
已经到底了