arXiv 2605.27016
研究系统评测不确定性估计方法与 LLM 幻觉的关联
研究团队对 LLM 中不确定性估计方法与幻觉之间的关联做了系统性实证研究，不再预设二者相关，而是直接检验这种关联在何时、何种程度上成立。
- arXiv
- 2605.27016
- 发表
- 分析与理论arXiv 2610.10203
研究者提出模型生物体多目标验证框架并给出训练建议
提出模型生物多目标验证与合并训练方法以减少能力损伤
- arXiv
- 2610.10203
- 发表
- 场景
- 模型与 API
- 测试
- gemma-2-2b-it、olmo-2-1b、llama-3.1-8b-it 等 8 个
摘要提出多目标验证框架与模型合并训练法，证明模型真实度直接影响可解释性评测。
本论文提出了一种针对 AI 安全评测用模型生物（Model Organisms）的多目标训练与验证体系。
- 防御arXiv 2610.09600
SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化
提出安全电路对齐，把对齐更新限制在预训练拒绝电路内
- arXiv
- 2610.09600
- 发表
- 场景
- 模型与 API
- 测试
- Llama-3-8B、Qwen-2.5-7B、Mistral-7B-v0.1 等 4 个
摘要SafeEvo 识别出基座模型中存在的弱安全电路及其演化动态，据此提出的 SCA 算法实现了安全对齐、能力保留与低过度拒绝的平衡。
- arXiv 2610.09496收录
SOUL：用稀疏特征策略遗忘缓解 VLA 模型的状态幻觉
研究针对 Vision-Language-Action（VLA）模型中的状态幻觉问题提出 SOUL（Sparse feature pOlicy UnLearning）方法，即模型持续按尚未实现的机器人-物体状态行动这一反复出现的失败模式。
- arXiv
- 2610.09496
- 收录
- arXiv 2610.09087收录
U-Space：揭示语言模型不确定性何时与为何产生
研究者提出 U-Space，一个低维子空间，用来让语言模型在推理过程中变化的不确定性变得可测量且可解释。
- arXiv
- 2610.09087
- 收录
- arXiv 2610.08887收录
Moshi 全双工语音模型的情感引导遵循几何结构而非标签
研究者在全开源全双工语音语言模型 Moshi 上测试了四种情感（happy、angry、surprise、sad）的激活引导，采用均值差激活引导，每帧仅需少量向量加法且无需重训练。
- arXiv
- 2610.08887
- 收录
- arXiv 2610.08178收录
研究给出潜空间图像水印的鲁棒性上限理论分析
一篇 arXiv 论文对扩散模型潜空间水印方法的鲁棒性提出理论分析，指出既有方法高估了自身对旋转、缩放、平移等几何变换的抵抗能力。
- arXiv
- 2610.08178
- 收录
- arXiv 2610.04605
ConEx：通过概念感知归因生成人类可解释的显著性图
ConEx 是一个将显著性可视化与概念推理结合的可解释性框架，能自动发现类别专属概念并用概念激活向量（CAVs）表示，无需人工监督。
- arXiv
- 2610.04605
- 发表
- 可解释性arXiv 2610.08559
研究：LLM 潜在空间去偏方向主要编码置信度而非公平性
分析激活引导去偏方向，发现其编码的是置信度而非公平性
- arXiv
- 2610.08559
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Llama-3.1-8B、Llama-3.1-8B-Instruct、Falcon3-7B-Base 等 8 个
摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。
- arXiv 2610.08552收录
AnyBottle：只保留真正需要的概念，构建紧凑任务专属概念瓶颈模型
AnyBottle 是一种构建紧凑、任务专属概念瓶颈模型（CBM）的方法，只需一个冻结骨干网络和一个无监督概念池（如稀疏自编码器），由在同一骨干上训练的黑盒教师模型逐轮引导概念选择，候选概念限定在师生分歧区域。
- arXiv
- 2610.08552
- 收录
- arXiv 2610.07791收录
研究：LLM 比人类更易产生错觉模式感知并导致虚假推理
论文研究大语言模型是否表现出人类的错觉模式感知，即从随机数据中推断出并不存在的有意义关联。
- arXiv
- 2610.07791
- 收录
- arXiv 2610.07583收录
GraphCast 大气河机制的机制可解释性研究
研究团队在 GraphCast 上训练稀疏自编码器（SAE），发现该 AI 天气模型将大气河强度（以积分水汽输送 IVT 衡量）作为稳定的内部变量进行计算，尽管 IVT 既非输入也非预测目标。
- arXiv
- 2610.07583
- 收录
- arXiv 2610.07469收录
COMPASS：在语言模型中定位推理发生的注意力头
研究者提出 COMPASS，一种推理时激活引导方法，用于找出语言模型中承载推理的注意力头。
- arXiv
- 2610.07469
- 收录
- arXiv 2610.07389收录
BeFOND 将稀疏自编码器的推断与学习统一为自然梯度流
研究提出 BeFOND，一个无编码器的稀疏编码模型，把稀疏自编码器的推断与字典学习统一为同一变分自由能上的自然梯度流。
- arXiv
- 2610.07389
- 收录
- arXiv 2610.06945收录
超越线性表征假设：KANSteer 用非线性激活引导文本到图像模型
针对文本到图像模型中概念表征偏离线性方向的问题，研究者提出 KANSteer，用 Kolmogorov-Arnold Networks（KANs）将概念遍历建模为穿过中间状态的曲线，使引导方向可随概念变化并保持可解释性。
- arXiv
- 2610.06945
- 收录
- arXiv 2610.06903收录
研究揭示 Transformer 拒答机制中的组件与维度稀疏性
研究将拒答激活引导分解为组件级干预，在四个开源权重模型上识别出足以复现完整行为效果的稀疏注意力与 MLP 组件子集。
- arXiv
- 2610.06903
- 收录
- arXiv 2610.02480
MEA：面向忠实模型解释的奖励驱动多智能体系统
研究者提出 MEA 多智能体框架，用 Proposer agent 按问题和模态选择并配置解释工具，再用 Actor agent 针对忠实度端到端优化，把输出转成基于模型行为的自然语言解释，覆盖表格、文本和视觉三种模态。
- arXiv
- 2610.02480
- 发表
- 评测与基准arXiv 2610.04575
论文提出 Operational Validity Contract，审计激活监控从探针分数到告警策略的有效性
提出操作有效性契约，审计激活监控从探针分数到告警策略的有效性
- arXiv
- 2610.04575
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 测试
- Qwen2.5-7B-Instruct、Llama-3.2-3B、Qwen2.5-7B 等 4 个
摘要论文建立从探针得分到警报策略的审计框架，实证表明高 AUROC 不等于部署有效性，仅支持受限预测价值。
这篇论文系统评估了大模型智能体激活监控器从离线探针得分向在线警报策略跨越时的统计与操作有效性。
- arXiv 2610.06064收录
TrustMI：通过模型激活因果控制助手对用户的信任
研究把助手对用户的信任定义为愿意接受对方行为带来的脆弱性，并检验这种信任能否通过模型激活被因果控制。
- arXiv
- 2610.06064
- 收录