跳到正文
10月8日 · 周四

全部论文

找到 100 篇
筛选

攻击类型

越狱1模型篡改1

模型自身风险

欺骗与谋划2奖励作弊1失准与价值偏离1拒答失当4幻觉与编造1偏见与歧视2

防御类型

模型加固3推理时干预2

影响

有害内容3输出被操纵2监督失效1

系统形态

模型与 API15LLM 应用1AI Agent1多智能体1

攻击面/入口

用户输入1训练数据1权重与梯度1

层

模型层16训练与数据层1

系统组件

推理链1微调与开源权重1

被测模型厂商

Qwen（阿里）13Meta12Google7Mistral7Ai27其他9
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1081 篇还没打标签，不在筛选结果里。

另有 757 篇还没有研究类型，暂不在这些分类里。

  4. 可解释性arXiv:2610.04860 ·

    研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

    揭示检索生成中文本水印诱发事实幻觉的机制并提出 FPTI 与 FPAI 干预

    LLM 应用测试LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct模型层
    摘要论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    完整解读
  6. 可解释性arXiv:2610.04125 ·

    研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

    揭示风险自述与实际行为由近正交表征分别控制

    模型与 API测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、OLMo-3-7B-Instruct 等 4 个模型层
    摘要论文证明大模型自述与行为脱节根植于表征近正交性，自述无法作为行为审计依据。

    这篇论文从内部表征与因果干预视角，系统研究了大语言模型在风险承担（Risk-Taking）场景下自我报告与实际决策脱节的根本机制。

    完整解读
  8. 可解释性arXiv:2609.14759 ·

    研究：拒答只读取模型道德表征中的伤害切片

    用几何投影与因果交换干预，分析拒绝机制读取的道德表征

    模型与 API测试OLMo-3-7B-Instruct、OLMo-3-7B base、Qwen2.5-7B-Instruct 等 9 个模型层
    摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。

    本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。

    完整解读
  13. 可解释性arXiv:2607.24645 ·

    研究提出 FEGA 框架分析 SAE 特征干预的 logit 变化几何

    提出 FEGA 框架，分析 SAE 特征消融后的 logit 效应几何

    模型与 API测试Gemma-2-2B、ReLU SAE、TopK SAE 等 4 个模型层
    摘要FEGA 说明可解释且有因果作用的 SAE 特征，仍常常缺少稳定的单一转向方向。

    Feature-Effect Geometry Analysis（FEGA） 把 SAE 特征的下游干预效应当成 logit 空间中的云来分类，用来区分可复用方向、低维结构和弥散效应。

    完整解读
  14. 可解释性arXiv:2609.10060 ·

    研究者提出基于参考的隐藏状态相对表示偏见检测方法

    用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变

    模型与 API测试Llama 3.1-8B-Instruct、Mistral-7B-Instruct-v0.3、Gemma 3-4B-IT模型层
    摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。

    Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。

    完整解读
  16. 分析/可解释性arXiv:2610.01864 ·

    从孤立特征到轨道：通过多重 SAE 对齐发现音乐概念

    作者用音高移调对齐多视角 SAE，在 MuQ 与 MusicFM 上恢复和弦、调性与旋律轨道。MuQ 的下属环可做调检测。

    测试MuQ、MusicFM
    摘要用移调对齐的多 SAE 恢复和弦、调与旋律轨道，并用少量锚点做下游音乐理解。

    作者提出一套面向音乐基础模型的结构可解释性框架：不把 SAE 特征当作孤立概念，而用半音移调把它们连成有序轨道。

    完整解读
  17. 分析/可解释性arXiv:2610.02098 ·

    研究揭示机制可解释性中的目标层恢复缺口

    作者比较同等规模电路的 faithfulness 与固定行为准则，发现 KL 会错排候选，部分恢复完整上下文可修复多数持续性错排。

    测试GPT-2 small、four-layer attention-only width-512 code model、InterpBench compiled transformers
    摘要同等规模下 faithfulness 会错排行为更好的电路。

    作者研究电路发现的评测目标：干预定义的 faithfulness 可能偏好一个规模相同、但在固定行为测试上更差地复现完整模型的电路，即 objective-level recovery gap。

    完整解读
  18. 分析/可解释性arXiv:2610.01821 ·

    研究者提出非线性概念流形发现与对齐方法，用于分析大语言模型内部表示

    作者将 NLMCD 迁到 LLM 残差流，用 CBA 比较非线性概念流形，发现层块结构、训练依赖的英中共享，以及 Tulu-3 中 SFT 偏移最大。

    测试GPT-2、Llama-3.1-8B-Instruct、Qwen3-4B 等 9 个
    摘要NLMCD-NLP 用 CBA 比较非线性概念，层块、语言共享和微调漂移都随模型与阶段而变。

    NLMCD-NLP 把概念建成低维非线性流形，用 CBA 比较 LLM 在层、规模、语言和训练阶段上的表示，而不把相似度压成一个全局线性统计量。

    完整解读
  19. 分析/可解释性arXiv:2610.00895 ·

    DiDAE：面向视觉基础模型的快速解耦反事实解释方法

    DiDAE 在冻结视觉基础模型上做无梯度、按字典分量的反事实编辑。

    测试ResNet-18、CLIP ViT-L/14、PLIP 等 8 个
    摘要DiDAE 用无梯度字典编辑生成解耦反事实，并用于修正与排序。

    DiDAE 用冻结视觉基础模型和一个解耦字典，生成按分量编辑的视觉反事实，再拿去修正依赖伪相关的分类器，或给字典原子按“是否真能翻转该分类器”排序。

    完整解读
加载更多