跳到正文
10月8日 · 周四

可解释性 · 论文

找到 7 篇
筛选1

模型自身风险

失准与价值偏离1拒答失当1

影响

输出被操纵1

系统形态

模型与 API7

层

模型层6训练与数据层1

被测模型厂商

Meta12Qwen（阿里）11Google9Ai28OpenAI7Mistral6其他13
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 174 篇还没打标签，不在筛选结果里。
被测模型厂商：OpenAI话题：可解释性清除全部

另有 174 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 分析与理论arXiv:2610.10203 ·

    研究者提出模型生物体多目标验证框架并给出训练建议

    提出模型生物多目标验证与合并训练方法以减少能力损伤

    模型与 API测试gpt-5.4-mini、gpt-5.2、gpt-5.1 等 8 个训练与数据层
    摘要提出多目标验证框架与模型合并训练法，证明模型真实度直接影响可解释性评测。

    本论文提出了一种针对 AI 安全评测用模型生物（Model Organisms）的多目标训练与验证体系。

    完整解读
  2. 可解释性arXiv:2609.14759 ·

    研究：拒答只读取模型道德表征中的伤害切片

    用几何投影与因果交换干预，分析拒绝机制读取的道德表征

    模型与 API测试GPT-OSS-20B、OLMo-3-7B-Instruct、OLMo-3-7B base 等 9 个模型层
    摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。

    本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。

    完整解读
  5. 可解释性arXiv:2610.02098 ·

    研究揭示机制可解释性中的目标层恢复缺口

    比较等规模电路的忠实度与行为准则，揭示目标层恢复缺口

    模型与 API测试GPT-2 small、four-layer attention-only width-512 code model、InterpBench compiled transformers模型层
    摘要同等规模下 faithfulness 会错排行为更好的电路。

    作者研究电路发现的评测目标：干预定义的 faithfulness 可能偏好一个规模相同、但在固定行为测试上更差地复现完整模型的电路，即 objective-level recovery gap。

    完整解读
  6. 可解释性arXiv:2610.01821 ·

    研究者提出非线性概念流形发现与对齐方法，用于分析大语言模型内部表示

    提出残差流上的非线性概念发现与对齐方法，比较模型内部概念结构

    模型与 API测试GPT-2、Llama-3.1-8B-Instruct、Qwen3-4B 等 9 个模型层
    摘要NLMCD-NLP 用 CBA 比较非线性概念，层块、语言共享和微调漂移都随模型与阶段而变。

    NLMCD-NLP 把概念建成低维非线性流形，用 CBA 比较 LLM 在层、规模、语言和训练阶段上的表示，而不把相似度压成一个全局线性统计量。

    完整解读
已经到底了