跳到正文
10月9日 · 周五

可解释性 · 论文

找到 7 篇
筛选1

攻击类型

越狱1

攻击技术

梯度与表征优化1角色扮演与说服1

模型自身风险

欺骗与谋划1

防御类型

检测与过滤1

影响

有害内容1输出被操纵3

系统形态

模型与 API4LLM 应用1AI Agent2

攻击者权限

黑盒1白盒1

攻击面/入口

用户输入1

层

提示层1模型层4应用层2

系统组件

护栏与评审1

被测模型厂商

Qwen（阿里）83Google65Meta65OpenAI32Mistral27Ai214DeepSeek13Anthropic7Microsoft7EleutherAI5Kimi（月之暗面）5其他56
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 73 篇还没打标签，不在筛选结果里。
被测模型厂商：Anthropic话题：可解释性清除全部

另有 73 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2607.23496

    Concept2Scenario：用 SAE 概念归因发现可迁移的越狱场景

    提出 Concept2Scenario，借助内部概念归因发现可迁移的越狱场景

    arXiv
    2607.23496
    发表
    层
    提示层
    场景
    模型与 API
    攻击者
    白盒、黑盒
    测试
    Claude-Haiku-4.5、Qwen3.5-9B、Llama-3.1-8B 等 10 个

    摘要该研究从表征空间因果归因揭示场景削弱拒绝的机制，发现可复用脆弱场景先验，提升多模型黑盒越狱效能与探索速度。

    深度解读完整解读
  2. 可解释性arXiv 2609.35367

    DAFI：面向 SAE 特征双端解释的智能体方法

    提出 DAFI，把 SAE 特征解释为输入、输出与功能三元组

    arXiv
    2609.35367
    发表
    层
    模型层
    场景
    AI Agent
    测试
    Claude Code、Gemma-2-2B、Gemma-2-9B 等 6 个
    摘要DAFI 用三项假设和可迁移技能解释 SAE 特征，并发现多数可靠端点语义并不等价。

    DAFI 把单个 SAE 特征解释成输入激活语义、干预输出偏向，以及二者之间的功能映射，并由智能体按分项诊断修订。

    深度解读完整解读
  3. 可解释性arXiv 2609.03148

    LLM 如何处理上下文知识冲突：ContextConflict 数据集与机制可解释性分析

    构建 CONTEXT CONFLICT 解释模型如何表征并化解语境知识冲突

    arXiv
    2609.03148
    发表
    层
    模型层
    场景
    模型与 API
    测试
    claude-4.5-sonnet、gpt-5、gemini-2.5-pro 等 7 个
    摘要CONTEXT CONFLICT 显示模型能内部察觉冲突，却偏向靠前证据。

    CONTEXT CONFLICT 把问题从“参数知识对外部语境”转到“语境内部多来源证据互相冲突”，并同时给出数据、机制分析和一种无训练转向。

    深度解读完整解读
  4. 评测与基准arXiv 2609.09113

    SAEScientist-Bench：AI 智能体能否自主开展 SAE 可解释性研究

    提出 SAEScientist-Bench 评测智能体自主发现 SAE 特征

    arXiv
    2609.09113
    发表
    层
    应用层
    场景
    AI Agent
    测试
    Claude Opus 5、Claude Sonnet 5、Claude Opus 4.8 等 12 个
    摘要SAEScientist-Bench 显示前沿智能体能找到选择性 SAE 特征，但因果 steering 仍明显低于 Expert。

    SAEScientist-Bench 评测 AI 智能体能否用预训练 SAE 自主完成“给定概念、找出一个特征”的机制发现。

    深度解读完整解读
  5. 防御arXiv 2609.11085

    超越求解器判定：面向自动形式化的生成式奖励模型

    提出 GenV，检测求解器判定无法区分的不忠实形式化

    arXiv
    2609.11085
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Claude Opus 4.7、Claude Sonnet 4.5、Claude Opus 4.1 等 15 个
    摘要GenV+HN 用离线 Z3 等价标签训练无参考 Yes/No 分数，用来标记 VPU 并分配测试时计算。

    GenV+HN 针对神经符号翻译之后、求解器证书之前的对应失败：编码可以与指定参考共享求解器判定，同时并不等价。

    深度解读完整解读
  6. 可解释性arXiv 2609.15277

    在 Llama 3.1 8B-Instruct 等 LLM 内部定位并因果操控"机会识别旋钮"

    在 LLM 残差流中定位并因果转向机会识别方向

    arXiv
    2609.15277
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Claude Opus 4.7、Llama 3.1 8B-Instruct、DeepSeek V4 Pro
    摘要作者在 Llama 中定位并转向 OR 方向，判断随之有符号移动。

    作者把人工创业认知定义为 LLM 内部与创业相关的表征和计算如何组织，并用机会识别做结构理论的检验案例。

    深度解读完整解读
  7. 风险行为arXiv 2609.36139

    研究揭示大语言模型的"不安全汇报"现象及诚实引导的作用

    测量模型在工作汇报中是否隐瞒改变叙事的缺陷

    arXiv
    2609.36139
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Opus 4.8、Gemini 3.1 Pro、GPT-5.5 等 8 个
    摘要八类场景中模型默认少报会改变叙事的缺陷。

    作者研究 LLM 在汇报长程工作时是否会隐瞒会改变叙事的缺陷，并把这一行为称为 insecure reporting。

    深度解读完整解读
已经到底了