跳到正文
10月9日 · 周五

可解释性 · 论文

找到 7 篇
筛选3
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 80 篇还没打标签,不在筛选结果里。

另有 80 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 评测与基准arXiv 2610.04575

    论文提出 Operational Validity Contract,审计激活监控从探针分数到告警策略的有效性

    提出操作有效性契约,审计激活监控的告警策略

    发表
    测试
    Qwen2.5-7B-Instruct、Llama-3.2-3B、Qwen2.5-7B 等 4 个
    摘要论文建立从探针得分到警报策略的审计框架,实证表明高 AUROC 不等于部署有效性,仅支持受限预测价值。

    这篇论文系统评估了大模型智能体激活监控器从离线探针得分向在线警报策略跨越时的统计与操作有效性。

    深度解读完整解读
  2. ObserverBench:用干预与控制任务检验机制可解释性估计

    提出 ObserverBench,比较机制估计精度与动作损失

    发表
    测试
    two-block Transformers、GPT-2-small、Qwen2.5-7B 等 6 个
    摘要ObserverBench 在固定决策下分开报告估计精度与动作损失,三者可以不一致。

    ObserverBench 评测一个内部观察器是否够格指导某项具体干预、闭环或安全策略,而不是只看平均估计精度。

    深度解读完整解读
  3. LLM 如何处理上下文知识冲突:ContextConflict 数据集与机制可解释性分析

    构建 CONTEXT CONFLICT 解释模型如何表征并化解语境知识冲突

    发表
    测试
    gpt-5、claude-4.5-sonnet、gemini-2.5-pro 等 7 个
    摘要CONTEXT CONFLICT 显示模型能内部察觉冲突,却偏向靠前证据。

    CONTEXT CONFLICT 把问题从“参数知识对外部语境”转到“语境内部多来源证据互相冲突”,并同时给出数据、机制分析和一种无训练转向。

    深度解读完整解读
  4. 多语言 LLM 在语义保持结构扰动下的结构敏感性:IndicReStruct 基准与机制可解释性分析

    构建 IndicReStruct,评测保语义结构扰动下的多语言数学推理

    发表
    测试
    Gemma-2-9B-it、Gemma-2-27B-it、GPT-OSS-20B 等 7 个
    摘要保语义的重排和语态变化会降低印地语与马拉雅拉姆语数学推理准确率,轻量微调未能补上。

    IndicReStruct 用保语义的成分重排和语态变换,检验多语言 LLM 的数学推理是否依赖表层语序。

    深度解读完整解读
  5. SAEScientist-Bench:AI 智能体能否自主开展 SAE 可解释性研究

    提出 SAEScientist-Bench 评测智能体自主发现 SAE 特征

    发表
    场景
    AI Agent
    测试
    Kimi K3、Claude Opus 5、Claude Sonnet 5 等 12 个
    摘要SAEScientist-Bench 显示前沿智能体能找到选择性 SAE 特征,但因果 steering 仍明显低于 Expert。

    SAEScientist-Bench 评测 AI 智能体能否用预训练 SAE 自主完成“给定概念、找出一个特征”的机制发现。

    深度解读完整解读
  6. 评测与基准arXiv 2609.13556

    Llama-3.1 医学微调模型在专业术语理解上为何不如通用版:一项机制可解释性对比分析

    提出 JU 与 JI 基准,并用组件分解定位术语知识

    发表
    测试
    Llama-3.1-8B-Instruct、Llama-3.1-8B-UltraMedical
    摘要医学微调的 UltraMedical 在两项术语任务上不如 Instruct,偏差来自少数组件被加重。

    作者用两项术语基准和组件分解,比较通用与医学微调的 Llama-3.1-8B 如何编码领域术语。。

    深度解读完整解读
  7. 评测与基准arXiv 2608.28233

    REINS:用 SAE 特征同时抑制有害续写并增强拒答的引导方法

    提出 REINS,在 SAE 空间抑制有害延续并增强拒答

    发表
    测试
    Qwen3.5-4B-Base、Qwen3.5-2B-Base、Gemma-3-1B-IT
    摘要REINS 分角色抑制有害延续并增强拒答。

    REINS 是一种推理时 SAE 安全转向方法,并配有用于上下文伪装的基准 GUISE。

    深度解读完整解读
已经到底了