跳到正文
10月9日 · 周五

可解释性 · 论文

找到 5 篇
筛选4

模型自身风险

欺骗与谋划1奖励作弊1拒答失当1

防御类型

模型加固2监控与审计2

影响

有害内容1监督失效3

系统形态

模型与 API2AI Agent3编程 Agent1网页与电脑操作1

层

模型层23应用层3训练与数据层2

系统组件

护栏与评审1监控器3推理链1微调与开源权重1视觉2多模态2

被测模型厂商

Qwen（阿里）5其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 59 篇还没打标签，不在筛选结果里。
层：应用层层：训练与数据层系统组件：监控器系统组件：多模态话题：可解释性清除全部

另有 59 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2610.04575

    论文提出 Operational Validity Contract，审计激活监控从探针分数到告警策略的有效性

    提出操作有效性契约，审计激活监控的告警策略

    arXiv
    2610.04575
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    Qwen2.5-7B-Instruct、Llama-3.2-3B、Qwen2.5-7B 等 4 个
    摘要论文建立从探针得分到警报策略的审计框架，实证表明高 AUROC 不等于部署有效性，仅支持受限预测价值。

    这篇论文系统评估了大模型智能体激活监控器从离线探针得分向在线警报策略跨越时的统计与操作有效性。

    深度解读完整解读
  2. 分析与理论arXiv 2608.06270

    研究用因果审计揭示多模态模型视觉工具调用的假象

    用因果审计检验视觉工具观察是否真正改变答案

    arXiv
    2608.06270
    发表
    层
    应用层
    场景
    AI Agent
    测试
    DeepEyes、Pixel Reasoner、Mini-o3 等 6 个
    摘要聚合增益集中在 Calibrated 少数轨迹，作者称之为视觉工具使用的错觉。

    对六个 thinking-with-images 模型做因果审计，检查 crop-and-zoom 返回的观察是否中介最终答案。

    深度解读完整解读
  4. 防御arXiv 2609.38645

    用探针引导微调对齐模型且不损失可监控性

    用持续更新的探针做微调，降低有害性并保持线性可监测性

    arXiv
    2609.38645
    发表
    层
    训练与数据层
    场景
    模型与 API
    测试
    Mistral 7B Instruct v0.1、Llama 3 8B Instruct Abliterated、Llama 3 8B Instruct 等 4 个
    摘要持续重拟合的探针可降低有害性、提高诚实性，训练后概念仍能被线性探针读出。

    Probe-guided fine-tuning 把探针分数当作唯一对齐信号，用来推动 harmlessness 与 honesty，并检查训练后这些概念是否仍线性可读。

    深度解读完整解读
已经到底了