跳到正文
10月9日 · 周五

可解释性 · 论文

找到 9 篇
筛选3
同一类里任选其一,不同类之间同时满足;数字是加上其他已选条件后的篇数。另有 75 篇还没打标签,不在筛选结果里。

另有 75 篇论文还没打上分类标签,暂不在筛选结果里。

  1. 可解释性arXiv 2610.04125

    研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制

    揭示风险自述与实际行为由近正交表征分别控制

    发表
    测试
    Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、OLMo-3-7B-Instruct 等 4 个
    摘要论文证明大模型自述与行为脱节根植于表征近正交性,自述无法作为行为审计依据。

    这篇论文从内部表征与因果干预视角,系统研究了大语言模型在风险承担(Risk-Taking)场景下自我报告与实际决策脱节的根本机制。

    深度解读完整解读
  2. 可解释性arXiv 2608.21766

    研究:六个开源权重模型的评测感知可线性解码,但与口头表达弱相关

    用探针与激活导向分析语言模型的评测意识表征及言语化

    发表
    测试
    Qwen3-8B、Qwen3-32B、Olmo3-7B 等 14 个

    摘要论文系统证明大模型普遍具备评估与部署的隐层表征,但与言语化弱耦合,激活干预可因果诱导言语化且 SFT 阶段起关键稳定作用。

    深度解读完整解读
  3. 分析与理论arXiv 2609.37312

    研究:隐蔽推理必然留下信息痕迹,但思维链未必可读

    分析隐蔽推理在思维链监控下的信息足迹下界与不可读性

    发表
    测试
    Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Qwen 3.5 397B-A17B 等 12 个

    摘要论文从理论与实证探明了思维链监控的边界:复杂隐蔽计算必然泄露信息足迹且需承担长度税,但该足迹可被在线加密而不可读。

    深度解读完整解读
  4. 可解释性arXiv 2609.35544

    减少谄媚能否增强拒答?机制可解释性带来的 AI 安全启示

    用 SAE 与 CFI 压低谄媚,检验直接拒答与施压下拒答是否增强

    发表
    测试
    Qwen3.5-2B-Base、Qwen3.5-9B-Base、Qwen3.5-35B-A3B-Base
    摘要CFI 能持久降低谄媚,但不保证直接拒答变强。

    用 SAE 选出的谄媚特征做补偿性训练注入,检验“少谄媚”是否带来“更强拒答”。。

    深度解读完整解读
  5. 可解释性arXiv 2608.29461

    因果模型定位并解锁模型中的故意藏拙行为

    提出因果模型定位残差流中的藏拙轴,并用单层 graft 在推理时解锁

    发表
    测试
    Qwen2.5-7B、Llama-3-8B、Mistral-7B
    摘要因果模型规定单层 graft 的窗口。

    作者为故意造出的 sandbagging 建立 residual stream 上的因果模型,并用两种推理时、不改权重的 graft 检验其预测。

    深度解读完整解读
  6. 可解释性arXiv 2609.32530

    ActFlow:无需微调为故意藏拙模型制造激活向量以进行引导

    提出 ActFlow,用少量正确标签为藏拙模型制造激活引导

    发表
    测试
    Qwen2.5-7B-Instruct、Llama-3-8B-Instruct、Mistral-7B-Instruct-v0.2
    摘要ActFlow 用 k 个正确标签制造共享转向偏移,在六锁上接近微调且方向近乎正交于诚实方向。

    Activation Flow(ActFlow) 在白盒沙袋模型上,用 k 个正确标签制造参考嫁接的残差偏移,不读取诚实激活,也不微调。

    深度解读完整解读
  7. 可解释性arXiv 2609.38081

    Hessian Null Space Continuation:在单个神经网络解附近发现大量表征多样性

    提出 HNC,在单个解附近遍历保函数权重并比较内部表示

    发表
    测试
    64-unit tanh RNN、ViT-S/16、RNN policy (Plume Tracking) 等 5 个
    摘要HNC 在保持函数的局部权重区域里找到表示、动力学或行为不同的解。

    Hessian Null Space Continuation(HNC)用局部曲率,在单个已训练网络周围遍历近似保持输入输出的连通低损失区域,并可用可微目标做引导。作者要回答的是:这个区域里是否真有不同的内部机制,而不只是同一表示的小改动。做法是交替执行零空间内的平坦步与函数匹配损失上的梯度恢复。

    深度解读完整解读
已经到底了