跳到正文
10月10日 · 周六

全部论文

找到 4 篇
筛选5

防御类型

模型加固4推理时干预4指令与数据隔离0

系统形态

模型与 API4coding agent0网页与电脑操作0

层

模型层4
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 242 篇还没打标签，不在筛选结果里。
防御类型：推理时干预防御类型：指令与数据隔离系统形态：模型与 API系统形态：coding agent系统形态：网页与电脑操作清除全部

另有 242 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 可解释性arXiv 2610.08559

    研究：LLM 潜在空间去偏方向主要编码置信度而非公平性

    分析 LLM 去偏激活方向，发现其编码置信度而非公平性

    arXiv
    2610.08559
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama-3.1-8B、Llama-3.1-8B-Instruct、Falcon3-7B-Base 等 8 个

    摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。

    深度解读完整解读
  3. 可解释性arXiv 2609.04721

    研究：拒答方向可跨架构迁移，安全工具可按写入位置重新估计

    在写入点定位拒答方向，经刚性旋转跨架构迁移并门控放大

    arXiv
    2609.04721
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Falcon-Mamba-7B、Falcon3-Mamba-7B、Llama-3.1-8B 等 8 个
    摘要拒答方向可经刚性旋转跨架构迁移，但必须在各架构的写入点读取。

    作者研究拒答表示是否随架构改变，结论是表示共享、读取位置随架构变。

    深度解读完整解读
  4. 可解释性arXiv 2608.11227

    研究：激活引导的副作用可在引导前预测

    用未转向表征的传播映射预测激活转向副作用

    arXiv
    2608.11227
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Gemma-3-4B、Gemma-3-12B、Qwen2.5-7B
    摘要交叉效应矩阵显示副作用有结构且不对称，并可在转向前由传播映射预测方向。

    激活转向的副作用可以在施加之前预测，而不必先把每个行为都转向一遍。。

    深度解读完整解读
已经到底了