跳到正文
10月12日 · 周一

全部论文

找到 6篇
筛选2

影响

有害内容18越权操作3输出被操纵6监督失效5滥用能力提升0

系统形态

模型与 API3

层

模型层6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 233篇还没打标签，不在筛选结果里。
影响：输出被操纵影响：滥用能力提升清除全部

另有233篇论文还没打上分类标签，暂不在筛选结果里。

  2. 可解释性arXiv 2610.06576

    研究：智能体欺骗行为在外部显现前已可从内部表征预测

    提出基于决策前隐藏状态的检测与引导，预测并抑制智能体欺骗

    arXiv
    2610.06576
    发表
    层
    模型层
    场景
    AI Agent
    被测模型
    Qwen3-14B

    摘要论文展示了智能体自发欺骗可在行为显现前由内部表征预测，并通过激活引导证实了表征的行为可操作性。

    深度解读完整解读
  3. 可解释性arXiv 2609.37737

    研究用因果激活修补定位模型服从提示注入指令的决策层

    用因果激活修补定位模型服从提示注入的决策层

    arXiv
    2609.37737
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen3-4B、Qwen3-14B、Qwen3-32B 等7个
    摘要合规的因果杠杆集中在网络后三分之一的低秩子空间，该层也是混淆下检测最好的位置。

    这篇工作用逐层激活修补定位提示注入合规发生在网络何处，并把该位置用于检测验证。。

    深度解读完整解读
  5. 可解释性arXiv 2609.08173

    基于 SAE 引导的关键路径识别（KPI）解决知识冲突

    提出 KPI，用入度定位跨层关键路径并做 SAE 转向以解决知识冲突

    arXiv
    2609.08173
    发表
    层
    模型层
    场景
    LLM 应用
    被测模型
    Llama-3-8B、Llama-3.1-8B、Gemma-2-9B
    摘要KPI 以入度关键路径替代大批 SAE 特征转向，在冲突 RAG 上提高忠实并减轻副作用。

    KPI 针对知识冲突 RAG 中的 SAE 转向：相关性批量改特征会带入冗余，少量因果上关键的特征即可完成转向。

    深度解读完整解读
  6. 可解释性arXiv 2609.03148

    LLM 如何处理上下文知识冲突：ContextConflict 数据集与机制可解释性分析

    构建 CONTEXT CONFLICT 解释模型如何表征并化解语境知识冲突

    arXiv
    2609.03148
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    gpt-5、claude-4.5-sonnet、gemini-2.5-pro 等7个
    摘要CONTEXT CONFLICT 显示模型能内部察觉冲突，却偏向靠前证据。

    CONTEXT CONFLICT 把问题从“参数知识对外部语境”转到“语境内部多来源证据互相冲突”，并同时给出数据、机制分析和一种无训练转向。

    深度解读完整解读
已经到底了