跳到正文
10月8日 · 周四

全部论文

找到 5 篇
筛选9

攻击类型

提示注入1

模型自身风险

失准与价值偏离1幻觉与编造1

防御类型

推理时干预2

影响

有害内容8越权操作2数据与隐私泄露1输出被操纵5监督失效4

系统形态

模型与 API3LLM 应用2

攻击面/入口

用户输入1检索语料1

层

模型层5

系统组件

RAG1

被测模型厂商

其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 701 篇还没打标签，不在筛选结果里。
影响：输出被操纵被测模型厂商：OpenAI被测模型厂商：Google被测模型厂商：Qwen（阿里）被测模型厂商：Meta被测模型厂商：Mistral被测模型厂商：xAI被测模型厂商：Ai2被测模型厂商：其他清除全部

另有 701 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 可解释性arXiv 2610.04860

    研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

    揭示检索生成中文本水印诱发事实幻觉的机制并提出 FPTI 与 FPAI 干预

    arXiv
    2610.04860
    发表
    层
    模型层
    场景
    LLM 应用
    测试
    LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct
    摘要论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    深度解读完整解读
  3. 可解释性arXiv 2609.03148

    LLM 如何处理上下文知识冲突：ContextConflict 数据集与机制可解释性分析

    构建 CONTEXT CONFLICT 解释模型如何表征并化解语境知识冲突

    arXiv
    2609.03148
    发表
    层
    模型层
    场景
    模型与 API
    测试
    gpt-5、gemini-2.5-pro、gpt-oss-120b 等 7 个
    摘要CONTEXT CONFLICT 显示模型能内部察觉冲突，却偏向靠前证据。

    CONTEXT CONFLICT 把问题从“参数知识对外部语境”转到“语境内部多来源证据互相冲突”，并同时给出数据、机制分析和一种无训练转向。

    深度解读完整解读
  4. 可解释性arXiv 2609.08173

    基于 SAE 引导的关键路径识别（KPI）解决知识冲突

    提出 KPI，用入度定位跨层关键路径并做 SAE 转向以解决知识冲突

    arXiv
    2609.08173
    发表
    层
    模型层
    场景
    LLM 应用
    测试
    Llama-3-8B、Llama-3.1-8B、Gemma-2-9B 等 4 个
    摘要KPI 以入度关键路径替代大批 SAE 特征转向，在冲突 RAG 上提高忠实并减轻副作用。

    KPI 针对知识冲突 RAG 中的 SAE 转向：相关性批量改特征会带入冗余，少量因果上关键的特征即可完成转向。

    深度解读完整解读
  5. 可解释性arXiv 2609.37737

    研究用因果激活修补定位模型服从提示注入指令的决策层

    用因果激活修补定位模型服从提示注入的决策层

    arXiv
    2609.37737
    发表
    层
    模型层
    场景
    模型与 API
    测试
    Qwen3-4B、Qwen3-14B、Qwen3-32B 等 7 个
    摘要合规的因果杠杆集中在网络后三分之一的低秩子空间，该层也是混淆下检测最好的位置。

    这篇工作用逐层激活修补定位提示注入合规发生在网络何处，并把该位置用于检测验证。。

    深度解读完整解读
已经到底了