跳到正文
10月12日 · 周一

全部论文

找到 6篇
筛选2

影响

有害内容5输出被操纵6监督失效5

系统形态

模型与 API5

层

提示层3模型层6应用层3训练与数据层5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 233篇还没打标签，不在筛选结果里。
影响：输出被操纵层：模型层清除全部

另有233篇论文还没打上分类标签，暂不在筛选结果里。

  3. 分析与理论arXiv 2610.04860

    研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

    分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预

    arXiv
    2610.04860
    发表
    层
    模型层
    场景
    LLM 应用
    被测模型
    LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct
    摘要论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    深度解读完整解读
  4. 分析与理论arXiv 2609.36477

    研究发现护栏模型在基座模型不确定处过度自信

    诊断护栏相对基座在对抗提示上的置信失校

    arXiv
    2609.36477
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Llama-Guard 7B、Llama-Guard-2 8B、Llama-Guard-3 8B 等10个
    摘要对抗包装使 guard 高置信漏检，而对应 base 在同一输入上常更不确定。

    诊断性分析：五个提示词分类 guard 的置信度，在清洁输入上可以较校准，在越狱包装后则变成高置信度的错误判定。

    深度解读完整解读
  6. 分析与理论arXiv 2602.09789

    少即是多：上下文压缩中的 LLM 规模悖论

    分析上下文压缩中更大压缩器保真反而更差的悖论

    arXiv
    2602.09789
    发表
    层
    模型层
    场景
    模型与 API
    被测模型
    Qwen3-0.6B、Qwen3-1.7B、Qwen3-4B 等9个
    摘要更大压缩器可以降低损失并提高重构分，但覆写与漂移问答往往更差。

    作者报告上下文压缩中的 Size-Fidelity Paradox：压缩器更大时，重构可以更好，对原文的保真却可以更差。

    深度解读完整解读
已经到底了