跳到正文
10月8日 · 周四

全部论文

找到 6 篇
筛选1

攻击类型

越狱1投毒与后门1

模型自身风险

失准与价值偏离1幻觉与编造1

防御类型

推理时干预1检测与过滤1

影响

有害内容9越权操作2数据与隐私泄露2输出被操纵6可用性与可靠性2监督失效3

系统形态

模型与 API5LLM 应用1

攻击面/入口

用户输入1训练数据1

层

提示层1模型层4训练与数据层1

系统组件

护栏与评审2

被测模型厂商

Meta5其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1049 篇还没打标签，不在筛选结果里。
影响：输出被操纵清除全部

另有 1049 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 可解释性arXiv:2610.04860 ·

    研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

    揭示检索生成中文本水印诱发事实幻觉的机制并提出 FPTI 与 FPAI 干预

    LLM 应用测试LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct模型层
    摘要论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    完整解读
  4. 分析与理论arXiv:2610.02886 ·

    研究揭示无触发投毒审计缺口：事实答对不等于决策正确

    揭示无触发虚假训练下事实回答与下游决策的审计差距

    模型与 API测试Qwen2.5-0.5B、Qwen2.5-1.5B、Qwen2.5-3B 等 9 个训练与数据层
    摘要作者发现无触发词虚假训练下事实回答与下游决策存在脱节，直接审计与事实纠错均无法保证决策正确。

    论文是一项针对语言模型在无触发词虚假信息训练下行为表现的实证分析研究。

    完整解读
  5. 分析与理论arXiv:2609.36477 ·

    研究发现护栏模型在基座模型不确定处过度自信

    诊断护栏相对基座在对抗提示上的置信失校

    模型与 API测试Llama-Guard 7B、Llama-Guard-2 8B、Llama-Guard-3 8B 等 10 个模型层
    摘要对抗包装使 guard 高置信漏检，而对应 base 在同一输入上常更不确定。

    诊断性分析：五个提示词分类 guard 的置信度，在清洁输入上可以较校准，在越狱包装后则变成高置信度的错误判定。

    完整解读
已经到底了