跳到正文
10月8日 · 周四

全部论文

找到 5 篇
筛选1

模型自身风险

欺骗与谋划4奖励作弊8失准与价值偏离4Agent 危险操作10拒答失当8幻觉与编造5偏见与歧视1

防御类型

推理时干预3检测与过滤1

影响

有害内容1输出被操纵4

系统形态

模型与 API4LLM 应用1

攻击面/入口

用户输入1

层

模型层5

系统组件

护栏与评审1视觉2音频1多模态2

被测模型厂商

Qwen（阿里）5其他5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 1033 篇还没打标签，不在筛选结果里。
模型自身风险：幻觉与编造清除全部

另有 1033 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 可解释性arXiv:2610.04860 ·

    研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

    揭示检索生成中文本水印诱发事实幻觉的机制并提出 FPTI 与 FPAI 干预

    LLM 应用测试LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct模型层
    摘要论文揭示了生产环境文本水印导致模型事实退化的失效模式，分析了解码机制并提出针对性干预。

    论文研究生产级文本水印对大语言模型事实准确性的影响，分析了水印诱发幻觉的失效模式并评估了针对性缓解方案。

    完整解读
  2. 防御arXiv:2607.24017 ·

    多模态大模型注意力中的语义与结构偏差解耦：SPAR 免训练干预方法

    提出 SPAR 免训练干预，分离注意力结构偏置并减轻多模态幻觉

    模型与 API测试LLaVA-v1.5、LLaVA-1.5-7B、LLaVA-NeXT 等 7 个模型层
    摘要SPAR 用显著性净化文本结构偏置并重分配注意力，在 LLaVA 上同时压低自发幻觉、抬升 gaslighting 后准确率。

    SPAR 是一种免训练的 MLLM 推理时干预，用来把注意力里的结构偏置和语义视觉信号分开。

    完整解读
  3. 防御arXiv:2608.30703 ·

    SingProbe 发布开源内在护栏框架，适配 29 个开源模型

    提出内生护栏 SingProbe，复用解码隐状态监测查询意图、回复安全与幻觉

    模型与 API测试Ling-3.0-tiny-singprobe、Ling-3.0-flash-singprobe、Gemini 3 Pro 等 14 个模型层
    摘要SingProbe 用轻量内生探针做生成时三类监测，并给出流式基准与低开销服务接入。

    SingProbe 是面向生成时监测的开源内生护栏：复用基座解码隐状态，而不是另起模型反复编码文本。

    完整解读
  4. 防御arXiv:2609.37568 ·

    SECRET：用源条件化中继引导缓解音视频大语言模型的幻觉

    提出训练无关的 SECRET，对问题表征做源条件转向以缓解音视频模型幻觉

    模型与 API测试VideoLLaMA2-AV-7B、Qwen2.5-Omni-7B、Qwen3-Omni-30B-A3B模型层
    摘要SECRET 在问题状态上做源条件转向，三个 AVLLM 上减轻了跨模态接地幻觉。

    SECRET 是一种训练无关的问题状态转向方法，用来减轻 AVLLM 的 source-confused grounding hallucination。

    完整解读
已经到底了