研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预
Invisible Ink, Visible Lies
AI 导读
研究者提出“水印幻觉”概念，指在上下文已包含所需证据、未加水印模型能正确作答的情况下，水印本身诱发或放大的事实错误。在受控 RAG 设定下，作者对比同一上下文、查询和解码配置下的加水印与未加水印生成，覆盖 KGW、SWEET、DiPmark、GumbelSoft、Gumbel-Max 和 SynthID 六种水印方法，一致观察到事实准确率下降，且水印输出仍可保持流畅。作者将成因归结为两条机制：当前步由方法特定重加权或键控采样带来的 token 扰动，以及随自回归解码累积、削弱后续对事实上下文注意力的前缀诱导注意力漂移。为此提出 token 级和注意力级的两种可插拔干预 FPTI 与 FPAI，在 TPR@1%FPR=0.90 时联合使用可将事实错误相对仅水印解码减少约 90%，同时保持流畅度和相近解码效率。
推荐理由
论文在受控 RAG 设定下量化六种水印方法带来的事实准确率下降，并给出可插拔的缓解方案，为水印部署提供事实性评估维度。