Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 23 papers

Another 265papers do not have category tags yet and are not included in filtered results.

  1. Attention sees, MLP refuses: tracing the safety pathway from attention to MLP in LLMs

    Trace attention to identify harmfulness to the MLP refusal write pathway and propose Sentinel

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Qwen2.5-7B-Instruct, Qwen3-8B-Instruct and others18
    AbstractAttention updates are more readable for harmfulness, MLP updates write refusal, and Sentinel routes alerts using two-path signals.

    The authors reframe jailbreaking and excessive refusal of aligned models as a pathway problem on the residual stream from recognition to writing, and accordingly provide conditional reminders before decoding.

    Paper analysisRead analysis
  2. DefensesarXiv 2610.11848

    SemField: training-free semantic watermark

    Proposes the semantic watermark SemField, which still identifies the attribution of generated text after paraphrasing and structural changes.

    Published
    Evaluated models
    Llama-3.2-1B, Qwen3-1.7B, OPT-1.3B
    AbstractTraining-independent document-level semantic watermark.

    SemField is a zero-bit semantic watermark embedded by the provider at generation time and detected later with a key, used to identify the provider's own model text after paraphrasing and sentence-level structural changes.

    Paper analysisRead analysis
  3. DefensesarXiv 2610.08316

    MARCO:面向蛋白质生成模型的放射性水印框架

    提出 MARCO 放射性水印,冻结蛋白质生成模型并在去噪时嵌入签名

    Published
    Attacker
    Black-box
    Evaluated models
    RFdiffusion, ESMFold, Chroma and others6
    AbstractMARCO 在冻结的 PGM 上去噪时嵌构象水印,作者称能兼顾保真与抗扰动,并使盗版模型继承水印。

    MARCO 是加在蛋白质生成模型推理过程上的构象水印,用来标记知识产权,并为可能的生物安全滥用保留可追溯信号。作者还把它说成数字权利管理工具,以及符合生物武器公约的数字监管链。问题在于:专有 PGM 的三维输出可能被拿去训练盗版模型,也可能在来源被抹掉后绕过筛查。

    Paper analysisRead analysis
  4. DefensesarXiv 2610.04763

    UT Austin 将 SynthID 水印嵌入基因组语言模型,凭 DNA 序列和密钥追溯 AI 生成片段

    把 SynthID 嵌入基因组语言模型采样,并用位置无关检测追溯生成序列

    Published
    Evaluated models
    Carbon-500M, GENERator-v2-eukaryote-1.2b-base
    Abstract两个六碱基基因组模型嵌入 SynthID 后,位置无关验证能找回水印,作者称这只是统计检测。

    作者在两个六碱基基因组模型的采样里嵌入 SynthID,并让验证者在不知道起点、链和 token phase 时做一次校正后的检出。

    Paper analysisRead analysis
  5. 研究:合成数据溯源识别在改写后准确率大幅下降

    检验合成数据来源识别是否等于再训练适配筛选

    Published
    Evaluated models
    Qwen2.5-3B-Instruct, DistilRoBERTa, word TF-IDF logistic regression and others5
    Abstract来源识别在原文上准确,改写后精确归因下降。

    作者在金融风险文本上把来源识别和训练样本是否有用拆成两次测量,并写明这不是电信部署实验。

    Paper analysisRead analysis
  6. DefensesarXiv 2609.37310

    AutoMark:让自动研究流程自主发现更优 LLM 水印方案

    提出 AutoMark,自动搜索并统计检验 LLM 文本水印

    Published
    Evaluated models
    Llama-3.1-8B-Instruct, Qwen3.8-27B, GPT-6 Astra and others5
    AbstractAutoMark 的贡献同时包含搜索出的水印,以及用于约束自动研究误报与评测漏洞的验证框架。

    AutoMark 是一套自动水印研究框架:先检查生成分布和误报性质,再比较检测、编辑鲁棒性与质量,最后人工分析组件并做留出评测。

    Paper analysisRead analysis
  7. DefensesarXiv 2609.36372

    TTMark:超越单 token 熵的成对无失真水印

    提出成对无失真水印 TTMARK,增强低熵下的机器文本检测

    Published
    Evaluated models
    Llama3.2-3B-Instruct, Mistral-v0.3-7B-Instruct, Qwen2.5-7B-Instruct
    AbstractTTMARK 用水印化相邻 token 对利用条件熵,在多种无失真方案上提高检测并保持生成质量。

    TTMARK 是一种成对、无失真的文本水印:对相邻 token 的联合分布重加权,而不是逐 token 独立重加权。

    Paper analysisRead analysis
  8. DefensesarXiv 2609.34744

    现代图像后置水印信道的优化与安全:SNW 方案

    提出带密钥的 SNW,抵御事后图像水印的身份伪造

    Published
    Evaluated models
    SNW
    AbstractSNW 用密钥与满秩各向同性投影提高事后水印的 Shannon 容量,并对 PCA 完全安全。

    Gesny 与 Giboulot 针对生成内容追溯所依赖的多比特事后图像水印,批评端到端 DNN 方案既无容量理论、又无密钥。

    Paper analysisRead analysis
  9. DefensesarXiv 2609.23586

    VidMark:面向视频生成模型知识产权保护的高效水印方案

    提出 VidMark 水印方案,核验视频生成模型的输出来源与所有权

    Published
    Evaluated models
    Stable Video Diffusion (SVD), Open-Sora, Wan
    AbstractVidMark 加解码器引导微调,把模型签名写入 VGM 输出并用于两项核验。

    Huang 等人提出一套面向视频生成模型的生成内嵌水印方案,用来同时判断一条视频是否来自受保护模型,以及一个嫌疑模型是否为该模型的拷贝。

    Paper analysisRead analysis
  10. DefensesarXiv 2609.14257

    DenMark:面向扩散语言模型的鲁棒语义水印

    提出 DenMark,在扩散语言模型去噪时注入可抵抗保义编辑的语义水印

    Published
    Evaluated models
    LLaDA-8B, LLaDA1.5-8B, LLaDA2.0-mini and others4
    AbstractDenMark 用 rollout 在 DLM 去噪中累积语义水印,扫描检测以抵抗保义编辑。

    DenMark 是面向扩散语言模型的语义水印:在去噪的局部更新里注入密钥相关语义信号,并在编辑改变 token 边界后仍检测。现有句子级语义水印要先完成整个语义单元再打分取舍,而 DLM 以任意顺序更新掩码,中间单元不完整。DenMark 把续写划成固定 token 区域,对每个局部候选做不提交的 rollout 补全,按语义分 gb 的平均选择更新,从而沿轨迹累积证据。

    Paper analysisRead analysis
  11. DefensesarXiv 2609.10613

    后验重加权框架解释并缓解多模态大模型上下文越狱

    用后验重加权解释多模态上下文越狱,并提出风险门控的良性示例注入防御

    Published
    Evaluated models
    Qwen3-VL-2B, Qwen3-VL-4B, Qwen3-VL-8B and others8
    Abstract后验重加权解释上下文越狱的缩放,并支持风险门控的良性示例防御。

    Zhang 等把多模态 ICL 越狱写成对齐模型在安全与有害隐模式之间的推理时后验漂移,并据此做风险门控防御。

    Paper analysisRead analysis
  12. DefensesarXiv 2608.25431

    GIFT:通过 GPU 信息流追踪在 LLM 服务中实现用户数据隔离

    提出 GIFT,用加密与 GPU 信息流跟踪隔离共享 LLM 服务中的用户数据

    Published
    Evaluated models
    Qwen2.5-14B, Qwen2.5-32B, Qwen2.5-72B and others6
    AbstractGIFT 以加密隔离加 GPU 信息流规则,在 vLLM 与 DistServe 上强制用户数据隔离,并报告了吞吐开销。

    GIFT 是作者为共享 LLM serving 做的用户数据隔离系统,并有启用机密计算的 GIFT-CC。作者在结论中称它是该场景的首个 IFT 设计。

    Paper analysisRead analysis