量化基因组语言模型的记忆化与隐私风险
Quantifying Memorization and Privacy Risks in Genomic Language Models
AI 导读
研究者提出一个多向量隐私评估框架，用于量化基因组语言模型（GLM）的记忆化风险。该框架整合困惑度检测、canary 序列提取和成员推断三种方法，组成统一评估流程并输出最坏情况记忆化风险分数。为实现受控评估，作者在合成与真实基因组数据集中以不同重复率植入 canary 序列，量化重复程度和训练动态对记忆化的影响。在多种 GLM 架构上的评估显示，GLM 存在可测量的记忆化，程度因架构和训练方式而异；作者称单一攻击向量无法覆盖全部记忆化风险，主张将多向量隐私审计作为基因组 AI 系统的标准实践。