PermaFrost-Attack：以隐蔽预训练投毒（SPS）在 LLM 训练中埋设逻辑地雷
PermaFrost-Attack: Stealth Pretraining Seeding(SPS) for planting Logic Landmines During LLM Training
AI 导读
研究者提出名为 PermaFrost 的隐蔽预训练投毒（SPS）攻击：攻击者在隐蔽网站散布少量、分散且表面无害的投毒内容，使其更有可能被 Common Crawl 等来源的未来训练语料吸收，形成潜伏性投毒，在标准评测下基本不可见，之后可被精确触发器激活。论文构建了受控的潜在概念投毒框架 PermaFrost-Attack，并提出热力学长度、谱曲率和感染追溯图三种几何诊断方法。在多个模型家族和规模上的实验显示，这种受控 SPS 代理能诱发持续的不安全行为，且常在标准评测下保持隐藏。作者称 SPS 是对未来基础模型实际存在且被低估的威胁。