跳到正文
原文
arXiv· arXiv:2606.09151· Jiahao Chen, Xing He, Yong Yang, Xinfeng Li, Chunyi Zhou, Junhao Li, Zhe Ma, Tianyu Du, Shouling Ji·本站收录· 原文发表

定制化遭遇攻击:文生图生态中的插件投毒

Customization under Fire: Plugin Poisoning in Text-to-Image Ecosystem

AI 导读

研究者提出 PoisonLoRA 攻击,利用文生图生态中 LoRA 插件分享的信任机制实施供应链投毒,作者称这是该风险的首个系统研究。攻击分两类:概念劫持让被劫持的 LoRA 生成影响舆论、传播宣传的图像;任务注入使 LoRA 仅在密钥激活时生成 NSFW 等有害内容。恶意载荷像病毒一样借 LoRA 合并等创作协作行为传播,每次混搭都成为新载体。实验显示,在 Civitai 和 Liblib 上跨 6 个数据集、4 种场景攻击成功率约 100% 且未被平台检测;投毒 LoRA 迁移到不同基座模型并混搭超过 5 次后仍保持接近 100% 的成功率。

阅读原文arxiv.org