跳到正文
原文

随着学生模型 rollout 持续,视觉后门不断增长

As Student Rollouts Continue, Visual Backdoors Keep Growing

arXiv:其他 AI 安全论文· arXiv:2611.22446· Zane Fu, Yanzhao Zheng, Jinze Liu, Ziting Qin, Qianshan Wei, Jihuai Zhu, Yipeng Yu, Baohua Dong, Hangcheng Zhu, Ruohui Huang·本站收录· 2 天前· 原文发表攻击· 扫描记录里的位置 →
AI 导读

论文发现,在视觉语言模型(VLM)的 On-Policy Distillation(OPD)后训练中,视觉后门无需显式恶意响应即可传播,投毒比例超过临界阈值后攻击成功率迅速逼近 100%。OPD 不需教师生成的响应,只用教师的概率分布监督学生在线生成的响应,因而看似对后门传播有天然抵抗力;论文通过跨多个模型家族和数据集的实验与理论分析挑战了这一直觉。后门传播由教师分配的异常概率质量持续累积驱动;与离线蒸馏中较渐进的传播不同,OPD 在低投毒比例下后门很少出现。基于这些发现,作者提出一种新的触发器设计,可在零显式触发注入下实现视觉后门传播。作者称这些发现揭示了 OPD 中一种被忽视的后门传播机制,凸显其潜在安全风险。

阅读原文arxiv.org