DarkLLM：用大语言模型学习语言驱动的对抗攻击
DarkLLM: Learning Language-Driven Adversarial Attacks with Large Language Models
AI 导读
研究者提出 DarkLLM 攻击框架，训练一个大语言模型把自然语言攻击指令转化为潜在攻击向量，再解码成视觉对抗扰动。借助自然语言指令微调，该框架把定向、非定向、分割和多模型攻击统一在同一框架内，每条指令可生成在异构模型上诱导期望行为的扰动。在覆盖 4 项任务、13 个数据集和 15 个模型的实验中，仅 1B 参数的 DarkLLM 能遵循攻击者指令，对 CLIP、SAM 和前沿大语言模型生成高度有效的攻击；作者称这揭示了现代基础模型的系统性弱点。