AI Safety Daily 5 月 3 日:VLA 模型安全综述、Spore 记忆提取攻击与多轮越狱基准
[AI Safety Daily] AI Safety Daily — May 3, 2026
AI 导读
5 月 3 日的 AI Safety Daily 汇总多项研究:Li 等人综述视觉-语言-动作(VLA)模型面临的数据投毒、对抗补丁与语义越狱威胁,指出文本模型防御无法直接迁移到有物理后果的机器人系统;Cui 等人的免训练 Spore 攻击在推理时探测智能体记忆,对安全对齐模型查询效率高;Yuan 等人的 AgenticRed 用进化搜索优化红队管线,在 HarmBench 上攻击成功率高于固定攻击者设计。