防御arXiv 2610.03498
检测与抑制:针对 VLA 模型对抗补丁的机制可解释性防御
提出推理时条件特征抑制,防御 VLA 的视觉对抗补丁
- arXiv
- 2610.03498
- 发表
- 层
- 模型层
- 场景
- 具身与机器人
- 被测模型
- π0.5、SmolVLA
摘要条件抑制与 patch 相关的 SAE 特征,间歇攻击下可提高 SR,持续攻击下则不能。
提出推理时条件特征抑制,防御 VLA 的视觉对抗补丁
摘要条件抑制与 patch 相关的 SAE 特征,间歇攻击下可提高 SR,持续攻击下则不能。
构建 Systemic Risk Index 流水线,把公开基准映到四类系统风险并评测