AttacksarXiv 2610.09708
研究者提出利用祖先 VLM 的黑盒对抗补丁攻击，可降低 VLA 任务成功率
提出利用祖先 VLM 优化对抗补丁，使已部署 VLA 任务失败
- arXiv
- 2610.09708
- Published
- Layer
- Prompt layer
- Evaluated models
- OpenVLA, UniVLA, π0.5
- TechniqueGradient and representation optimization
- ComponentVision
All papers
Filter4
Attack technique
Model risks
Impact
System type
Attack surface / entry point
Layer
System component
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 233papers have no tags yet and are not included in filtered results.
Another 233papers do not have category tags yet and are not included in filtered results.
审计发现 CLIP 安全分数主要反映画面与提示词场景的相似度
开环审计冻结视觉语言安全分，发现其反映场景模板而非危险感知
- arXiv
- 2610.09517
- Published
- Layer
- Model layer
- Evaluated models
- CLIP ViT-B/32, CLIP ViT-L/14, Qwen2-VL-7B
- ComponentVision
Abstract论文审计了冻结 VLM 安全评分机制，指出其反映场景模板而非危险感知，为安全强化学习评估提供了严谨基准。
本文是一项针对安全强化学习中冻结视觉语言模型（VLM）安全评分机制的实证审计研究。
- OtherarXiv 2610.08917
CARE：为视觉-语言-动作模型推理加速提供认证式选择
提出 CARE，离线认证 VLA 加速配置的回合级失败风险并选出最快合格候选
- arXiv
- 2610.08917
- Published
- Layer
- Model layer
- Evaluated models
- OpenVLA-OFT, π0.5, π0 and others5
AbstractCARE 以配对回合认证加速诱发失败，在预算内选最快候选，不足则保留参考。
CARE 在部署前从加速配置中选出最快、且加速诱发失败风险能被有限样本认证为低于用户预算的候选。证据不足就保留全计算参考策略。
- AttacksarXiv 2610.06814
TAPDreamer：可跨任务迁移的世界动作模型对抗补丁
TAPDreamer 用公开编码器做固定补丁。
- arXiv
- 2610.06814
- Published
- Layer
- Prompt layer
- Evaluated models
- FastWAM, DreamWAM-uncond, DreamWAM-joint and others4
- TechniqueGradient and representation optimization
- ComponentVision
ControlPed 生成逼真行人危险动作场景，七款端到端驾驶模型 HDScore 从 88.8 降至 47.4
提出 ControlPed 与 HazardPed，生成可控行人危险场景并评测端到端驾驶
- arXiv
- 2610.06171
- Published
- Layer
- Model layer
- Evaluated models
- DiffusionDrive, SSR, VAD and others7
- ComponentVideo
- AttacksarXiv 2610.06083
研究者提出面向深度强化学习的轨迹级可迁移黑盒对抗攻击
提出轨迹级可迁移对抗攻击，降低深度强化学习策略的期望回报
- arXiv
- 2610.06083
- Published
- Layer
- Model layer
- Evaluated models
- DQN, Double DQN (DDQN)
Abstract轨迹级后退视界攻击在 CartPole 上比逐步 FGSM 类和 Sign 噪声更压低回报。
这项工作研究 DRL 上的迁移式黑盒观测攻击：受害参数不可访问时，在白盒代理上造扰动再迁移。
研究显示 VLA 模型文本护栏漏检隐含危害指令
评测文本守卫与激活探针能否拦住机器人隐含伤害指令
- arXiv
- 2610.05818
- Published
- Layer
- Prompt layer
- Evaluated models
- π0.5, OpenVLA-OFT, Llama Guard 3 and others10
- RiskDangerous agent actions
- ComponentGuardrails and judges
- OtherarXiv 2610.05689
研究者提出用可逆神经网络为 AI 控制系统寻找可证明的前向不变集
提出用可逆网络为给定 AI 控制器寻找可证明前向不变集
- arXiv
- 2610.05689
- Published
- Layer
- Model layer
- Evaluated models
- Pendulum AI-controller, Cart pole AI-controller, PVTOL AI-controller
Abstract用潜空间超矩形加解析验证，为事先给定的 AI 控制器寻找 FIS。
本文处理的是认证场景：AI 控制器事先给定，不能为了构造 Lyapunov 函数去改控制器，却仍要给出可解析核验的安全依据。
- DefensesarXiv 2610.05166
安全动作不等于可行动作：VICS-G 为 VLA 策略做可行未来解码
提出 VICS-G 可行未来解码，重排冻结 VLA 策略的动作候选
- arXiv
- 2610.05166
- Published
- Layer
- Model layer
- Evaluated models
- SafeVLA (task-optimized / base), SafeVLA (safety-aligned / safe)
Abstract作者用可行未来解码重排冻结 VLA 的下一步，并称 VICS-G 降低观测代价且完成率接近策略采样。
训练无关解码器 VICS 在冻结 VLA 的推理阶段重排动作块，使当前选择带上该动作仍可能留下的安全完成质量。
- DefensesarXiv 2610.03498
检测与抑制：针对 VLA 模型对抗补丁的机制可解释性防御
提出条件特征抑制防御，检出对抗补丁后抑制 VLA 内部特征
- arXiv
- 2610.03498
- Published
- Layer
- Model layer
- Evaluated models
- π0.5, SmolVLA
- DefensesInference-time intervention
- ComponentVision
Abstract条件抑制与 patch 相关的 SAE 特征，间歇攻击下可提高 SR，持续攻击下则不能。
- Risky behaviorarXiv 2609.38971
研究测量并预测具身 VLM 规划器中任务的拒答可变性
测量并预测具身 VLM 规划器的任务拒答可变性
- arXiv
- 2609.38971
- Published
- Layer
- Model layer
- Evaluated models
- gemini-robotics-er-2-preview, gemini-robotics-er-1.6-preview
- RiskInappropriate refusal
- ComponentVision
Abstract日常物体能翻转一部分已给出的拒答，可翻转程度取决于任务且可被本地代理预测。
作者测量 constitution 守护的具身 VLM 规划器：一次拒答在只往场景里放一个日常物体之后还保不保持得住，并把这种易翻转程度称为任务的 malleability。
SafeStage：按执行前中后三阶段评测视觉语言机器人操作安全
提出 SafeStage 基准，分阶段评测视觉语言机器人操作的物理安全
- arXiv
- 2609.21223
- Published
- Layer
- Model layer
- Evaluated models
- π0.5, GR00T N1.7, DreamZero and others4
- AttacksarXiv 2608.10393
DURA：用扩散模型生成自然对抗补丁攻击 VLA 机器人模型
提出 DURA，用扩散模型生成自然对抗补丁操控 VLA 机器人动作
- arXiv
- 2608.10393
- Published
- Layer
- Prompt layer
- Evaluated models
- OpenVLA-7B, π0-FAST, openvla-7B
- TechniqueCross-modal payloads
- ComponentVision
AbstractDURA 用扩散潜空间轨迹生成自然补丁，白盒与黑盒都能把 VLA 导向指定动作。
DURA 是针对 VLA 的扩散式、补丁内容不受限的机器人攻击，同时支持白盒梯度和只看动作输出的黑盒。
HazardArena：面向 VLA 模型的语义安全评测基准
提出 HazardArena 基准，用孪生场景评测 VLA 的语义安全
- arXiv
- 2604.12447
- Published
- Layer
- Model layer
- Evaluated models
- OpenVLA-OFT, π0, NORA and others4
- RiskDangerous agent actions
- ComponentVision
Abstractsafe-only 微调提升良性执行，也提升匹配不安全孪生上的危险完成。
HazardArena 评测 VLA 在运动要求不变时，能否因语义风险而停手。
- AttacksarXiv 2604.05595
Diversity-aware red teaming reveals language vulnerabilities in vision-language-action models
Proposes DAERT, which uses simulated failures as reward to generate diverse adversarial instructions, exposing VLA language vulnerabilities.
- arXiv
- 2604.05595
- Published
- Layer
- Prompt layer
- Evaluated models
- π0, OpenVLA, OpenVLA-7B and others5
- TechniqueAutomated search
- AttacksarXiv 2603.24935
SABER: A Stealthy Agentic Black-Box Attack Framework for Vision-Language-Action Models
Propose SABER, which uses a reinforcement learning attacker to rewrite instructions within a budget to cause VLA task failure.
- arXiv
- 2603.24935
- Published
- Layer
- Prompt layer
- Evaluated models
- π0-LIBERO, π0.5, X-VLA and others6
- TechniqueAutomated search
You have reached the end