攻击arXiv 2610.06814
TAPDreamer：可跨任务迁移的世界动作模型对抗补丁
TAPDreamer 用公开编码器做固定补丁。
- arXiv
- 2610.06814
- 发表
- 层
- 提示层
- 场景
- 具身与机器人
- 被测模型
- FastWAM、DreamWAM-uncond、DreamWAM-joint 等4个
- 攻击arXiv 2610.06083
研究者提出面向深度强化学习的轨迹级可迁移黑盒对抗攻击
提出轨迹级可迁移对抗攻击，降低深度强化学习策略的期望回报
- arXiv
- 2610.06083
- 发表
- 层
- 模型层
- 场景
- 具身与机器人
- 被测模型
- DQN、Double DQN (DDQN)
- 技术梯度与表征优化
摘要轨迹级后退视界攻击在 CartPole 上比逐步 FGSM 类和 Sign 噪声更压低回报。
这项工作研究 DRL 上的迁移式黑盒观测攻击：受害参数不可访问时，在白盒代理上造扰动再迁移。
- 攻击arXiv 2608.12273
研究者提出 Convergent Detour Hijacking 攻击，可让技能型 LLM Agent 绕路并放大资源消耗
提出 CDH 攻击，让技能型 Agent 绕路放大资源消耗
- arXiv
- 2608.12273
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Claude-Haiku-4.5、DeepSeek-V4-Pro、DeepSeek-V4-Flash 等6个
摘要CDH 让静态技能在保持任务完成时拉高调用与 token，耗时则因后端而异。
CDH 是针对渐进披露技能智能体的发布者侧、纯文本攻击：一个静态协调器把本可正确完成的任务，拐进有界但更耗资源的技能绕路，再交还原任务。
- 攻击arXiv 2602.07379
Aegis：面向 AI 语音 Agent 的治理、完整性与安全
提出 Aegis 红队框架，多轮攻击高风险语音 Agent
- arXiv
- 2602.07379
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- GPT-4o、GPT-4o-mini、Gemini-1.5 Pro 等7个
摘要Aegis 红队评测三类语音智能体：查询式访问消掉认证与泄密成功，行为类攻击仍在。
Aegis 用多轮红队评测已接入业务系统的 ALLM 语音智能体。作者称这是该设定下的 the first systematic red-teaming framework。
- 攻击arXiv 2505.23266
AdvOF：用对抗物体融合攻击 VLM 驱动的视觉语言导航智能体
提出 AdvOF，生成对抗物体误导视觉语言导航智能体的场景感知
- arXiv
- 2505.23266
- 发表
- 层
- 应用层
- 场景
- 具身与机器人
- 攻击者
- 白盒
- 被测模型
- Lseg、Clip、ViT-L/16 等5个
摘要AdvOF 以多视角融合生成对抗物体。
AdvOF 是针对 VLM 驱动 VLN 服务导航的对抗物体攻击。
已经到底了