攻击arXiv 2604.03890
从提示到物理动作：针对 LLM 中介机器人控制系统的结构化后门攻击
提出结构化 JSON 后门，经投毒 LoRA 在机器人控制中触发恶意动作
- arXiv
- 2604.03890
- 发表
- 被测模型
- Llama-3.1-8B-Instruct、Gemma-2-9B-IT、DeepSeek-R1-Distill-Llama-8B 等4个
摘要推理层后门传不到执行。
- 攻击arXiv 2602.01658
高维离线 Bandit 的高效对抗攻击
提出三类攻击，训练前扰动奖励模型以劫持离线 bandit
- arXiv
- 2602.01658
- 发表
- 场景
- 模型与 API
- 被测模型
- Image Reward、Aesthetic Model
摘要公开奖励权重可被小扰动劫持离线 bandit，打乱日志只部分缓解。
作者研究离线 bandit 在奖励模型被事先改权重时，还会不会选出最优臂。
已经到底了