当心不可信的模拟器——强化学习中的免奖励后门攻击
Beware Untrusted Simulators -- Reward-Free Backdoor Attacks in Reinforcement Learning
AI 导读
研究者提出名为 Daze 的强化学习后门攻击，利用不可信模拟器的动力学，在不修改也不观察智能体奖励的情况下，向为真实世界任务训练的 RL 智能体隐蔽植入动作级后门。攻击者可在智能体观测到预定义触发条件时可靠激活目标动作，带来潜在危险后果。论文给出了 Daze 在一般 RL 任务上保证攻击成功的形式化证明，并在离散与连续动作空间域上进行了大量实证评估；作者称这是 RL 后门攻击迁移到真实机器人硬件的首个案例。作者希望以此推动对 RL 训练管线全部组件的安全防护研究。