Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Backdoors and poisoning · Papers
Found 7 papers提出 PERSISTBD，发布前强化供应链后门使其经良性 SFT 与 RL 后仍外发凭据
- Published
- Evaluated models
- Qwen2.5-Coder-3B-Instruct, Qwen2.5-Coder-7B-Instruct, Qwen3-Coder-30B-A3B-Instruct
Abstract总结了论文关于后门在 SFT/RL 中存活的发现、两因子机制、PERSISTBD 方法与核心数字。
本文研究第三方 LLM 智能体在开发者进行良性监督微调（SFT）和强化学习（RL）后训练时的后门持久性风险。
提出拓扑条件后门，使代码模型在推断多智能体部署时植入漏洞
- Published
- Evaluated models
- Qwen2.5-7B-Instruct, Qwen2.5-Coder-7B-Instruct
Abstract论文证实了拓扑条件后门的可训练性与泛化性，展示了常规评测盲区，并提出差异化拓扑审计作为检测防御方向。
提出 UBA-ORL，以 BD/CM 样本在遗忘后激活离线 RL 后门
- Published
- Evaluated models
- TD3+BC, BCQ, IQL
AbstractUBA-ORL 用竞争的 BD/CM 样本，使离线 RL 后门在删除伪装轨迹后激活。
UBA-ORL 研究离线强化学习中由合规轨迹删除激活的后门：合法贡献者同时上传共享触发的后门轨迹和伪装轨迹，训练后触发响应被压低，删除伪装批次后再升高。受害系统是使用静态数据集和轨迹级遗忘接口的离线 RL 服务。对手不能看到训练算法、参数、梯度或具体遗忘算法，但能提交可区分批次，并在部署时向观测注入预定触发。
提出 TrojanWorld，用物理触发器对世界模型智能体植入想象引导后门
- Published
- Evaluated models
- TD-MPC2, DreamerV3, R2-Dreamer
AbstractTrojanWorld 揭示了世界模型智能体的供应链后门风险，通过在世界模型中操纵想象可实现对闭环动作的持续控制。
提出 SYNCHAIN，诱导计算机使用 Agent 自建跨任务持久攻击链
- Published
- Evaluated models
- Qwen3.5-9B, Llama-3.1-8B, Ministral-3-8B
Abstract论文揭示了 CUA 自合成工件带来的内部供应链威胁，验证了潜伏载荷的跨任务传播能力与防御局限。
提出 VPH 与 VTH，只改视频帧劫持世界模型并投毒下游策略
- Published
- Evaluated models
- Cosmos-Predict 2.5, Cosmos-Predict 2.5 AC, Dino WM and others4
Abstract只改视频帧经世界模型投毒。
只改看似安全的视频帧，经世界模型之后才改变下游机器人策略。 问题在于世界模型进入数据生成后，数据集检查看到的仍是安全演示，合成轨迹却可以变危险。
提出结构化 JSON 后门，经投毒 LoRA 在机器人控制中触发恶意动作
- Published
- Evaluated models
- Llama-3.1-8B-Instruct, Gemma-2-9B-IT, DeepSeek-R1-Distill-Llama-8B and others4
You have reached the end