Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Backdoors and poisoning · Papers
Found 7 papers提出 PERSISTBD，发布前强化供应链后门使其经良性 SFT 与 RL 后仍外发凭据
- Published
- Evaluated models
- Qwen2.5-Coder-3B-Instruct, Qwen2.5-Coder-7B-Instruct, Qwen3-Coder-30B-A3B-Instruct
Abstract总结了论文关于后门在 SFT/RL 中存活的发现、两因子机制、PERSISTBD 方法与核心数字。
本文研究第三方 LLM 智能体在开发者进行良性监督微调（SFT）和强化学习（RL）后训练时的后门持久性风险。
提出拓扑条件后门，使代码模型在推断多智能体部署时植入漏洞
- Published
- Evaluated models
- Qwen2.5-7B-Instruct, Qwen2.5-Coder-7B-Instruct
Abstract论文证实了拓扑条件后门的可训练性与泛化性，展示了常规评测盲区，并提出差异化拓扑审计作为检测防御方向。
提出检索器后门攻击操纵智能体搜索，并用 DOU 逃避检测
- Published
- Evaluated models
- E5, Contriever-MSMARCO
Abstract论文展示了通过恶意检索器操纵智能体多轮搜索并利用诱饵重塑表征隐蔽后门的可行性与系统风险。
提出量化条件后门 AGENTQ，使智能体仅在量化后触发恶意工具调用
- Published
- Evaluated models
- Qwen3.5-2B, Qwen3.5-4B, Qwen3.5-9B and others6
Abstract论文研究了智能体量化条件后门风险，提出 AGENTQ 在保持效用的同时实现全精度隐蔽与量化后生效。
提出 TrojanWorld，用物理触发器对世界模型智能体植入想象引导后门
- Published
- Evaluated models
- TD-MPC2, DreamerV3, R2-Dreamer
AbstractTrojanWorld 揭示了世界模型智能体的供应链后门风险，通过在世界模型中操纵想象可实现对闭环动作的持续控制。
提出 SYNCHAIN，诱导计算机使用 Agent 自建跨任务持久攻击链
- Published
- Evaluated models
- Qwen3.5-9B, Llama-3.1-8B, Ministral-3-8B
Abstract论文揭示了 CUA 自合成工件带来的内部供应链威胁，验证了潜伏载荷的跨任务传播能力与防御局限。
提出结构化 JSON 后门，经投毒 LoRA 在机器人控制中触发恶意动作
- Published
- Evaluated models
- Llama-3.1-8B-Instruct, Gemma-2-9B-IT, DeepSeek-R1-Distill-Llama-8B and others4
You have reached the end