攻击arXiv 2604.12201
AdversarialCoT：针对 LLM 推理的单文档检索投毒
提出 AdversarialCoT 单文档检索投毒以操纵 RAG 推理答案
- arXiv
- 2604.12201
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 被测模型
- DeepSeek-R1、Qwen3、GLM4.5 等5个
- 攻击arXiv 2604.05549
别再执着于提示词：面向 LLM Agent 红队测试的推理劫持与约束收紧
提出 JailAgent，不改用户提示，经推理劫持与记忆投毒操纵 Agent 动作
- arXiv
- 2604.05549
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- GPT-3.5-turbo、GPT-4o、GPT-5 等7个
摘要JailAgent 不改提示词，用三阶段操纵推理与检索。
JailAgent 是不修改用户原始提示词的 LLM 智能体红队框架。
已经到底了