研究者提出 EviLLM 攻击:通过被入侵账号向 AI 代码生成流程注入漏洞
提出 EviLLM,经账户指令或插件向代码生成流程注入漏洞
- arXiv
- 2610.03857
- Published
- Layer
- Application layer
- Setting
- coding agent
- Evaluated models
- GPT-4o, Llama 3.2 (3B)
- AttacksPrompt injection
- TechniqueDefense-targeted
Another 233papers do not have category tags yet and are not included in filtered results.
提出 EviLLM,经账户指令或插件向代码生成流程注入漏洞
提出检索器后门攻击操纵智能体搜索,并用 DOU 逃避检测
Abstract论文展示了通过恶意检索器操纵智能体多轮搜索并利用诱饵重塑表征隐蔽后门的可行性与系统风险。
提出技能级联攻击,把有害目标拆散到多个技能里绕过单技能扫描
Abstract论文探讨了多技能智能体系统面临的技能级联攻击风险,提出自动化红队框架与基准集,指出跨技能交互存在安全防护盲区。
提出两阶段框架 A2M,优化 MCP 工具元数据与返回载荷以劫持 Agent
提出 ISM,用语义匹配隐式操纵 Agent 技能选择
提出 InjecMEM,一次注入 Agent 记忆使后续查询输出预设内容
提出 MAFIA,以探测放置与事实伪装对带审计 Agent 做查询式记忆投毒
提出 KidnapRAG,用投毒文档黑盒劫持 Agentic RAG 的推理链
KidnapRAG 是针对 Agentic RAG 的 black-box 语料投毒:攻击者不能访问模型、提示词、检索器或私有轨迹,只能发布可能被检索的文档,并利用公开界面上的推理与搜索查询。
提出 PaperGuard,用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令
PaperGuard同时评测并检测多模态 AI 审稿中的评分操纵。
提出 CRCP 框架,优化分块与重排下的 RAG 语料投毒
CRCP 研究的是带分块和重排的 RAG 语料投毒,而不是只提高文档级检索分数。
提出 SilentRetrieval,以语义保持对抗文档投毒劫持 RAG 检索与生成
SilentRetrieval 是针对 RAG 的两阶段语料投毒,在每查询一篇、合成目标答案的统一协议下,同时处理检索劫持、生成操纵和流畅度。
提出 M3 Att,在不知查询时投毒医学多模态 RAG 并误导临床决策
Proposes PIDP-Attack, which manipulates RAG answers using query suffixes and corpus poisoning
提出 TIP,用树搜索为 MCP 响应生成隐蔽注入载荷
TIP 是面向 MCP 工具响应的 black-box 间接提示注入,目标是在不改工具元数据的情况下生成语义连贯的 JSON 载荷。
Conduct adversarial attacks on product images for open-source visual shopping agents and induce wrong purchases
The authors compare the robustness of two open-source VLM shopping agents against image adversarial perturbations in a self-built e-commerce environment.
提出 GradingAttack,用梯度后缀与角色扮演操纵教育评分智能体判定
提出查询无关黑盒攻击 DQ-A,用可迁移文末后缀降低文档检索排名
DQ-A 是一种 query-agnostic、complete black-box 的文档隐藏攻击,对象是用最后隐层相似度匹配的 LLM 检索。