研究者提出 EviLLM 攻击:通过被入侵账号向 AI 代码生成流程注入漏洞
提出 EviLLM,经账户指令或插件向代码生成流程注入漏洞
- arXiv
- 2610.03857
- Published
- Layer
- Application layer
- Setting
- coding agent
- Evaluated models
- GPT-4o, Llama 3.2 (3B)
- AttacksPrompt injection
- TechniqueDefense-targeted
Another 233papers do not have category tags yet and are not included in filtered results.
提出 EviLLM,经账户指令或插件向代码生成流程注入漏洞
提出 A2A-TIBA,经 A2A 对等任务间接注入并植入常驻回调
A2A-TIBA 把间接提示注入和绕过放进 A2A:gray-box 攻击者已能投递任务,诱导目标部署常驻回调程序后,下令和外传不再经过智能体。
提出残余权限重放攻击,跨任务复用长期 Agent 的历史授权绕过确认
提出技能级联攻击,把有害目标拆散到多个技能里绕过单技能扫描
Abstract论文探讨了多技能智能体系统面临的技能级联攻击风险,提出自动化红队框架与基准集,指出跨技能交互存在安全防护盲区。
提出条件触发的爆炸提示词,并设计摄入期检测器 DeFuse
论文针对大语言模型智能体面临的间接提示注入威胁,研究了利用条件句式实现时间分离的爆炸提示词。
提出跨通道分段攻击,利用 MCP 隐式信任外发敏感文件
Abstract论文揭示了 MCP 多通道隐式信任层级,通过跨通道分段与协议级利用突破现有防御,展示了严重的凭证外发风险。
提出隐蔽后门攻击 AKRASIA,在推理代码模型提示中植入触发器并伪装思维链
Abstract论文针对推理代码大模型提出了隐蔽推断期后门攻击 AKRASIA,揭示了模型思维链可被利用进行欺骗性伪装的安全隐患。
提出 CompoSkill,将逐个通过扫描的技能编排为攻击链
Abstract论文分析了智能体技能组合风险,指出单包安全认证状态不具备可组合性,需转向路径级防护。
提出 MAFIA,以探测放置与事实伪装对带审计 Agent 做查询式记忆投毒
提出 TIP,用树搜索为 MCP 响应生成隐蔽注入载荷
TIP 是面向 MCP 工具响应的 black-box 间接提示注入,目标是在不改工具元数据的情况下生成语义连贯的 JSON 载荷。
提出 DREAM 框架,评测 Agent 的跨环境长链攻击脆弱性
AbstractDREAM 提出基于知识图谱与策略搜索的动态红队框架,分析了长链跨环境攻击对当前主流智能体的系统性威胁。
提出自适应攻击框架,击穿越狱与提示注入防御
提出 RL-Hammer,从零训练攻击模型经工具输出实施提示注入
RL-Hammer 是一个无需热启动数据、基于 GRPO 算法从零训练的黑盒提示注入对抗攻击框架。现有针对大语言模型智能体的提示注入防御(如 Instruction Hierarchy 与 SecAlign)主要在静态或弱攻击下测试,在面对自动化强力攻击时的真实防御能力缺乏充分检验。方法的核心机制包括。