Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 14 papers
Filter5

Attack type

Prompt injection13Poisoning and backdoors4

Attack technique

Automated search3Selection manipulation3

Defense type

Instruction–data separation3Permissions and approval3

Impact

Unauthorized actions78Data and privacy leaks14Output manipulation21Availability and reliability6

System type

AI Agent14coding agent5web agent4

Attack surface / entry point

User input41Web pages and interfaces6Documents and messages9Tool responses9Tool and skill descriptions11Code repositories and dependencies3Retrieval corpus3Memory writes9Inter-agent messages6Images, audio and video5Weights and gradients5Distribution channels7

Layer

Model layer0Application layer14

System component

MCP and skills10Permissions and sandboxing3
Select any value within a category; different categories must all match. Counts include the other filters you have selected.Another 254papers have no tags yet and are not included in filtered results.
Impact：Data and privacy leaksAttack surface / entry point：Web pages and interfacesAttack surface / entry point：Tool and skill descriptionsLayer：Model layerLayer：Application layerClear all

Another 254papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2610.12524

    An exploration of attacks on AI agent systems

    重测并扩展对 AI Agent 的提示注入，并用 Agent Card 欺骗操纵 A2A 选择

    arXiv
    2610.12524
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    Ollama Mistral 0.9.5, llama3-8b-8192, gemini-2.0-flash-lite and others5
    Abstract单智能体过滤与分类可被格式或措辞绕过，A2A 选卡还会偏向名称和描述。

    作者在自建的 LangChain、AutoGen 和 A2A 系统上重测提示注入，并改 Agent Card 看选择是否偏移。摘要称试验主要凸显单智能体弱点，同时把攻击扩到多智能体。

    Paper analysisRead analysis
  3. AttacksarXiv 2609.18217

    研究：跨通道碎片化攻击可绕过 MCP 单通道防御

    提出跨通道分段攻击，利用 MCP 隐式信任外发敏感文件

    arXiv
    2609.18217
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    GPT-4o, GPT-4o-mini, GPT-5.4 and others15

    Abstract论文揭示了 MCP 多通道隐式信任层级，通过跨通道分段与协议级利用突破现有防御，展示了严重的凭证外发风险。

    Paper analysisRead analysis
  4. DefensesarXiv 2609.01677

    Skill-as-API：面向智能体软件工程的机密多智能体协作协议

    提出 Skill-as-API，隔离多智能体协作中的 skill 正文与系统提示词

    arXiv
    2609.01677
    Published
    Layer
    Application layer
    Setting
    Multi-agent systems, coding agent
    Abstract协议把 skill 正文留在所有者侧，四层限制发现内容、权限期限和注入拼接。

    Skill-as-API 是面向智能体软件工程的协调协议，用来在跨组织调用时把 skill 的代码和系统提示词留在所有者进程。作者针对三条威胁：经通道或命名空间抽取专有方法，用注入让被调用模型输出系统提示词，以及协作结束后权限继续保留。

    Paper analysisRead analysis
  6. AttacksarXiv 2608.25776

    EvoMal attack uses self-poisoning of self-evolving coding agents to achieve worm-like propagation

    提出 EVOMAL，诱导自演化编码 Agent 在创建技能时自我投毒并蠕虫传播

    arXiv
    2608.25776
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    Devstral-Small-2, Gemma-4-31B-IT, Qwen3-Coder-Next and others7

    Abstract论文指出了自演化智能体模仿检索代码的自我毒化漏洞，提出 EVOMAL 攻击与防御，阐明了供应链新风险。

    Paper analysisRead analysis
  7. DefensesarXiv 2608.24017

    WebMCP-Phalanx：为浏览器内 LLM Agent 工具调用建立信任边界

    提出 WebMCP-Phalanx，用能力凭证与双智能体隔离浏览器工具调用

    arXiv
    2608.24017
    Published
    Layer
    Application layer
    Setting
    web agent
    AbstractPhalanx 用浏览器凭证绑定工具所有权，Q/P 分离拦住描述注入，工具名与返回值仍有残留。

    WebMCP-Phalanx针对浏览器里的 WebMCP 智能体：在 SOP 下补工具所有权，并把语义检查从有工具权的执行中分开。

    Paper analysisRead analysis
  9. AttacksarXiv 2608.09577

    ElasticBack：通过触发词与规则耦合在 LLM Agent 技能中植入条件后门

    提出 ElasticBack，在单个 Agent 技能中植入条件后门

    arXiv
    2608.09577
    Published
    Layer
    Application layer
    Setting
    coding agent
    Evaluated models
    GLM-5.2, MiniMax-M3, GPT-5.4 and others4
    AbstractElasticBack 用冻结规则加遗传搜索演化 trigger，在单 skill 上做条件后门。

    ElasticBack 是放在 LLM agent 单个 skill 里的条件后门攻击。。

    Paper analysisRead analysis
  10. AttacksarXiv 2608.04741

    LoginTrap：针对 LLM Web Agent 的任务无关钓鱼式间接提示注入攻击

    提出 LoginTrap，以网页弹窗诱导 Web Agent 提交敏感信息

    arXiv
    2608.04741
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    GPT-4o, Gemini 3 Flash, Claude Sonnet 4 and others7

    Abstract揭示网络智能体在黑盒网页下的登录诱导风险，利用模糊测试生成话术并跨骨干和架构验证了隐私泄露威胁。

    Paper analysisRead analysis
  11. Evaluation and benchmarksarXiv 2606.15899

    SkillVetBench：用 LLM-as-Judge 评估开源 LLM Agent 技能的多维安全风险

    提出 SkillVetBench 评估开源 Agent 技能的多维安全风险

    arXiv
    2606.15899
    Published
    Layer
    Application layer
    Setting
    AI Agent
    Evaluated models
    Qwen2.5-14B-Instruct, Qwen2.5-32B, Llama-3.1-70B and others6

    Abstract公开排行榜用 LLM-as-Judge 给技能分列 SARS 与 CVSS，并对照市场官方审查。

    Paper analysisRead analysis
  12. DefensesarXiv 2605.17380

    Uber proposes ADR enterprise-level agent detection system, deployed on 7,200 hosts for ten months

    提出企业级检测系统 ADR，识别编程 Agent 的提示注入与恶意 MCP

    arXiv
    2605.17380
    Published
    Layer
    Application layer
    Setting
    coding agent

    Abstract提出了端点因果遥测、两级在线分流与离线红队闭环的 ADR 系统，并在生产环境中验证了有效性。

    Paper analysisRead analysis
  13. AttacksarXiv 2605.05509

    研究者提出面向 Agent 浏览器的 Web 威胁模型，梳理 20 类攻击并在 4 个模型上复现

    提出面向智能体浏览器的 Web 威胁模型并复现混淆攻击

    arXiv
    2605.05509
    Published
    Layer
    Application layer
    Setting
    web agent
    Evaluated models
    GPT-5, Claude-Sonnet-4.6, Kimi-k2p5 and others8
    Abstract作者提出面向智能体浏览器的 Web 威胁模型与攻击分类，测试显示传统混淆攻击可复现且能绕过现有防御。

    这篇论文研究了智能体浏览器在面临传统 Web 攻击者时的安全性问题，指出当前针对提示词注入的安全假设无法抵御基于正常 Web 交互模式的混淆攻击。

    Paper analysisRead analysis
You have reached the end