跳到正文
10月12日 · 周一

全部论文

找到 7篇
筛选4

攻击类型

提示注入7

攻击技术

梯度与表征优化6自动化搜索18编码与混淆7角色扮演与说服6对话结构操控3推理链操控3跨模态载荷6潜伏触发12

影响

输出被操纵4

系统形态

LLM 应用4AI Agent3

攻击面/入口

用户输入49网页与界面2文档与消息4工具返回4工具与技能描述5代码仓库与依赖2检索语料4记忆写入3图像与音视频15分发渠道5

层

应用层7
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 255篇还没打标签，不在筛选结果里。
攻击技术：编码与混淆攻击面/入口：网页与界面攻击面/入口：文档与消息攻击面/入口：代码仓库与依赖清除全部

另有255篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.12524

    对 AI Agent 系统攻击的探索

    重测并扩展对 AI Agent 的提示注入，并用 Agent Card 欺骗操纵 A2A 选择

    arXiv
    2610.12524
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Ollama Mistral 0.9.5、llama3-8b-8192、gemini-2.0-flash-lite 等5个
    摘要单智能体过滤与分类可被格式或措辞绕过，A2A 选卡还会偏向名称和描述。

    作者在自建的 LangChain、AutoGen 和 A2A 系统上重测提示注入，并改 Agent Card 看选择是否偏移。摘要称试验主要凸显单智能体弱点，同时把攻击扩到多智能体。

    深度解读完整解读
  3. 攻击arXiv 2602.18514

    招聘中的特洛伊木马：标准模型与推理模型间接提示注入的红队测试案例研究

    用简历中的不可见指令做间接提示注入，操纵招聘推荐

    arXiv
    2602.18514
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Qwen 3 30B A3B Instruct 2507、Qwen 3 30B A3B Thinking 2507

    摘要作者称推理在简单注入下会帮攻击圆谎，在不合逻辑的复杂注入下又会把欺骗漏出来。

    深度解读完整解读
  4. 攻击arXiv 2601.21360

    合规悖论：自动化学术代码评估中的语义-指令解耦

    提出 AST-ASIP ，把对抗指令植入编译器忽略区域以劫持代码评分

    arXiv
    2601.21360
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    DeepSeek-V3.2、Qwen3-235B、GPT-OSS-120B 等9个
    摘要作者称 RLHF 的服从性使评分脱离代码。

    这篇工作把自动代码评分中的失败称为 Compliance Paradox：评分模型可以离开提交逻辑，转而执行嵌在可编译代码里的隐藏指令。

    深度解读完整解读
  7. 攻击arXiv 2509.22040

    研究：通过编码规则文件对Cursor与GitHub Copilot实施提示注入

    通过规则文件提示注入劫持编码编辑器并执行未授权终端命令

    arXiv
    2509.22040
    发表
    层
    应用层
    场景
    coding agent
    被测模型
    Cursor、GitHub Copilot、Claude 4 Sonnet 等4个

    摘要论文提出了针对代码编辑器的提示注入评估框架 AIShellJack，实验显示攻击能诱导 AI 执行未授权终端命令。

    深度解读完整解读
已经到底了