跳到正文
10月13日 · 周二

全部论文

找到 8篇
筛选4

攻击类型

提示注入8

攻击技术

梯度与表征优化7自动化搜索15编码与混淆7角色扮演与说服5跨模态载荷6针对防御1潜伏触发10

影响

输出被操纵5

系统形态

LLM 应用5AI Agent3

攻击面/入口

用户输入69网页与界面4文档与消息5工具返回7工具与技能描述11代码仓库与依赖4检索语料4记忆写入5图像与音视频21训练数据9权重与梯度10分发渠道11推理服务与硬件3

层

应用层8

系统组件

护栏与评审3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 201篇还没打标签，不在筛选结果里。
攻击技术：编码与混淆攻击技术：针对防御攻击面/入口：网页与界面攻击面/入口：文档与消息清除全部

另有201篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.12524

    对 AI Agent 系统攻击的探索

    重测并扩展对 AI Agent 的提示注入，并用 Agent Card 欺骗操纵 A2A 选择

    arXiv
    2610.12524
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Ollama Mistral 0.9.5、llama3-8b-8192、gemini-2.0-flash-lite 等5个
    摘要单智能体过滤与分类可被格式或措辞绕过，A2A 选卡还会偏向名称和描述。

    作者在自建的 LangChain、AutoGen 和 A2A 系统上重测提示注入，并改 Agent Card 看选择是否偏移。摘要称试验主要凸显单智能体弱点，同时把攻击扩到多智能体。

    深度解读完整解读
  3. 攻击arXiv 2609.22510

    特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent

    提出条件触发的爆炸提示词，并设计摄入期检测器 DeFuse

    arXiv
    2609.22510
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Qwen2.5-32B-Instruct 等15个
    摘要论文揭示了条件触发使提示注入绕过防御并在触发时执行工具，提出轻量检测器并在摄入期有效防范。

    论文针对大语言模型智能体面临的间接提示注入威胁，研究了利用条件句式实现时间分离的爆炸提示词。

    深度解读完整解读
  4. 攻击arXiv 2602.18514

    招聘中的特洛伊木马：标准模型与推理模型间接提示注入的红队测试案例研究

    用简历中的不可见指令做间接提示注入，操纵招聘推荐

    arXiv
    2602.18514
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Qwen 3 30B A3B Instruct 2507、Qwen 3 30B A3B Thinking 2507

    摘要作者称推理在简单注入下会帮攻击圆谎，在不合逻辑的复杂注入下又会把欺骗漏出来。

    深度解读完整解读
  6. 攻击arXiv 2601.21360

    合规悖论：自动化学术代码评估中的语义-指令解耦

    提出 AST-ASIP ，把对抗指令植入编译器忽略区域以劫持代码评分

    arXiv
    2601.21360
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    DeepSeek-V3.2、Qwen3-235B、GPT-OSS-120B 等9个
    摘要作者称 RLHF 的服从性使评分脱离代码。

    这篇工作把自动代码评分中的失败称为 Compliance Paradox：评分模型可以离开提交逻辑，转而执行嵌在可编译代码里的隐藏指令。

    深度解读完整解读
已经到底了