跳到正文
10月13日 · 周二

全部论文

找到 3篇
筛选3

攻击技术

梯度与表征优化2自动化搜索12编码与混淆4角色扮演与说服4针对防御1潜伏触发8

攻击面/入口

用户输入44网页与界面5文档与消息3工具返回6工具与技能描述7检索语料4图像与音视频38训练数据12权重与梯度18分发渠道7推理服务与硬件4

层

应用层3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 213篇还没打标签，不在筛选结果里。
攻击技术：梯度与表征优化攻击技术：针对防御攻击面/入口：文档与消息清除全部

另有213篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2609.22510

    特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent

    提出条件触发的爆炸提示词，并设计摄入期检测器 DeFuse

    arXiv
    2609.22510
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Qwen2.5-32B-Instruct 等15个
    摘要论文揭示了条件触发使提示注入绕过防御并在触发时执行工具，提出轻量检测器并在摄入期有效防范。

    论文针对大语言模型智能体面临的间接提示注入威胁，研究了利用条件句式实现时间分离的爆炸提示词。

    深度解读完整解读
  2. 攻击arXiv 2606.12716

    PaperGuard：针对多模态 AI 同行评审的攻击与防御基准

    提出 PaperGuard，用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令

    arXiv
    2606.12716
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Claude-sonnet-4.5、GPT-4o、GPT-4.1 等11个
    摘要PaperGuard 测到提示注入与白盒视觉抬分，并比较分块检索防御。

    PaperGuard同时评测并检测多模态 AI 审稿中的评分操纵。

    深度解读完整解读
  3. 攻击arXiv 2602.00364

    「有人把它藏起来了」：针对 LLM 检索的查询无关黑盒攻击

    提出查询无关黑盒攻击 DQ-A，用可迁移文末后缀降低文档检索排名

    arXiv
    2602.00364
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Qwen-1.5-7B-Instruct、SFR-Embedding-Mistral、E5-Mistral-7B-Instruct 等10个
    摘要DQ-A 以无查询黑盒后缀压低 LLM 检索排名，并在 BRIGHT 上比较三种基线。

    DQ-A 是一种 query-agnostic、complete black-box 的文档隐藏攻击，对象是用最后隐层相似度匹配的 LLM 检索。

    深度解读完整解读
已经到底了