跳到正文
10月13日 · 周二

全部论文

找到 5篇
筛选5

攻击类型

提示注入3

攻击技术

梯度与表征优化3自动化搜索12编码与混淆4角色扮演与说服4对话结构操控2潜伏触发8

影响

输出被操纵4

系统形态

LLM 应用4

攻击面/入口

用户输入29网页与界面5文档与消息5工具返回4检索语料5图像与音视频30

层

提示层0应用层5
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 203篇还没打标签，不在筛选结果里。
攻击技术：梯度与表征优化攻击技术：对话结构操控攻击面/入口：文档与消息层：提示层层：应用层清除全部

另有203篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2609.27542

    研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

    提出控制标记注入，清空工具 Agent 的思维链以绕过推理监控

    arXiv
    2609.27542
    发表
    层
    应用层
    场景
    AI Agent
    被测模型
    openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等4个

    摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过，且工具执行受解析器宽容度影响。

    深度解读完整解读
  2. 攻击arXiv 2606.12716

    PaperGuard：针对多模态 AI 同行评审的攻击与防御基准

    提出 PaperGuard，用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令

    arXiv
    2606.12716
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Claude-sonnet-4.5、GPT-4o、GPT-4.1 等11个
    摘要PaperGuard 测到提示注入与白盒视觉抬分，并比较分块检索防御。

    PaperGuard同时评测并检测多模态 AI 审稿中的评分操纵。

    深度解读完整解读
  4. 攻击arXiv 2602.00364

    「有人把它藏起来了」：针对 LLM 检索的查询无关黑盒攻击

    提出查询无关黑盒攻击 DQ-A，用可迁移文末后缀降低文档检索排名

    arXiv
    2602.00364
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    Qwen-1.5-7B-Instruct、SFR-Embedding-Mistral、E5-Mistral-7B-Instruct 等10个
    摘要DQ-A 以无查询黑盒后缀压低 LLM 检索排名，并在 BRIGHT 上比较三种基线。

    DQ-A 是一种 query-agnostic、complete black-box 的文档隐藏攻击，对象是用最后隐层相似度匹配的 LLM 检索。

    深度解读完整解读
  5. 攻击arXiv 2601.20283

    一个词就够了：神经文本排序的最小对抗扰动

    提出查询中心词的单次插入或替换攻击，操纵神经排序名次

    arXiv
    2601.20283
    发表
    层
    应用层
    场景
    LLM 应用
    被测模型
    BERT-base-mdoc-BM25、monoT5-base-MSMARCO
    摘要作者称单词扰动即可抬升名次、中段文档最脆弱，且比白盒 PRADA 更少编辑。

    单个与查询对齐的词，就可能改掉神经重排结果。要做的是少改原文，仍把目标文档在 NRM 列表里的名次抬高。

    深度解读完整解读
已经到底了