跳到正文
10月8日 · 周四

提示注入 · 论文

找到 3 篇
筛选2

攻击类型

提示注入2投毒与后门1

防御类型

模型加固1检测与过滤1

影响

越权操作8数据与隐私泄露3输出被操纵3可用性与可靠性1

系统形态

LLM 应用2AI Agent1

攻击面/入口

网页与界面2文档与消息2工具返回1检索语料1

层

应用层3

系统组件

RAG1护栏与评审1

被测模型厂商

其他6
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 78 篇还没打标签，不在筛选结果里。
影响：输出被操纵被测模型厂商：Meta话题：提示注入清除全部

另有 78 篇论文还没打上分类标签，暂不在筛选结果里。

  2. 评测与基准arXiv 2609.02316

    Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息

    构建 COUNTER-GEO-BENCH，评测生成式搜索对信息扭曲 GEO 的防御

    arXiv
    2609.02316
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Llama-4-Scout-17B-16E、Llama Guard 3-8B、Gemma-4-31B-IT 等 11 个

    摘要论文构建了针对 GEO 虚假信息的首个防御基准，揭示通用护栏的失效与反作用，并提出了有效的轻量对比检测基线。

    深度解读完整解读
  3. 评测与基准arXiv 2608.28411

    LongPIBench：面向长上下文提示注入的评测基准

    提出 LongPIBench，评测长文档场景下的提示注入攻击与防御

    arXiv
    2608.28411
    发表
    层
    应用层
    场景
    LLM 应用
    测试
    Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct、MetaSecAlign 8B 等 11 个

    摘要论文构建长文本提示注入基准 LongPIBench，揭示启发式与优化攻击在长文档中的高有效性及现有防御的大幅失效。

    深度解读完整解读
已经到底了