Skip to content

Translation in progress Some entries still include text in the original language.

Oct 12 · Monday

All papers

Found 20 papers

Another 313papers do not have category tags yet and are not included in filtered results.

  1. AttacksarXiv 2610.11932

    A Fudan team measures the citation fragility of AI search: ordinary posts can enter citations and answer text

    Measures citation fragility in AI search, demonstrating that ordinary public posts can enter citations and answers.

    Published
    Evaluated models
    Grok, Doubao, ChatGPT and others10

    AbstractThe authors claim the paper quantifies vulnerabilities in AI search caused by citation preferences and low posting thresholds; tests show public web posts can penetrate AI citations, and they call for auditing the citation supply chain.

    Paper analysisRead analysis
  2. AttacksarXiv 2609.02774

    CodePoisonRAG:针对检索增强代码生成的知识投毒攻击

    提出 CodePoisonRAG,对检索增强代码生成的知识库投毒以植入漏洞

    Published
    Evaluated models
    Qwen 3.5 9B, Code Llama 13B, DeepSeek-Coder-V2 16B

    AbstractCodePoisonRAG 展示了 RACG 外部知识库的新攻击面,在较低投毒率下可定向诱发指定漏洞并部分抵御防御。

    Paper analysisRead analysis
  3. AttacksarXiv 2609.01325

    VerTox:用可验证奖励引导的强化学习对神经排序模型实施语料投毒

    提出 VerTox,用可验证奖励强化学习生成误导文档并投毒检索语料

    Published
    Evaluated models
    SimLM-base, BGE-base, Cohere-embed-english-v3.0 and others8
    AbstractVerTox 以可验证奖励微调小 LLM,生成能抬高排序并腐蚀事实的投毒文档。

    VerTox 用可验证奖励把小 LLM 微调成语料投毒生成器,用来探测神经排序器在注入文档下的暴露面。

    Paper analysisRead analysis
  4. AttacksarXiv 2607.14493

    LogInject 框架披露 LLM 日志分析中的被动提示注入

    提出 LogInject 框架,评测日志分析中的被动提示注入及缓解

    Published
    Evaluated models
    GPT-4o, Claude 3.5 Sonnet, Llama-3-70B-Instruct

    Abstract论文评估了 LLM 日志分析中的上下文污染风险,提出分片拼接等攻击与三层防御,指出必须结合架构隔离与人工介入。

    Paper analysisRead analysis
  5. AttacksarXiv 2607.00422

    KidnapRAG:黑盒投毒攻击劫持 Agentic RAG 的推理链

    提出 KidnapRAG,用投毒文档黑盒劫持 Agentic RAG 的推理链

    Published
    Setting
    AI Agent
    Evaluated models
    Qwen2.5-32B-Instruct, Llama-3.3-70B-Instruct, QwQ-32B and others5
    Abstract顺序投毒可把多步推理拖向指定应答,作者称关键在持续引导而非单次注入。

    KidnapRAG 是针对 Agentic RAG 的 black-box 语料投毒:攻击者不能访问模型、提示词、检索器或私有轨迹,只能发布可能被检索的文档,并利用公开界面上的推理与搜索查询。

    Paper analysisRead analysis
  6. AttacksarXiv 2606.11265

    论文提出 CRCP 投毒框架,揭示 RAG 分块与重排序下的投毒失效问题

    提出 CRCP 框架,优化分块与重排下的 RAG 语料投毒

    Published
    Evaluated models
    GPT-4o, DeepSeek-R1, Qwen3-Max and others11
    AbstractCRCP 把投毒做成多阶段一致性问题。

    CRCP 研究的是带分块和重排的 RAG 语料投毒,而不是只提高文档级检索分数。

    Paper analysisRead analysis
  7. AttacksarXiv 2606.06244

    研究者提出 Ghostwriter 攻击:用伪造证据注入操纵 LLM 观点

    提出 Ghostwriter 攻击,用伪权威证据条件注入操纵模型观点

    Published
    Evaluated models
    GPT-4o, Claude-3.7-Sonnet, DeepSeek-V3 and others10
    Abstract作者称攻击未被消除。

    Ghostwriter 是一种针对上下文窗口的观点引导攻击:把误导陈述改写成伪权威文本,再在相关查询中让目标模型把该观点写进回答。

    Paper analysisRead analysis
  8. AttacksarXiv 2606.01212

    DiscourseFlip:针对黑盒 RAG 的话语级观点操纵攻击

    提出 DiscourseFlip,用有限文档投毒操纵黑盒 RAG 的话语级观点

    Published
    Evaluated models
    Llama3.1-8B-Instruct, Qwen3-8B-Instruct, BGE and others5
    AbstractDiscourseFlip 按语义图分配投毒预算。

    DiscourseFlip 是针对黑盒 RAG 的话语级观点操纵。作者要处理的缺口是:只打单条查询或主题局部查询时,覆盖窄,目标受审查时容易被隔离,也难沿相关话题传播。攻击者不能看检索器或 LLM 内部,也不能改提示词模板,只能在文档数、生成 token 和 SEO 编辑距离限制下注入少量文档。

    Paper analysisRead analysis
  9. AttacksarXiv 2603.17239

    LAAF: A Systematic Red-Teaming Method and Automated Attack Framework for LPCI Vulnerabilities in Agentic LLM Systems

    提出 LAAF,分阶段自动攻击智能体系统的 LPCI 漏洞

    Published
    Setting
    AI Agent
    Evaluated models
    gemini-2.0-flash-001, claude-3-haiku-20240307, meta-llama/llama-3.1-70b-instruct and others5
    AbstractLAAF does LPCI red teaming with taxonomy plus stage seeding.

    The authors state that LAAF is an automated red-teaming framework built specifically for LPCI in agentic LLMs. The issue to address is that encoded, delayed, and conditionally triggered payloads can persist in memory or RAG and re-enter across sessions, whereas Garak and PyRIT do not use the previous round's breakthrough results to seed the next stage across the six stages.

    Paper analysisRead analysis
  10. AttacksarXiv 2602.06616

    Confundo: Learning to Generate Robust Poisoning Content for Real RAG Systems

    提出 Confundo,微调投毒生成器为 RAG 生成抗分块的鲁棒投毒内容

    Published
    Evaluated models
    Qwen3-8b, Llama3-8b, DeepSeek and others8
    AbstractConfundo 用微调生成器做 RAG 投毒,作者报告事实、观点和幻觉三类目标上的攻击结果。

    Confundo 把 RAG 投毒做成微调:小模型按目标问题生成短毒文,再放进会被知识库摄入的文档。它针对的是实际系统会切块、用户也不会照抄预设问句,专用投毒因而变弱。攻击者没有目标系统的内部知识,也不能查询它,只能准备待摄入文档。

    Paper analysisRead analysis
  11. AttacksarXiv 2602.01757

    Zero2Text:无需训练的跨域文本嵌入反转攻击

    提出 Zero2Text,无需训练地跨域反演文本嵌入

    Published
    Attacker
    Black-box
    Evaluated models
    GTR-Base, Qwen3-Embedding-0.6B, Text-Embedding-3-small and others4
    Abstract零训练在线对齐可在未知域、无泄漏对时从黑盒 embedding 还原句子。

    Zero2Text 是一种不训练 decoder、也不使用泄漏文本–向量对的文本 embedding 反演,针对 RAG 向量库在严格黑盒、目标域未知时的还原。

    Paper analysisRead analysis
  12. AttacksarXiv 2602.00364

    「有人把它藏起来了」:针对 LLM 检索的查询无关黑盒攻击

    提出查询无关黑盒攻击 DQ-A,用可迁移文末后缀降低文档检索排名

    Published
    Evaluated models
    Qwen-1.5-7B-Instruct, SFR-Embedding-Mistral, E5-Mistral-7B-Instruct and others10
    AbstractDQ-A 以无查询黑盒后缀压低 LLM 检索排名,并在 BRIGHT 上比较三种基线。

    DQ-A 是一种 query-agnostic、complete black-box 的文档隐藏攻击,对象是用最后隐层相似度匹配的 LLM 检索。

    Paper analysisRead analysis
  13. AttacksarXiv 2512.01335

    EmoRAG 研究揭示 RAG 检索对表情符号扰动的脆弱性

    提出 EmoRAG,向查询与知识库注入同一表情以劫持 RAG 检索

    Published
    Evaluated models
    SPECTER, Contriever, Qwen2-7B and others11
    AbstractEmoRAG 用表情联动查询与库文本。

    EmoRAG 测量 RAG 对符号扰动的反应:同一表情同时出现在查询和库文本里时,检索会偏离语义匹配。作者要检查的是,检索是否真由语义相关性决定。

    Paper analysisRead analysis
  14. AttacksarXiv 2507.10457

    论文提出 LPCI:针对 Agent 逻辑层与持久记忆的提示控制注入攻击

    提出 LPCI,把延迟条件载荷写入记忆与检索库以跨会话触发

    Published
    Setting
    AI Agent
    Evaluated models
    ChatGPT, Claude, LLaMA3 and others8
    Abstract作者定义 LPCI。

    作者把LPCI定义为针对智能体逻辑执行、记忆留存和工具集成的跨阶段漏洞类,而不是单次输入上的提示改写。

    Paper analysisRead analysis
You have reached the end