Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 18 papers Another 265 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
提出 ASPIRE 行为图搜索,开放式发现 Agent 提示注入漏洞
Published Oct 7
Evaluated models Gemini-3.7-Flash , DeepSeek-V4-Flash , Gemini-2.5-flash Abstract ASPIRE 把提示注入红队从载荷优化改成行为图引导的开放式漏洞发现。ASPIRE 是给搭建方用的智能体提示注入红队引擎,目标是开放式画出可利用的行为路径,而不是在固定任务上打磨一条载荷。
提出 AdaLCPI,把恶意指令拆成碎片嵌入工具返回并诱导 Agent 越权执行
Published Sep 29
Evaluated models GPT-4.1 , GPT-5.1 , GPT-5.6-Luna and others7 提出跨独立 Agent 的记忆跳跃攻击,经共享工件在助手间自传播
Published Sep 29
Evaluated models GPT-5.6 Luna , Kimi-K2.6 , GPT-OSS-120B and others6 Abstract 论文证实持久工件与内存可形成跨智能体传播链,揭示了将共享工件纳入安全防线的重要意义。该论文系统研究并量化了通过共享持久工件在具有独立私有内存的 LLM 智能体之间发生自传播的“工件介导传播”攻击风险。
提出 LENS,构造集合级 RAG 语料投毒以导向预设答案
Published Sep 28
Evaluated models Qwen3.6-35B-A3B , Llama-3.1-70B-Instruct , DeepSeek-V4-Pro 提出 Search Harness,把间接提示注入做成测试时搜索并自适应利用
Published Sep 4
Evaluated models Claude Opus 4.8 , GPT-5.5 提出 VerTox,用可验证奖励强化学习生成误导文档并投毒检索语料
Published Sep 1
Evaluated models SimLM-base , BGE-base , Cohere-embed-english-v3.0 and others8 Abstract VerTox 以可验证奖励微调小 LLM,生成能抬高排序并腐蚀事实的投毒文档。VerTox 用可验证奖励把小 LLM 微调成语料投毒生成器,用来探测神经排序器在注入文档下的暴露面。
提出 PIMiner,用可复用策略库自动搜索并迁移针对智能体的提示注入
Published Aug 6
Evaluated models Gemini-2.5-Pro , DeepSeek-V4-Pro , GPT-4o-mini and others10 构建 OpenART 竞技场,以 EMHA 演化持久环境评测智能体安全
Published Aug 1
Evaluated models GPT-5.5 , Claude-Opus-4.8 , GLM-5.2 and others5 训练自博弈红队智能体 GPT-Red,规模化生成提示注入与越狱攻击
Published Jul 29
Evaluated models GPT-5.6 , GPT-5.5 , GPT-5.4 and others8 提出 MEMGHOST,用单封邮件对持久个人 Agent 做跨会话隐蔽记忆注入
Published Jul 6
Evaluated models GPT-5.4 , Claude Sonnet 4.6 , Claude Sonnet 4.5 and others6 Abstract 总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。本文研究了持久化个人智能体面临的隐蔽记忆注入威胁,提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。
提出针对 Agent 护栏的推理扩展拒绝服务攻击
Published Jun 12
Evaluated models TS-Guard-8B , Qwen3.5-9B , DeepSeek-V3.2 and others11 提出对抗重构,仅改表述以拉高 AI 审稿分数
Published Jun 11
Evaluated models Claude Sonnet 4 , Claude Sonnet 4.5 , GPT-5-mini Abstract 揭示 AI 审稿系统易受纯表述重构操纵,建议在部署前解耦科学与写作评价。
提出 DiscourseFlip,用有限文档投毒操纵黑盒 RAG 的话语级观点
Published May 31
Evaluated models Llama3.1-8B-Instruct , Qwen3-8B-Instruct , BGE and others5 Abstract DiscourseFlip 按语义图分配投毒预算。DiscourseFlip 是针对黑盒 RAG 的话语级观点操纵。作者要处理的缺口是:只打单条查询或主题局部查询时,覆盖窄,目标受审查时容易被隔离,也难沿相关话题传播。攻击者不能看检索器或 LLM 内部,也不能改提示词模板,只能在文档数、生成 token 和 SEO 编辑距离限制下注入少量文档。
提出潜伏记忆投毒,诱导 Agent 把外部文档写成持久伪造记忆
Published May 15
Evaluated models GPT-5.4 , GPT-5.5 , Claude Sonnet 4.6 and others12 Abstract 持久记忆成为跨会话攻击面:通用载荷可写入伪造记忆,并在相关后续任务中影响行为。sleeper memory poisoning 研究带持久记忆的 LLM 助手:外部文档能否让助手存下一则伪造的用户记忆,并在原文档消失后的新会话里被取回、用来改变回复或动作。
提出 AdversarialCoT 单文档检索投毒以操纵 RAG 推理答案
Published Apr 14
Evaluated models DeepSeek-R1 , Qwen3 , GLM4.5 and others5 提出 Confundo,微调投毒生成器为 RAG 生成抗分块的鲁棒投毒内容
Published Feb 6
Evaluated models Qwen3-8b , Llama3-8b , DeepSeek and others8 Abstract Confundo 用微调生成器做 RAG 投毒,作者报告事实、观点和幻觉三类目标上的攻击结果。Confundo 把 RAG 投毒做成微调:小模型按目标问题生成短毒文,再放进会被知识库摄入的文档。它针对的是实际系统会切块、用户也不会照抄预设问句,专用投毒因而变弱。攻击者没有目标系统的内部知识,也不能查询它,只能准备待摄入文档。
提出 Zero2Text,无需训练地跨域反演文本嵌入
Published Feb 2
Evaluated models GTR-Base , Qwen3-Embedding-0.6B , Text-Embedding-3-small and others4 Abstract 零训练在线对齐可在未知域、无泄漏对时从黑盒 embedding 还原句子。Zero2Text 是一种不训练 decoder、也不使用泄漏文本–向量对的文本 embedding 反演,针对 RAG 向量库在严格黑盒、目标域未知时的还原。
提出保义释义攻击 PAA,抬高 LLM 审稿评分
Published Jan 11
Evaluated models GPT-4o , Gemini 2.5 , Sonnet 4 Abstract PAA 用保义释义抬高 LLM 审稿分。PAA 是对 LLM-as-a-Reviewer 的 black-box 攻击:只改写摘要,用评审分做 ICL 搜索,并用 BERTScore 与困惑度限制语义和自然度。
You have reached the end