Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 16 papers Another 265 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
提出 LENS，构造集合级 RAG 语料投毒以导向预设答案
Published Sep 28
Evaluated models Qwen3.6-35B-A3B , Llama-3.1-70B-Instruct , DeepSeek-V4-Pro 提出 Repeat-After-Me 自适应视觉提示注入，诱导 VLM 智能体执行指定任务
Published Sep 4
Evaluated models Claude-Opus-4.7 , GPT-5.5 , Gemini-3.1-Pro and others6 Abstract 论文提出了针对黑盒 VLM 的前缀诱导自适应视觉提示注入，在多款模型上诱发了工具调用与隐私泄露。
提出 VerTox，用可验证奖励强化学习生成误导文档并投毒检索语料
Published Sep 1
Evaluated models SimLM-base , BGE-base , Cohere-embed-english-v3.0 and others8 Abstract VerTox 以可验证奖励微调小 LLM，生成能抬高排序并腐蚀事实的投毒文档。VerTox 用可验证奖励把小 LLM 微调成语料投毒生成器，用来探测神经排序器在注入文档下的暴露面。
提出 MAMJ，在元层面交替优化多模态越狱的策略提示与攻击者权重
Published Aug 27
Evaluated models GPT-4o , Gemini-3-Pro-Preview , Seed 2.0 提出权威链劫持与轨迹引导策略演化，劫持搜索 Agent 的证据链
Published Aug 5
Evaluated models Qwen3.5-9B , Gemma4-31B , DeepResearch and others7 Abstract 论文揭示了多步搜索智能体在受限中间人操纵下的脆弱性，提出 ACH 策略与 TGSE 演化方法并完成系统验证。
提出 INFER+ 信息过载方法，越狱大型视觉语言模型
Published Jul 3
Evaluated models Qwen3-VL-8B , Qwen2-VL-7B , InternVL3.5-8B and others8 Abstract 用图文过载越狱 LVLM。这篇工作用信息过载 越狱 LVLM，而不是靠 OOD 变换隐藏意图。
提出 ASO，用 GRPO 优化视觉风格以放大越狱攻击
Published Jun 1
Evaluated models GPT-4.1-mini , Gemini-2.5-Flash , Qwen3-VL and others6 Abstract 论文揭示了 MLLM 的风格敏感性脆弱面，提出 ASO 框架利用强化学习优化风格触发器，有效放大了现有视觉越狱效果。
提出 DiscourseFlip，用有限文档投毒操纵黑盒 RAG 的话语级观点
Published May 31
Evaluated models Llama3.1-8B-Instruct , Qwen3-8B-Instruct , BGE and others5 Abstract DiscourseFlip 按语义图分配投毒预算。DiscourseFlip 是针对黑盒 RAG 的话语级观点操纵。作者要处理的缺口是：只打单条查询或主题局部查询时，覆盖窄，目标受审查时容易被隔离，也难沿相关话题传播。攻击者不能看检索器或 LLM 内部，也不能改提示词模板，只能在文档数、生成 token 和 SEO 编辑距离限制下注入少量文档。
提出 AdversarialCoT 单文档检索投毒以操纵 RAG 推理答案
Published Apr 14
Evaluated models DeepSeek-R1 , Qwen3 , GLM4.5 and others5 提出 VROP，把有害意图拆成良性视觉 gadget 越狱视觉语言模型
Published Mar 10
Evaluated models GPT-4o , Claude 3.7 Sonnet , GLM-4V-Plus and others7 Abstract VROP 以良性视觉 gadget 与控制流提示词做组合越狱。VROP 是 black-box 多模态越狱框架：不在输入中放显式恶意触发，而把有害目标拆成语义正交的良性视觉 gadget，再用控制流提示词把合成留到后期推理。
提出 FERRET 框架，用扩展生成多轮多模态越狱对话
Published Feb 18
Evaluated models Llama Maverick , Claude Haiku , GPT-4o 提出 Confundo，微调投毒生成器为 RAG 生成抗分块的鲁棒投毒内容
Published Feb 6
Evaluated models Qwen3-8b , Llama3-8b , DeepSeek and others8 Abstract Confundo 用微调生成器做 RAG 投毒，作者报告事实、观点和幻觉三类目标上的攻击结果。Confundo 把 RAG 投毒做成微调：小模型按目标问题生成短毒文，再放进会被知识库摄入的文档。它针对的是实际系统会切块、用户也不会照抄预设问句，专用投毒因而变弱。攻击者没有目标系统的内部知识，也不能查询它，只能准备待摄入文档。
提出 MM-Plan 多模态越狱框架，自动规划多轮图像编辑以越狱视觉独占目标
Published Feb 5
Evaluated models Llama-3.2-11B , InternVL3-8B , Qwen3-VL-8B and others8 Abstract 作者称全局规划能攻破对单轮攻击更稳的前沿 MLLM。MM-Plan 是面向 Visual Exclusivity 的 black-box 多模态红队方法，并配有人工基准 VE-Safety。
提出 DECEIVE-AFC，以声明改写诱导搜索增强事实核查误判
Published Jan 31
Evaluated models HiSS , LEMMA , DEFAME and others4 提出 ReAct 双策略，按反馈改写提示并扰动图像绕过 VLM 安全过滤
Published Jan 30
Evaluated models Gemini-2.0-Flash Attacks arXiv 2503.06223 · Mar 8, 2025 提出 RedDiff，用强化扩散生成图像审计 VLM 情境安全失效
Published Mar 8, 2025
Evaluated models LLaVA-1.5-7B , Gemini-1.5-flash , LLaMA-3.2-11B-Vision-Instruct Abstract 用强化扩散生成视觉上下文，审计有害文本情境下的 VLM 安全失效。RedDiffuser 是黑盒审计框架：有害内容不是显式攻击指令，而是固定的部分有毒文本，再配上扩散模型生成的图像，看 VLM 的开放续写会不会变得不安全。
You have reached the end