Some text is shown in its original language while the English translation is being prepared.
Oct 12 · Monday
All papers Found 34 papers Another 336 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Organized first” shows papers with tags or public deep readings first. Each group is ordered by original publication date, newest first, with undated papers last. “Latest publication” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and deep readings are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
Measures citation fragility in AI search, demonstrating that ordinary public posts can enter citations and answers.
Published Oct 8
Evaluated models Grok 、 Doubao 、 ChatGPT and others10 Abstract The authors claim the paper quantifies vulnerabilities in AI search caused by citation preferences and low posting thresholds; tests show public web posts can penetrate AI citations, and they call for auditing the citation supply chain.
提出流匹配逆向框架，从多向量视觉文档索引重构页面
Published Oct 7
Evaluated models Tomoro-ColQwen3-8B 、 ColQwen3.5-4.5B 、 Tomoro-colqwen3-embed-4b and others13 提出 RAG-PIBench，评测 RAG 上下文中提示注入检测器
Published Oct 6
Evaluated models DistilBERT-base-uncased 、 DeBERTa-v3-base 、 MiniLM 用配对回放评测任务范围授权能否阻断越权工具执行
Published Oct 5
Evaluated models Llama 3.2 3B Instruct Q4 K M 、 Qwen3 4B Instruct 、 Gemma 3 4B and others8 提出临时可见性协议，限制持续摄入 RAG 向量库的投毒暴露
Published Oct 5 Abstract 用截止期限制未核验可见时长。这篇工作给持续摄入的 RAG 向量库一个失败关闭的临时可见性协议，把协议能限制的未核验暴露和依赖检测器的中毒暴露分开。
提出 HDI 攻击以篡改 GraphRAG 辅助结构破坏检索
Published Oct 2
Evaluated models Microsoft GraphRAG 、 HippoRAG2 Abstract 论文形式化了 GraphRAG 辅助模式级实体攻击面，提出 HDI 攻击并验证其攻击效果。
提出 MADBench，评测多智能体辩论是吸收还是放大对抗影响
Published Sep 30
Evaluated models gpt-4o 、 GPT-5 、 GPT-6 Astra Abstract MADBench 显示辩论能吸收部分准确率攻击，同时放大未授权读写。MADBench 是一个评测多智能体辩论安全性的基准，用来看攻击是被辩论吸收还是被放大。
用因果激活修补定位模型服从提示注入的决策层
Published Sep 29
Evaluated models Qwen3-4B 、 Qwen3-14B 、 Qwen3-32B and others7 Abstract 合规的因果杠杆集中在网络后三分之一的低秩子空间，该层也是混淆下检测最好的位置。这篇工作用逐层激活修补定位提示注入合规发生在网络何处，并把该位置用于检测验证。 。
提出 ToolFence，以能力蓝图和确定性授权拦截 Agent 未授权工具调用
Published Sep 29
Evaluated models Qwen3-max 、 GPT-4o (gpt-4o-2024-08-06) 、 Mistral-Small-3.1-24B-Instruct-2503 提出 LENS，构造集合级 RAG 语料投毒以导向预设答案
Published Sep 28
Evaluated models Qwen3.6-35B-A3B 、 Llama-3.1-70B-Instruct 、 DeepSeek-V4-Pro 提出多源完整性认证器，在结构化 Agent 动作执行前按控制域决定准入或弃权
Published Sep 28
Evaluated models Claude Opus 4.8 、 GPT-5.5 、 Gemini 3.1 Pro and others5 Abstract 作者给出条件性的动作完整性认证。这是一项结构化动作执行前的完整性防御研究 ，对象是从可腐化文档和工具输出拼装的支付等特权动作。
提出双控多智能体基准 DUMA-Bench，测量对抗环境下的策略违反
Published Sep 21
Evaluated models GPT-5 、 GPT-5-mini 、 GPT-5-nano and others14 Abstract DUMA-Bench 用双控交互评测智能体安全。DUMA-Bench 把 τ²-bench 的双控交互做成智能体安全评测，用来看策略违反如何随用户、模型和环境一起出现。
提出 Provenance-Aware Transformers，隔离不可信来源防御间接提示注入
Published Sep 18
Evaluated models SmolLM2-360M-Instruct 、 LLaMA-3-8B-Instruct 、 Qwen2.5-7B-Instruct and others4 用任务绑定令牌和策略预言机拦住多智能体流水线的未授权执行
Published Sep 15
Evaluated models gemma4:31b-cloud Abstract 结构性授权拦住了记忆投毒的未授权执行，持密钥时承重的是策略预言机。作者在一条会改写沙箱邮件库的四智能体流水线上，检查低权限失陷会不会变成未授权的真实动作。
提出神经符号纵深架构，阻断 AI-SOC 的日志投毒与间接提示注入
Published Sep 10
Evaluated models Gemma 3 (12B) 提出 SHAQ，用影子查询嵌入替换文档嵌入以抵御嵌入反演
Published Sep 4
Evaluated models GTR-T5 encoder 、 DPR Abstract SHAQ 用影子查询嵌入替换文档嵌入。SHAQ 是面向云端向量库 EIA 的防御：不直接改文档嵌入，而用影子查询嵌入替换它们。
提出 CodePoisonRAG，对检索增强代码生成的知识库投毒以植入漏洞
Published Sep 3
Evaluated models Qwen 3.5 9B 、 Code Llama 13B 、 DeepSeek-Coder-V2 16B Abstract CodePoisonRAG 展示了 RACG 外部知识库的新攻击面，在较低投毒率下可定向诱发指定漏洞并部分抵御防御。
构建 COUNTER-GEO-BENCH，评测生成式搜索中的 GEO 虚假信息防御
Published Sep 2
Evaluated models Gemma-4-31B-IT 、 Qwen-3.5-35B-A3B 、 Llama-4-Scout-17B-16E and others8 Abstract 论文构建了针对 GEO 虚假信息的首个防御基准，揭示通用护栏的失效与反作用，并提出了有效的轻量对比检测基线。
提出类型化溯源与断言护栏，约束持久 Agent 释放自传断言
Published Sep 2 提出 VerTox，用可验证奖励强化学习生成误导文档并投毒检索语料
Published Sep 1
Evaluated models SimLM-base 、 BGE-base 、 Cohere-embed-english-v3.0 and others8 Abstract VerTox 以可验证奖励微调小 LLM，生成能抬高排序并腐蚀事实的投毒文档。VerTox 用可验证奖励把小 LLM 微调成语料投毒生成器，用来探测神经排序器在注入文档下的暴露面。