Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
All papers Found 22 papers Another 265 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Annotated first” shows papers with tags or published paper analyses first. Each group is ordered by original publication date, newest first, with undated papers last. “Newest first” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and paper analyses are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
提出利用路由元数据推断敏感话题的侧信道攻击
Published Oct 7
Evaluated models RouteLLM (BERT router) , notdiamond-0001 , Vela (vLLM Semantic Router) Abstract 论文揭示并测量了 LLM 路由决策在无文本日志中的敏感话题泄露，验证了按类别公平性防御的有效性与边界。
提出 TRANSCOPE，用 CPU 硬件计数器推断训练集成员
Published Oct 6
Evaluated models BERT (4.4M-340M) , ViT (22M-307M) , Pythia (70M-2.8B) and others5 Abstract TRANSCOPE 揭示了分词器在嵌入表引发的硬件访问局部性差异，证实微架构计数器可突破恒定时间与置信度遮蔽防御。
提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见
Published Oct 5
Evaluated models LLaDA-8B-Instruct , Dream-v0-Instruct-7B , LLaDA-MoE-7B-A1B-Instruct Abstract 通过去噪中间概率反馈动态调节残差流转向，证明扩散语言模型在推理服务栈中存在闭环偏见注入脆弱性。
提出利用共享冷却的跨租户干扰攻击，并设计租户隔离机制
Published Oct 4 Abstract 揭示网关共享冷却漏洞，提出来源检查与租户隔离防御。
提出 memetic trojans，借助社交传染在 Agent 网络中传播对抗载荷
Published Oct 1
Evaluated models gpt-oss-120B , deepseek-v4.1-flash , qwen-32B and others5 Abstract memetic trojans 用内生社会传染携带载荷。Memetic trojans 是一类网络介导攻击：对抗载荷搭在智能体本来就会转发和点赞的内容上扩散，转发者不必被攻陷，也不必执行“请继续复制”的指令。
提出 A2A-TIBA，经 A2A 对等任务间接注入并植入常驻回调
Published Sep 30
Evaluated models MiniMax-M3 , deepseek-v4-pro , glm-5.3 and others8 Abstract A2A-TIBA 一次植入后绕过智能体，GDA 用四类结果定位防线，ELA-ITL 把信封标注列为第三层。A2A-TIBA 把间接提示注入和绕过放进 A2A：gray-box 攻击者已能投递任务，诱导目标部署常驻回调程序后，下令和外传不再经过智能体。
提出 BAM 反馈编码，在 LLM 生成文本中实现隐蔽通信
Published Sep 22
Evaluated models Llama-3.1-8B , Qwen-3.5-9B-Base , Mistral-7B-v0.3 and others6 提出 PMA，用流形对齐从 E2EO 混淆向量恢复明文
Published Sep 7
Evaluated models BERT-base , RoBERTa-base , T5-base and others6 系统分析智能体支付协议的前置上下文操纵与授权威胁
Published Aug 25 提出 KeyPooling，测量 API 中继何处瓦解提示缓存隔离
Published Aug 18
Evaluated models grok-4-fast-non-reasoning , grok-4-1-fast-non-reasoning , grok-3 and others11 Abstract 共享上游凭证使中继客户进入同一缓存域，保留身份或独立 principal 可分开。KeyPooling 测量 LLM API 中继在何处丢掉客户身份，使 prompt cache 不再按下游客户隔离。
提出多智能体流水线的边界攻击，使对抗内容作为可信输入跨层传播
Published Aug 1
Evaluated models GPT-5-mini , Claude Sonnet 4.5 , Kimi K2.5 Abstract 缺边界校验使对抗内容跨智能体传播，作者称这是架构属性而非模型能力。作者把多智能体 LLM 流水线的对抗问题定义为缺少边界校验，并用生产轨迹和受控实验检查脆弱性来自架构还是骨干模型。中间输出未经验证就传给下游。作者认为，一旦某级接受对抗内容，后续智能体会把它当作可信输入。
提出 MAStrike，用 Shapley 选联盟对多智能体做共谋红队
Published Jun 11
Evaluated models Claude Opus 4.7 , GPT-5.5 , Gemini 3.1 Pro 提出 CodeSpear 越狱，借语法约束解码生成恶意代码，并给出 CodeShield 防御
Published Jun 10
Evaluated models Qwen2.5-Coder-7B , Qwen2.5-Coder-32B , Qwen2.5-7B and others10 Abstract 论文发现语法约束解码会破坏自然语言安全对齐，提出 CodeSpear 越狱攻击与基于蜜罐代码对齐的 CodeShield 防御。
构造可通过计费审计的 token 虚报，使服务商系统性超收
Published May 28
Evaluated models PALACE domain-adapted auditor Abstract 不诚实提供方可在三种 token 审计上虚报并通过检查，作者认为需改用提供方不控制的证据。不透明 LLM 的按 token 计费里，现有审计核验的是提供方可控的证据，不诚实提供方可以虚报并通过检查。 。
建模并利用多智能体网络中子智能体生成时的记忆继承漏洞
Published May 9
Evaluated models MiniMax M2.5 , Llama-4-Maverick-17B-128E-Instruct-FP8 , Qwen3.5-Plus and others5 Abstract 形式化子智能体继承，在 OpenClaw 上演示四类编排层漏洞并提出防御。作者对多智能体网络里的子智能体继承 做形式化分析，并用开源框架上的 PoC 演示编排层如何让单点妥协继续扩散。
提出 SeedHijack，劫持采样 PRNG 以强制选定 token
Published May 8
Evaluated models GPT-2 (124M) , Qwen2-1.5B-Instruct , DeepSeek-R1-1.5B and others5 Abstract 采样层 PRNG 被替换以强制选 token。SeedHijack 把 LLM 采样用的 PRNG 输出换成攻击者选定的数，从而指定下一个 token。权重、输入和 logits 都不改。防御是用硬件 QRNG 替换该随机源。
提出 WebWeaver ，只攻陷单个智能体并从对话上下文恢复多智能体通信拓扑
Published Mar 12
Evaluated models Llama 3.1 8B , Qwen 2.5 7B , Mistral NeMo 12B and others6 Abstract WebWeaver 用上下文推断拓扑。WebWeaver 是针对 LLM-MAS 通信拓扑机密性的推断攻击：只控制一个任意智能体，从对话上下文恢复全图，而不是查询智能体 ID。
提出 OPTILEAK，经 KV 缓存侧信道逐 token 重建他人提示
Published Feb 24
Evaluated models Qwen-2.5-3B-Instruct , Qwen-2.5-7B-Instruct , Qwen-2.5-14B-Instruct and others4 Abstract OPTILEAK 用 SFT 与 hard-token DPO 降低每 token 请求数，作者称缓存提示泄露的风险高于先前报告。
提出 Thought Virus，经潜意识提示使偏好沿多 Agent 消息传播
Published Feb 23
Evaluated models Qwen2.5-7B-Instruct , Llama-3.1-8B-Instruct Abstract Thought Virus 把单点偏差传到下游。Thought Virus 把 subliminal prompting 放进多智能体通信，看单点偏差会不会在不点名目标概念时传到全网。
提出 TFL 定向比特翻转，使选定提示输出虚假答案且无关查询保持正确
Published Feb 20
Evaluated models Qwen3-8B , DeepSeek-R1-Distill-Qwen-14B , LLaMA-3.1-8B-INSTRUCT Abstract TFL 在三个 LLM 上搜索权重比特，使指定提示出现目标关键词，并约束无关任务下降。TFL 是对 LLM 主存权重的目标比特翻转框架：攻击者要让选定提示输出指定虚假答案关键词，同时限制无关查询上的降质。