Some text is shown in its original language while the English translation is being prepared.
Oct 12 · Monday
All papers Found 127 papers Another 336 papers do not have category tags yet and are not included in filtered results.
“
About this collection Collection in progress We are building a large AI safety paper collection to help researchers find work related to their interests. Papers are collected automatically andfiltered only for relevance to AI safety , without judging quality, novelty or reading value. The default “Organized first” shows papers with tags or public deep readings first. Each group is ordered by original publication date, newest first, with undated papers last. “Latest publication” uses publication dates only. This order is not a quality ranking.
One-line summaries, tags and deep readings are prepared by AI from the papers. Language models may have systematic biases and produce hallucinations.We plan to carry out human annotation and review to reduce errors in this content.
提出义务识别基准 ObligationBench，并训练护栏识别 Agent 未履行的安全义务
Published Oct 8
Evaluated models ObligationGuard 、 Claude-Opus-4.8 、 GPT-5.6-Sol and others17 Abstract 义务是护栏缺口。作者认为编码智能体的安全不能只靠拦截禁止动作，还要找出终止时仍未做的安全关键动作，并将其称为义务。
重测并扩展对 AI Agent 的提示注入，并用 Agent Card 欺骗操纵 A2A 选择
Published Oct 8
Evaluated models Ollama Mistral 0.9.5 、 llama3-8b-8192 、 gemini-2.0-flash-lite and others5 Abstract 单智能体过滤与分类可被格式或措辞绕过，A2A 选卡还会偏向名称和描述。作者在自建的 LangChain、AutoGen 和 A2A 系统上重测提示注入，并改 Agent Card 看选择是否偏移。摘要称试验主要凸显单智能体弱点，同时把攻击扩到多智能体。
提出零空间激活引导 Nullify，免训练擦除指定记忆并保持效用
Published Oct 8
Evaluated models Llama-2-7B-chat-hf 、 Qwen3-8B 提出利用路由元数据推断敏感话题的侧信道攻击
Published Oct 7
Evaluated models RouteLLM (BERT router) 、 notdiamond-0001 、 Vela (vLLM Semantic Router) Abstract 论文揭示并测量了 LLM 路由决策在无文本日志中的敏感话题泄露，验证了按类别公平性防御的有效性与边界。
提出流匹配逆向框架，从多向量视觉文档索引重构页面
Published Oct 7
Evaluated models Tomoro-ColQwen3-8B 、 ColQwen3.5-4.5B 、 Tomoro-colqwen3-embed-4b and others13 提出 CredLeak-Bench，评测 Agent 面对钓鱼的凭据泄露与恢复
Published Oct 6
Evaluated models Claude Sonnet 5 、 Claude Opus 4.8 、 Gemini 3.6 Flash and others7 提出 PERSISTBD，发布前强化供应链后门使其经良性 SFT 与 RL 后仍外发凭据
Published Oct 6
Evaluated models Qwen2.5-Coder-3B-Instruct 、 Qwen2.5-Coder-7B-Instruct 、 Qwen3-Coder-30B-A3B-Instruct Abstract 总结了论文关于后门在 SFT/RL 中存活的发现、两因子机制、PERSISTBD 方法与核心数字。本文研究第三方 LLM 智能体在开发者进行良性监督微调（SFT）和强化学习（RL）后训练时的后门持久性风险。
提出检索可采纳性核验框架，评测记忆智能体的记录资格与披露
Published Oct 6
Evaluated models DeepSeek V4 Pro 、 Gemini 3.6 Flash 、 GPT-5.6 Luna and others7 Abstract 作者用三值可采纳性和匹配召回界审计长时记忆检索，并分开报告支持、资格与披露。这是一套长时记忆检索的可采纳性核验协议，用来分开检查候选支持、资格、提示词暴露和答案披露，而不是提出新的检索算法。 。
提出 AMU 按推导图门控企业 Agent 共享记忆的列级访问
Published Oct 6 Abstract 在完整血缘下，AMU 按列权限放行缓存，并标出同名 KPI 冲突。AMU 用列级推导门控共享记忆，拦截经缓存流出的无权敏感列，并标出同名 KPI 的定义冲突。
提出 TRANSCOPE，用 CPU 硬件计数器推断训练集成员
Published Oct 6
Evaluated models BERT (4.4M-340M) 、 ViT (22M-307M) 、 Pythia (70M-2.8B) and others5 Abstract TRANSCOPE 揭示了分词器在嵌入表引发的硬件访问局部性差异，证实微架构计数器可突破恒定时间与置信度遮蔽防御。
提出 DP-MixMin，私有学习公开数据混合并做差分隐私微调
Published Oct 6
Evaluated models ResNet-18 、 GPT-2 Medium Abstract DP-MixMin 私下学公开混合再 DP 微调，胸片 macro AUC 与邮件困惑度优于均匀混合。DP-MixMin 是一条端到端的差分隐私训练流程：先私下决定多个公开数据集的预训练混合，再预训练并在敏感数据上 DP 微调。作者称这是首个这样的流程。
提出 AgentPrivArena 与运行时审计，评测 Agent 轨迹级隐私泄露
Published Oct 5
Evaluated models GPT-5.4 、 DeepSeek-V4-Pro 、 Kimi-K2.6 and others6 用翻译前缀做跨语言训练数据提取，恢复英语训练文本中的 PII
Published Oct 5
Evaluated models GPT-Neo 1.3B 、 GPT-Neo 2.7B 、 GPT-J 6B and others7 Abstract 跨语言 TDE 能恢复英语记忆的 PII，转移随多语训练和措辞保真变化。这篇工作检验训练数据抽取是否跨语言：英语段落里记住的 PII，能否被其他语言的前缀逐字抽出。
提出 TRACER，从权重差识别扩散模型被擦除概念
Published Oct 5
Evaluated models Stable Diffusion v1.5 、 Stable Diffusion 3 、 FLUX.1 and others5 Abstract TRACER 用权重足迹识别未披露擦除概念并估计个数，作者称数秒内完成且准确率高于对照。TRACER 针对的是遗忘扩散模型上的目标识别：提供者从公开基座 W 用已发表方法擦掉未知集合 S⋆，只发布 W′。攻击者还有假定包含这些概念的词表，但不知擦了谁、擦了几个、用了什么算法。
构建 AGENTDOXX 基准，评测联网搜索 Agent 对匿名访谈的再识别
Published Oct 5
Evaluated models GPT-5.6 Terra 、 GPT-5 Mini 、 GPT-4.1 Mini and others10 Abstract 论文提出了已知身份的重识别基准 AGENTDOXX，揭示搜索与记忆双重风险及现有防御在检索轨迹中的泄露漏洞。
提出 PLW，用微调把先前对话敏感触发编码进后续生成图像
Published Oct 5
Evaluated models OmniGen2 、 BAGEL-7B Abstract PLW 把先前对话线索写成后续图像中的隐水印，检出随触发、模型和间隔变化。
提出 StegoMemory，评测智能体持久记忆作为跨会话隐写信道
Published Oct 3
Evaluated models Llama 3.1 405B 、 Claude 3.5 Sonnet 、 GPT-4o and others13 Abstract 研究揭示智能体持久记忆可作为隐蔽信道跨会话传输机密，写入持久化是主要防御瓶颈，呼吁建立记忆完整性防御。
提出 UnAct，仅以前向激活干预从分类器中遗忘指定类别
Published Oct 3
Evaluated models ResNet-18 、 ViT-B/16 Abstract UnAct 用前向激活做类别遗忘。UnAct 是一种事后类别遗忘：删除请求可以只有少量该类图像，且没有标签和保留数据。它不用梯度，只对遗忘图像做前向。编辑对象是分类器所读的后期单元。
提出 MemLeak，评估多租户 Agent 共享向量记忆的跨用户泄露
Published Oct 3
Evaluated models Gemini 2.5 Flash 、 Claude Sonnet 4.5 、 all-MiniLM-L6-v2 and others5 衡量分裂学习中梯度相对激活对客户文本重建的额外贡献
Published Oct 3
Evaluated models GPT-2 (openai-community/gpt2, 124M) 、 Qwen3-0.6B Abstract 激活已恢复大部分 token。这篇工作测量 split learning 分裂点上的文本泄漏：激活单独能恢复多少，训练回传的梯度再增加多少，以及按 token 还是按整篇计分会不会改写结论。