全部论文

CredLeak-Bench

提出 CredLeak-Bench，评测 Agent 在钓鱼登录与收件箱中的凭据泄露

arXiv

2610.08871

发表

10月6日

层

应用层

场景

网页与电脑操作

测试

Claude Sonnet 5、Claude Opus 4.8、Gemini 3.6 Flash 等 7 个

• 攻击提示注入

论文评测 Claude Code 与 Codex 记忆文件中的提示注入风险

评测编码智能体记忆文件中的提示注入及其跨会话持久性

arXiv

2607.14611

发表

7月16日

层

应用层

场景

编程 Agent

测试

Claude Haiku 4.5、Claude Opus 4.7、GPT-5.2 等 4 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +1+1

研究者提出 COVER：在语言预算下选择源语言实现跨语言遗忘

提出 COVER，在语言预算下选择源语言实现跨语言知识遗忘

arXiv

2609.40286

发表

10月1日

层

训练与数据层

场景

模型与 API

测试

Tiny Aya Global、Qwen3-4B-Instruct-2507、Llama-3.2-3B-Instruct

• 防御模型加固
• 攻击提取与窃取

ACEA：面向红蓝队对抗的 LLM 协同演化测试平台

提出红蓝对抗评测平台 ACEA，分开计量攻击强度与防御效果

arXiv

2609.08256

发表

9月8日

层

提示层

场景

模型与 API

测试

openai/gpt-4o、google/gemini-2.5-pro、google/gemma-3-27b-it 等 5 个

• 攻击越狱
• 组件护栏与评审

AgentTell：浏览器 Agent 的行为侧信道泄漏基准

构建 AGENTTELL 基准，测量浏览器智能体跨站行为侧信道泄露

arXiv

2609.32915

发表

9月26日

层

应用层

场景

网页与电脑操作

测试

Claude Sonnet 5、Gemini 3.7 Flash、GPT-5.6 Luna 等 6 个

• 风险Agent 危险操作

PrivDrift：审计活跃 LLM 对话中话题漂移下的用户秘密泄露

提出 PrivDrift 基准，审计话题漂移后的用户秘密复述

arXiv

2609.30094

发表

9月25日

层

提示层

场景

模型与 API

测试

GPT-OSS-120B、DeepSeek-R1、Qwen3-VL-235B

• 攻击提取与窃取
• 技术角色扮演与说服

IDUnlearn-Bench：面向视觉语言模型的个体级遗忘基准

提出 IDUnlearn-Bench，评测 VLM 个体级遗忘后的身份残留

arXiv

2609.33481

发表

9月27日

层

训练与数据层

场景

模型与 API

测试

Qwen3-VL-2B、Qwen3-VL-4B、Qwen3-VL-8B 等 6 个

• 防御模型加固
• 攻击提取与窃取
• 组件视觉

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

测试

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频