全部论文

TranScope：利用 CPU 性能计数器对 Transformer 做成员推断攻击

提出 TRANSCOPE，用 CPU 硬件计数器推断训练集成员

arXiv

2610.06848

发表

10月6日

层

基础设施层

场景

模型与 API

攻击者

黑盒

被测模型

BERT (4.4M-340M)、ViT (22M-307M)、Pythia (70M-2.8B) 等 5 个

• 攻击提取与窃取
• 技术侧信道

研究者提出闭环偏见注入攻击

提出闭环激活引导，在扩散语言模型去噪过程中注入定向偏见

arXiv

2610.05894

发表

10月5日

层

模型层

场景

模型与 API

攻击者

灰盒

被测模型

LLaDA-8B-Instruct、Dream-v0-Instruct-7B、LLaDA-MoE-7B-A1B-Instruct

• 攻击模型篡改
• 技术梯度与表征优化

推理层安全：防御对抗性推理与基础设施滥用

用 SCM 合成会话并训练检测器识别推理层滥用

arXiv

2609.38239

发表

9月29日

层

基础设施层

场景

模型与 API

被测模型

gradient-boosted detector (GBDT/XGBoost)

• 防御检测与过滤
• 攻击越狱
• +1+1

Cave-Bench：虚假指控下 LLM 智能体最高 60.06% 的运行会破坏正确工作

提出 CAVE-BENCH，评测智能体在虚假指责下破坏已完成的正确工作

arXiv

2609.32616

发表

9月26日

层

应用层

场景

coding agent

被测模型

Claude-Sonnet-5、Claude-Opus-5、GPT-5.6-Sol 等 14 个

• 攻击提示注入
• 风险Agent 危险操作
• +2+2

OllamaDrama：用蜜罐测量暴露 LLM 基础设施遭受的攻击

部署蜜罐测量针对暴露 LLM 基础设施的攻击

arXiv

2609.29757

发表

9月24日

层

基础设施层

场景

模型与 API

PMA 攻击：针对隐私保护 LLM 中嵌入到嵌入混淆的语义流形对齐方法

提出 PMA，用流形对齐从 E2EO 混淆向量恢复明文

arXiv

2609.06749

发表

9月7日

层

模型层

场景

模型与 API

被测模型

BERT-base、RoBERTa-base、T5-base 等 6 个

• 攻击提取与窃取
• 组件嵌入

研究者提出上下文权限提升攻击，12 款 Agent 框架均受影响

提出针对 Agent Harness 的上下文特权提升攻击

arXiv

2609.01222

发表

9月1日

层

应用层

场景

coding agent

被测模型

GPT-5.5、GPT-5.4 mini、Claude-Sonnet-4.6 等 7 个

• 攻击提示注入
• 技术潜伏触发
• 组件记忆
• +2+2

研究者提出 SkillMisevo-Bench，量化自改进 Agent 的技能误演化风险

提出 SkillMisevo-Bench，量化自改进 Agent 的技能误演化

arXiv

2608.12851

发表

8月13日

层

应用层

场景

coding agent

被测模型

Claude Code、Codex、Hermes 等 4 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆

论文评测 Claude Code 与 Codex 记忆文件中的提示注入风险

评测编码 Agent 记忆文件中提示注入的跨会话影响

arXiv

2607.14611

发表

7月16日

层

应用层

场景

coding agent

被测模型

Claude Haiku 4.5、Claude Opus 4.7、GPT-5.2 等 4 个

• 攻击投毒与后门
• 组件记忆
• +1+1