全部论文

Purdue 提出 Pact：将欺骗作为行为遗忘

提出 PACT，遗忘推理模型在压力下的欺骗行为并保留上下文理解

arXiv

2609.38909

发表

9月30日

层

训练与数据层

场景

模型与 API

攻击者

白盒

被测模型

DeepSeek-R1-Distill-Qwen-32B、QwQ-32B

• 防御模型加固
• 攻击模型篡改
• 风险欺骗与谋划
• 组件微调与开源权重
• +1+1

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

被测模型

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频

研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

提出控制标记注入，清空工具 Agent 的思维链以绕过推理监控

arXiv

2609.27542

发表

9月23日

层

应用层

场景

AI Agent

被测模型

openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等 4 个

• 攻击提示注入
• 技术对话结构操控
• 组件推理链
• +3+3

MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测

用 MMPIBench 评测多模态提示注入对 Agent 框架的影响

arXiv

2609.09404

发表

9月9日

层

应用层

场景

AI Agent

被测模型

Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉
• +1+1

GhostWord：针对自动语音识别的细粒度后门攻击

提出 GhostWord 词级触发后门，对自动语音识别做数据投毒

arXiv

2609.04260

发表

9月2日

层

训练与数据层

场景

模型与 API

被测模型

Whisper-Small、Whisper-Medium、MMS 等 4 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件音频
• +2+2

研究者披露针对 LLM Agent 护栏的推理扩展型拒绝服务攻击

提出针对 Agent 护栏的推理扩展拒绝服务攻击

arXiv

2606.14517

发表

6月12日

层

应用层

场景

AI Agent

攻击者

黑盒

被测模型

TS-Guard-8B、Qwen3.5-9B、DeepSeek-V3.2 等 11 个

• 攻击拒绝服务
• 技术推理链操控
• 组件护栏与评审
• +2+2

PaperGuard：针对多模态 AI 同行评审的攻击与防御基准

提出 PaperGuard，用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令

arXiv

2606.12716

发表

6月11日

层

应用层

场景

LLM 应用

被测模型

Claude-sonnet-4.5、GPT-4o、GPT-4.1 等 11 个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉
• +2+2

研究揭示 LLM 按 token 计费可被服务商系统性虚报

构造可通过计费审计的 token 虚报，使服务商系统性超收

arXiv

2605.30040

发表

5月28日

层

基础设施层

场景

模型与 API

被测模型

PALACE domain-adapted auditor

• 攻击检测规避
• 技术针对防御
• 组件监控器
• +2+2