全部论文

BadAction：通过动作引导触发器对交互式视频生成模型实施后门攻击

提出 BadAction，通过动作触发器给交互式视频生成植入后门

arXiv

2609.39047

发表

9月30日

层

训练与数据层

场景

模型与 API

被测模型

Astra (Wan2.1-T2V-1.3B)

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重
• +1+1

Purdue 提出 Pact：将欺骗作为行为遗忘

提出 PACT，遗忘推理模型在压力下的欺骗行为并保留上下文理解

arXiv

2609.38909

发表

9月30日

层

训练与数据层

场景

模型与 API

攻击者

白盒

被测模型

DeepSeek-R1-Distill-Qwen-32B、QwQ-32B

• 防御模型加固
• 攻击模型篡改
• 风险欺骗与谋划
• 组件微调与开源权重
• +1+1

Tracekit：面向自主编码 Agent 的防篡改意图-推理-动作审计系统

提出 Tracekit，审计编码 Agent 的意图、推理与动作并检测账本篡改

arXiv

2609.35659

发表

9月29日

层

应用层

场景

coding agent

被测模型

Claude Code (claude -p, version 2.1)、独立评审（同一 CLI，无工具）

• 防御监控与审计
• 攻击提示注入
• 风险Agent 危险操作
• 组件监控器
• +3+3

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

被测模型

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频

GhostWord：针对自动语音识别的细粒度后门攻击

提出 GhostWord 词级触发后门，对自动语音识别做数据投毒

arXiv

2609.04260

发表

9月2日

层

训练与数据层

场景

模型与 API

被测模型

Whisper-Small、Whisper-Medium、MMS 等 4 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件音频
• +2+2

研究者提出上下文权限提升攻击，12 款 Agent 框架均受影响

提出针对 Agent Harness 的上下文特权提升攻击

arXiv

2609.01222

发表

9月1日

层

应用层

场景

coding agent

被测模型

GPT-5.5、GPT-5.4 mini、Claude-Sonnet-4.6 等 7 个

• 攻击提示注入
• 技术潜伏触发
• 组件记忆
• +2+2

研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链

arXiv

2608.09867

发表

8月11日

层

提示层

场景

模型与 API

攻击者

黑盒

被测模型

Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等 13 个

• 攻击提取与窃取
• 技术推理链操控
• 组件推理链
• +1+1

论文评测 Claude Code 与 Codex 记忆文件中的提示注入风险

评测编码 Agent 记忆文件中提示注入的跨会话影响

arXiv

2607.14611

发表

7月16日

层

应用层

场景

coding agent

被测模型

Claude Haiku 4.5、Claude Opus 4.7、GPT-5.2 等 4 个

• 攻击投毒与后门
• 组件记忆
• +1+1

研究者披露针对 LLM Agent 护栏的推理扩展型拒绝服务攻击

提出针对 Agent 护栏的推理扩展拒绝服务攻击

arXiv

2606.14517

发表

6月12日

层

应用层

场景

AI Agent

攻击者

黑盒

被测模型

TS-Guard-8B、Qwen3.5-9B、DeepSeek-V3.2 等 11 个

• 攻击拒绝服务
• 技术推理链操控
• 组件护栏与评审
• +2+2

研究揭示 LLM 按 token 计费可被服务商系统性虚报

构造可通过计费审计的 token 虚报，使服务商系统性超收

arXiv

2605.30040

发表

5月28日

层

基础设施层

场景

模型与 API

被测模型

PALACE domain-adapted auditor

• 攻击检测规避
• 技术针对防御
• 组件监控器
• +2+2