全部论文

研究：恶意微调防御在持续训练下失效，72 条防御轨迹危害度全部上升

用代价曲线评估恶意微调防御在持续训练下的衰减

arXiv

2605.14605

发表

5月14日

层

训练与数据层

场景

模型与 API

测试

Llama-2-7B-chat、Qwen3-8B、Llama-3.1-8B-Instruct 等 8 个

• 防御模型加固
• 攻击模型篡改
• 组件微调与开源权重

CredLeak-Bench

提出 CredLeak-Bench，评测 Agent 在钓鱼登录与收件箱中的凭据泄露

arXiv

2610.08871

发表

10月6日

层

应用层

场景

网页与电脑操作

测试

Claude Sonnet 5、Claude Opus 4.8、Gemini 3.6 Flash 等 7 个

• 攻击提示注入

研究者在 Claude Code 和 Codex 上构造分段提示注入并发布边界动作审计基准

提出路径对齐归因 PAA，在边界动作前审计长流程智能体的分段提示注入

arXiv

2610.05163

发表

10月4日

层

应用层

场景

编程 Agent

测试

Claude Code (v2.1.172, Claude Sonnet 5)、Codex CLI (v0.144.0, GPT-5.5)、Claude Sonnet 5 等 7 个

• 防御监控与审计
• 攻击提示注入
• 组件监控器

EvoRiskBench：面向工作区 Agent 运行时安全风险的演化基准

提出 EvoRiskBench，评测工作区 Agent 的运行时安全风险

arXiv

2610.03153

发表

10月2日

层

应用层

场景

编程 Agent

测试

GPT-5.6 Sol、DeepSeek-V4-Pro-0813、Claude Opus 5

• 攻击提示注入

EXE-Bench：为真实可用性对 AI Windows 恶意软件检测器进行权衡排名

提出 EXE-Bench 比较 Windows 恶意软件检测器的可用性权衡

arXiv

2607.24177

发表

7月27日

层

模型层

场景

模型与 API

测试

EmberGBDT、BBDnn、BBDnnFDRS 等 15 个

• 攻击检测规避

监督学习中的数据投毒攻击实证评估：标签翻转与后门投毒在 MNIST 和 Fashion-MNIST 上的对比

比较标签翻转与后门投毒对图像分类器的影响

arXiv

2609.10952

发表

9月10日

层

训练与数据层

场景

模型与 API

测试

Logistic Regression、Linear SVM、Random Forest

• 攻击投毒与后门

研究重新审视后门修复评测：区分总体干净效用与良性性能保持

用 Dmax 与尾部损失评测后门修复的类别性能保持

arXiv

2609.25579

发表

9月22日

层

训练与数据层

场景

模型与 API

测试

ResNet18、PreActResNet18、VGG19-BN

• 防御模型加固
• 攻击投毒与后门

研究提出 ACE 语料库，评估内核级证据对 Agent 安全检测的有效性

构建 ACE 语料并比较内核与应用层证据的攻击检测效果

arXiv

2609.28915

发表

9月24日

层

应用层

场景

编程 Agent

测试

AdaBoost、XGBoost、TabPFN 等 13 个

• 防御监控与审计
• 攻击提示注入
• 组件监控器
• +2+2

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

测试

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频