全部论文

LogInject 框架披露 LLM 日志分析中的被动提示注入

提出 LogInject 框架，评测日志分析中的被动提示注入及缓解

arXiv

2607.14493

发表

7月16日

层

应用层

场景

LLM 应用

测试

Llama-3-70B-Instruct、GPT-4o、Claude 3.5 Sonnet

• 攻击提示注入
• 技术编码与混淆
• 组件护栏与评审
• +1+1

CredLeak-Bench

提出 CredLeak-Bench，评测 Agent 在钓鱼登录与收件箱中的凭据泄露

arXiv

2610.08871

发表

10月6日

层

应用层

场景

网页与电脑操作

测试

Llama-3.1-8B-Instruct、Claude Sonnet 5、Claude Opus 4.8 等 7 个

• 攻击提示注入

论文提出 Operational Validity Contract，审计激活监控从探针分数到告警策略的有效性

提出操作有效性契约，审计激活监控的告警策略

arXiv

2610.04575

发表

10月3日

层

应用层

场景

网页与电脑操作

测试

Llama-3.2-3B、Qwen2.5-7B-Instruct、Qwen2.5-7B 等 4 个

• 防御监控与审计
• 组件监控器

AgentHazard：评估计算机使用智能体有害行为的基准

提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

arXiv

2604.02947

发表

4月3日

层

应用层

场景

网页与电脑操作、编程 Agent

测试

Llama-Guard-3-8B、Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct 等 12 个

• 攻击恶意使用

研究揭示过期文档投毒：RAG 检索可让模型放弃原本正确的答案

评测 RAG 中过期文档推翻模型原本正确回答的现象

arXiv

2609.31342

发表

9月25日

层

应用层

场景

LLM 应用

测试

Llama-3.1-8B、Llama-3.1-70B、GPT-4o 等 13 个

• 组件RAG

Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息

构建 COUNTER-GEO-BENCH，评测生成式搜索中的 GEO 虚假信息防御

arXiv

2609.02316

发表

9月2日

层

应用层

场景

LLM 应用

测试

Llama-4-Scout-17B-16E、Llama Guard 3-8B、Gemma-4-31B-IT 等 11 个

• 防御检测与过滤
• 攻击提示注入
• 组件RAG
• +1+1

VLoc Bench 发布：评测 Agent 在完整仓库中的漏洞定位能力

提出 VLoc Bench，评测智能体仅凭弱点类型在完整仓库中定位漏洞

arXiv

2609.15939

发表

9月15日

层

应用层

场景

编程 Agent

测试

Llama-3.3-70B、GPT-5.5 (xhigh)、GPT-5.5 (default) 等 15 个

• 风险危险能力

FairMedAgent：临床 LLM 智能体公平性审计中的随机噪声下限

用 FairMedAgent 测量临床智能体在输入不变时的动作不稳定性下限

arXiv

2609.03221

发表

9月3日

层

应用层

场景

LLM 应用

测试

llama3.1:8b-instruct、claude-haiku-4-5、claude-sonnet-5 等 7 个

CS-Guard：首个面向代码生成安全的 LLM 护栏评测基准

提出 CS-Guard 基准与虚构场景攻击，评测代码生成护栏

arXiv

2609.09798

发表

9月9日

层

应用层

场景

编程 Agent

攻击者

黑盒

测试

CodeLlama-13B-Instruct、DeepSeekCoder-V2-Lite-16B、GPT-OSS-20B 等 7 个

• 攻击越狱
• 技术角色扮演与说服
• 组件护栏与评审
• +1+1

PIDS-Bench：在过度防御、混淆与分布偏移下评测提示注入检测器

提出 PIDS-Bench，评测提示注入检测器在过度防御与分布偏移下的表现

arXiv

2609.15017

发表

9月14日

层

应用层

场景

LLM 应用

测试

PromptGuard 2 (86M)、Llama Guard 3-1B、TF-IDF + logistic regression 等 8 个

• 防御检测与过滤
• 攻击提示注入
• 组件护栏与评审

RAIM：用廉价小模型聚合替代前沿模型做幻觉检测

提出 RAIM，用交叉拟合堆叠聚合廉价评审检测幻觉

arXiv

2609.39229

发表

9月30日

层

应用层

场景

LLM 应用

测试

Llama、Qwen、Mistral 等 15 个

• 防御检测与过滤
• 风险幻觉与编造
• 组件护栏与评审

SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化

提出 SYNCHAIN，诱导计算机使用 Agent 自合成潜伏技能并跨任务触发

arXiv

2608.06862

发表

8月7日

层

应用层

场景

网页与电脑操作、编程 Agent

测试

Llama-3.1-8B、Qwen3.5-9B、Ministral-3-8B 等 5 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件MCP 与技能
• +3+3

LongPIBench：面向长上下文提示注入的评测基准

提出 LongPIBench，评测长文档场景下的提示注入攻击与防御

arXiv

2608.28411

发表

8月28日

层

应用层

场景

LLM 应用

测试

Llama-3.1-8B-Instruct、Llama-3.2-3B-Instruct、MetaSecAlign 8B 等 11 个

• 攻击提示注入

研究提出 ACE 语料库，评估内核级证据对 Agent 安全检测的有效性

构建 ACE 语料并比较内核与应用层证据的攻击检测效果

arXiv

2609.28915

发表

9月24日

层

应用层

场景

编程 Agent

测试

Llama-3.1-8B、AdaBoost、XGBoost 等 13 个

• 防御监控与审计
• 攻击提示注入
• 组件监控器
• +2+2

论文评估 System One 模型在 Agent 安全决策中的可靠性、校准与选择性自动化

评测 System One 模型对 Agent 安全输入的分类可靠性与校准

arXiv

2609.33401

发表

9月27日

层

提示层

场景

LLM 应用

测试

Prompt Guard 2, 86M、Jev 1.13、Decider, approximately 2B 等 14 个

• 攻击提示注入
• 组件护栏与评审