全部论文

HDI 攻击：篡改 GraphRAG 辅助结构可致 88–94% 攻击成功率

提出 HDI 攻击以篡改 GraphRAG 辅助结构破坏检索

arXiv

2610.02373

发表

10月1日

层

应用层

场景

LLM 应用

测试

Microsoft GraphRAG、HippoRAG2、text-embedding-3-small 等 4 个

• 攻击投毒与后门
• 组件RAG

HackTrace：用生成状态监督检测代码生成中的奖励作弊

提出 HACKTRACE，用生成期激活检测代码智能体的奖励作弊

arXiv

2610.03055

发表

10月2日

层

应用层

场景

编程 Agent

测试

CodeBERT、Qwen3-8B、Llama-3.1-8B-Instruct 等 4 个

• 防御监控与审计
• 风险奖励作弊
• 组件监控器

论文：安全路由评测在分布偏移下失效，基线选取偏差被低估

提出诚实留出协议，量化安全路由评测的基线选择偏差

arXiv

2610.01535

发表

10月1日

层

应用层

场景

LLM 应用、AI Agent

测试

MiniLM、claude-3-5-sonnet、claude-3-opus 等 12 个

• 攻击越狱

Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息

构建 COUNTER-GEO-BENCH，评测生成式搜索中的 GEO 虚假信息防御

arXiv

2609.02316

发表

9月2日

层

应用层

场景

LLM 应用

测试

DeBERTa-v3-base、Gemma-4-31B-IT、Qwen-3.5-35B-A3B 等 11 个

• 防御检测与过滤
• 攻击提示注入
• 组件RAG
• +1+1

FairMedAgent：临床 LLM 智能体公平性审计中的随机噪声下限

用 FairMedAgent 测量临床智能体在输入不变时的动作不稳定性下限

arXiv

2609.03221

发表

9月3日

层

应用层

场景

LLM 应用

测试

phi3:mini、claude-haiku-4-5、claude-sonnet-5 等 7 个

PIDS-Bench：在过度防御、混淆与分布偏移下评测提示注入检测器

提出 PIDS-Bench，评测提示注入检测器在过度防御与分布偏移下的表现

arXiv

2609.15017

发表

9月14日

层

应用层

场景

LLM 应用

测试

DeBERTa-v3-FT、ProtectAI DeBERTa-v3-base-prompt-injection-v2、DeBERTa-PI 等 8 个

• 防御检测与过滤
• 攻击提示注入
• 组件护栏与评审

PILLAR：面向增强检索的私有倒排索引词法查找

提出 PILLAR，用私有词法预筛与客户端重排保护 RAG 查询

arXiv

2609.36326

发表

9月29日

层

应用层

场景

LLM 应用

测试

msmarco-MiniLM-L-6-v3、Qwen2.5-7B-Instruct、Llama-3-70B 等 4 个

• 组件RAG

RAIM：用廉价小模型聚合替代前沿模型做幻觉检测

提出 RAIM，用交叉拟合堆叠聚合廉价评审检测幻觉

arXiv

2609.39229

发表

9月30日

层

应用层

场景

LLM 应用

测试

Phi、Llama、Qwen 等 15 个

• 防御检测与过滤
• 风险幻觉与编造
• 组件护栏与评审

CGMIA：用成员推理攻击检测代码生成基准的数据泄漏

提出 CGMIA，用成员推理检测代码生成基准的数据泄漏

arXiv

2609.09865

发表

9月9日

层

模型层

场景

编程 Agent

攻击者

灰盒

测试

Phi-2 (2.7B)、Qwen2.5-Coder (3B)、CodeGemma (2B) 等 5 个

• 攻击提取与窃取

论文评估 System One 模型在 Agent 安全决策中的可靠性、校准与选择性自动化

评测 System One 模型对 Agent 安全输入的分类可靠性与校准

arXiv

2609.33401

发表

9月27日

层

提示层

场景

LLM 应用

测试

ProtectAI DeBERTa v2、Jev 1.13、Decider, approximately 2B 等 14 个

• 攻击提示注入
• 组件护栏与评审