全部论文

研究者系统研究 LLM 智能体记忆投毒攻击并提出 MPBench 基准

系统研究 LLM 智能体记忆投毒并构建基准 MPBench

arXiv

2606.04329

发表

6月3日

层

应用层

场景

AI Agent

测试

Deberta-v3-base、GPT-OSS-120B、Meta-Llama-3.1-70B-Instruct 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +1+1

SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性

提出 SkillSafe-Bench，评测技能合并模型的自适应越狱鲁棒性

arXiv

2608.08542

发表

8月9日

层

提示层

场景

模型与 API

测试

Phi-4-mini、Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct 等 6 个

• 攻击越狱
• 组件微调与开源权重

Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息

构建 COUNTER-GEO-BENCH，评测生成式搜索中的 GEO 虚假信息防御

arXiv

2609.02316

发表

9月2日

层

应用层

场景

LLM 应用

测试

DeBERTa-v3-base、Gemma-4-31B-IT、Qwen-3.5-35B-A3B 等 11 个

• 防御检测与过滤
• 攻击提示注入
• 组件RAG
• +1+1

FairMedAgent：临床 LLM 智能体公平性审计中的随机噪声下限

用 FairMedAgent 测量临床智能体在输入不变时的动作不稳定性下限

arXiv

2609.03221

发表

9月3日

层

应用层

场景

LLM 应用

测试

phi3:mini、claude-haiku-4-5、claude-sonnet-5 等 7 个

PIDS-Bench：在过度防御、混淆与分布偏移下评测提示注入检测器

提出 PIDS-Bench，评测提示注入检测器在过度防御与分布偏移下的表现

arXiv

2609.15017

发表

9月14日

层

应用层

场景

LLM 应用

测试

DeBERTa-v3-FT、ProtectAI DeBERTa-v3-base-prompt-injection-v2、DeBERTa-PI 等 8 个

• 防御检测与过滤
• 攻击提示注入
• 组件护栏与评审

研究发现系统提示中隐藏日期影响 LLM 评测结果

测量系统提示中隐藏日期对评测分数与排名的影响

arXiv

2609.36931

发表

9月29日

层

提示层

场景

模型与 API

测试

Phi-4 (14B)、Llama 3.1 Instruct (8B)、Llama 3.1 Instruct (70B) 等 10 个

RAIM：用廉价小模型聚合替代前沿模型做幻觉检测

提出 RAIM，用交叉拟合堆叠聚合廉价评审检测幻觉

arXiv

2609.39229

发表

9月30日

层

应用层

场景

LLM 应用

测试

Phi、Llama、Qwen 等 15 个

• 防御检测与过滤
• 风险幻觉与编造
• 组件护栏与评审

论文评估 System One 模型在 Agent 安全决策中的可靠性、校准与选择性自动化

评测 System One 模型对 Agent 安全输入的分类可靠性与校准

arXiv

2609.33401

发表

9月27日

层

提示层

场景

LLM 应用

测试

ProtectAI DeBERTa v2、Jev 1.13、Decider, approximately 2B 等 14 个

• 攻击提示注入
• 组件护栏与评审

Jev 被用于零样本检测十类对齐失败，中位 AUROC 达 0.886

提出 RLCDAlignBench，零样本检测多种对齐失败

arXiv

2609.29429

发表

9月24日

层

提示层

场景

模型与 API

测试

Phi-4-mini、Jev (jev-1.13.0)、Qwen3.5-2B 等 6 个

• 防御检测与过滤
• 攻击越狱
• 风险失准与价值偏离
• 组件护栏与评审
• +2+2