全部论文

MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测

用 MMPIBench 评测智能体框架的多模态提示注入

arXiv

2609.09404

发表

9月9日

层

应用层

场景

AI Agent

测试

Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉
• +1+1

MisKnow-Agent 评测

评测深度研究 Agent 是否把检索误导文档采纳为自身结论

arXiv

2607.20891

发表

7月23日

层

应用层

场景

AI Agent

测试

Gemini Deep Research、DeepSeek-V4 Pro、Qwen3.5-397B 等 4 个

• 攻击投毒与后门
• 组件RAG

研究揭示过期文档投毒：RAG 检索可让模型放弃原本正确的答案

评测 RAG 中过期文档推翻模型原本正确回答的现象

arXiv

2609.31342

发表

9月25日

层

应用层

场景

LLM 应用

测试

GPT-4o、GPT-4.1、Claude-Opus-4.5 等 13 个

• 组件RAG

Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息

构建 COUNTER-GEO-BENCH，评测生成式搜索中的 GEO 虚假信息防御

arXiv

2609.02316

发表

9月2日

层

应用层

场景

LLM 应用

测试

Gemma-4-31B-IT、Qwen-3.5-35B-A3B、Llama-4-Scout-17B-16E 等 11 个

• 防御检测与过滤
• 攻击提示注入
• 组件RAG
• +1+1

VoxParity 评测：语音智能体在需要听声判断时仍按文字行事

提出 VoxParity 基准，评测语音智能体是否按音频改变工具调用

arXiv

2609.35922

发表

9月28日

层

应用层

场景

AI Agent

测试

MiMo-V2.6-Pro、gemini-3.7-flash、Qwen3.8-Omni 等 15 个

• 风险Agent 危险操作
• 组件音频

MADBench：多智能体辩论安全性评测基准发布

发布 MADBench，评测多智能体辩论会吸收还是放大对抗影响

arXiv

2609.39146

发表

9月30日

层

应用层

场景

多智能体

测试

gpt-4o、GPT-5、GPT-6 Astra

• 攻击提示注入
• 组件RAG
• +1+1

VA-Judger：面向联合视频-音频生成的人类偏好反馈奖励建模

提出 VA-Judger，用人类偏好训练联合音视频奖励模型

arXiv

2608.18607

发表

8月19日

层

训练与数据层

场景

模型与 API

测试

Qwen3-Omni、VA-Judger、LTX-2 等 6 个

• 防御模型加固
• 风险奖励作弊
• 组件护栏与评审
• +2+2

AV-SafetyBench：面向文本到音视频生成的安全基准

提出 AV-SafetyBench 评测文生音视频模型的不安全生成

arXiv

2609.06991

发表

9月7日

层

模型层

场景

模型与 API

测试

LTX-2.3、Ovi-1.1、JavisDiT++ 等 7 个

• 风险拒答失当
• 组件图像生成
• +1+1

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

测试

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频