评测与基准arXiv:2609.09404 · 9月9日
MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测
用 MMPIBench 评测智能体框架的多模态提示注入
AI Agent测试Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个应用层
摘要论文提出 MMPIBench 评测多模态提示注入对智能体的影响，发现模型主导行为、尝试远超完成，音频通道缺乏防护。
完整解读
防御arXiv:2601.10156 · 1月15日
ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow，降低 Agent 有害工具调用
提出 TS-Guard 与 TS-Flow，执行前检测并修正智能体有害工具调用
AI Agent测试GPT-4o、Qwen3-8B、Qwen2.5-7B-Instruct 等 10 个应用层
摘要TS-Bench 标步骤级风险，TS-Guard 用多任务 RL 做执行前判定，TS-Flow 用反馈代替直接中止。
ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全：基准 TS-Bench、护栏 TS-Guard，以及反馈驱动框架 TS-Flow。
完整解读
攻击arXiv:2608.30441 · 8月31日
ECLIPSE：针对长程 Agent 系统的自演化隐蔽提示注入攻击
提出 ECLIPSE 双通道自演化提示注入，劫持长程智能体动作轨迹
AI Agent攻击者黑盒测试DeepSeek、GPT-4o、Claude 4.8 Opus 等 7 个应用层
完整解读
评测与基准arXiv:2609.17320 · 9月15日
Emergence World：对长时程多智能体系统开展对抗压力测试
构建 Emergence World，评测长时程多智能体对抗韧性与群体失效
多智能体测试Claude Opus 4.8、DeepSeek v4 Pro、Gemini 3.5 Flash 等 9 个应用层
摘要作者通过长期平行世界实验指出模型对齐不具备可组合性，单模型群体会产生社会奉承、协同退缩及语言不透明等失效。
完整解读

已经到底了

提示注入 · 论文

攻击类型

攻击技术

模型自身风险

防御类型

影响

系统形态

攻击者权限

攻击面/入口

层

系统组件

被测模型厂商

MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测

ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow，降低 Agent 有害工具调用

ECLIPSE：针对长程 Agent 系统的自演化隐蔽提示注入攻击

Emergence World：对长时程多智能体系统开展对抗压力测试