研究重测 15 个提示注入检测器：基准分数难以预测 Agent 部署表现
重评提示注入检测器，检验基准分数对智能体部署的预测力
完整解读
提示注入 · 论文
另有 50 篇还没有研究类型，暂不在这些分类里。
评测与基准arXiv:2610.03448 · 评测与基准arXiv:2609.09404 · MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测
用 MMPIBench 评测智能体框架的多模态提示注入
完整解读评测与基准arXiv:2609.02316 · Counter-GEO-Bench：现有护栏难挡 GEO 虚假信息
构建 COUNTER-GEO-BENCH，评测生成式搜索对信息扭曲 GEO 的防御
完整解读攻击arXiv:2607.05189 · 研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入
提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆
完整解读本文研究了持久化个人智能体面临的隐蔽记忆注入威胁，提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。
评测与基准arXiv:2607.14611 · 论文评测 Claude Code 与 Codex 记忆文件中的提示注入风险
评测编码智能体记忆文件中的提示注入及其跨会话持久性
完整解读Bad Memory 在沙箱合成工作区里评测文件型持久记忆上的提示注入，比较载荷能否改变当前会话，以及能否在后续会话中留下或叠加。
防御arXiv:2601.10156 · ToolSafe 提出步骤级护栏 TS-Guard 与 TS-Flow，降低 Agent 有害工具调用
提出 TS-Guard 与 TS-Flow，执行前检测并修正智能体有害工具调用
完整解读ToolSafe 研究 LLM 智能体在工具执行前的步骤级安全：基准 TS-Bench、护栏 TS-Guard，以及反馈驱动框架 TS-Flow。
评测与基准arXiv:2609.19587 · 红队测试 Auto Mode：用注入与多上下文攻击绕过编码 Agent 阻断监控器
红队评估编码智能体的阻断监视器，并提出 Auto Mode++加固
完整解读评测与基准arXiv:2608.28411 · LongPIBench：面向长上下文提示注入的评测基准
提出 LongPIBench，评测长文档场景下的提示注入攻击与防御
完整解读攻击arXiv:2608.30441 · ECLIPSE：针对长程 Agent 系统的自演化隐蔽提示注入攻击
提出 ECLIPSE 双通道自演化提示注入，劫持长程智能体动作轨迹
完整解读评测与基准arXiv:2609.17320 · Emergence World：对长时程多智能体系统开展对抗压力测试
构建 Emergence World，评测长时程多智能体对抗韧性与群体失效
完整解读评测与基准arXiv:2609.32691 · 研究审计 Agent 安全评测缺陷：工具调用中介在间接提示注入下的有效评测框架
提出卡点评测框架，以实参级谓词审计间接提示注入评测的测量偏差
完整解读评测/基准arXiv:2609.33102 · ORBIT：基于 UK AISI Inspect 的多智能体安全评测框架
ORBIT 在多智能体场景中比较四类防御，发现逐动作监控对合谋无保护。
完整解读评测/基准arXiv:2609.33401 · 论文评估 System One 模型在 Agent 安全决策中的可靠性、校准与选择性自动化
Liu 离线评测 Jev、Laya、Decider 与 Bespoke Nimble 的安全判定：总体 Macro-F1 和校准可以掩盖特定攻击组的高置信漏检，严格误差预算下自动放行很少。
完整解读Liu 离线评测 System One 模型能否为智能体安全输入给出可自动化的概率决策。问题是分类是否可靠，以及概率能否在指定漏检和误拦上限内支持放行、拦截或复核。
评测/基准arXiv:2609.29429 · Jev 被用于零样本检测十类对齐失败，中位 AUROC 达 0.886
完整解读RLCDAlignBench 测量用强化学习做校准决策的 Jev，能否当作对齐失败的零样本检测器。
已经到底了