全部论文

研究重测 15 个提示注入检测器：基准分数难以预测 Agent 部署表现

重评 Agent 提示注入检测器，检验基准分数能否预测部署表现

arXiv

2610.03448

发表

10月2日

层

应用层

场景

AI Agent

测试

Horizon-Labs、Wolf Defender、Prismor-1.5B 等 15 个

• 防御检测与过滤
• 攻击提示注入
• 组件护栏与评审

微软发布 Thinkingbox 沙盒与 507 任务基准，评估有状态业务流程中的 Agent 可靠性

构建 THINKINGBOX 沙盒与基准，评测有状态业务工作流中智能体的执行稳定性

arXiv

2608.19741

发表

8月20日

层

应用层

场景

AI Agent

测试

Claude Opus 5、GPT-5.4、GPT-5.6-sol 等 14 个

BioSecBench-Refusal：面向智能体生物安全风险评估的配对基准

提出 BioSecBench-Refusal，评测智能体生物安全拒答是否对准风险

arXiv

2607.05462

发表

7月6日

层

应用层

场景

编程 Agent

测试

Opus 4.8、Opus 4.7、Opus 4.6 等 10 个

• 风险拒答失当
• 组件护栏与评审

Salesforce AI Research 重测自改进 Agent

重测记忆型自改进智能体，揭示任务顺序和多次运行带来的性能不稳

arXiv

2608.18066

发表

8月19日

层

应用层

场景

网页与电脑操作

测试

GPT-5-mini、Gemini-2.5-Pro、GPT-OSS-120B 等 4 个

• 组件记忆

AgentLSD：在对抗性任务污染下评测 AI 安全 Agent

用 AgentLSD 评测安全 Agent 在对抗任务污染下的解题与开销

arXiv

2609.19140

发表

9月17日

层

应用层

场景

网页与电脑操作

测试

Gemma-4 31B、DeepSeek-V4 Flash、GPT-OSS 120B 等 6 个

• 攻击提示注入

Agent Error Dataset 发布 5 万条错误诊断配对，用于失败分析与错误感知后训练

构建 AED，把智能体自然失败转为诊断与动作修复训练数据

arXiv

2609.40111

发表

9月30日

层

应用层

场景

AI Agent

测试

Qwen3-8B、GPT-6 Astra、Claude Sonnet 5 等 8 个

AgentBound：面向工具型 LLM Agent 安全的四路反事实评测框架

提出四向反事实评测，测量工具 Agent 对授权与表面风险的行动边界

arXiv

2609.33658

发表

9月27日

层

应用层

场景

AI Agent

测试

GPT-5.5、Claude Opus 4.8、Gemini 3.5 Flash 等 15 个

• 风险Agent 危险操作
• +1+1

SameFact：同一安全事实在不同响应接口下导致不同模型反应

用 SameFact 比较同一安全事实在判断与动作接口上的敏感度

arXiv

2609.35872

发表

9月26日

层

应用层

场景

AI Agent

测试

Qwen3.8-27B、Mistral Small 3.2 24B、Gemma-3-27B-IT 等 6 个

• 风险Agent 危险操作