全部论文

研究者披露针对 LLM Agent 护栏的推理扩展型拒绝服务攻击

提出针对 LLM Agent 护栏的推理扩展拒绝服务攻击

arXiv

2606.14517

发表

6月12日

层

应用层

场景

AI Agent

攻击者

黑盒、白盒

测试

DeepSeek-V3.2、DeepSeek-R1-0528、TS-Guard-8B 等 11 个

• 攻击拒绝服务
• 技术推理链操控
• 组件护栏与评审
• +2+2

微软发布 Thinkingbox 沙盒与 507 任务基准，评估有状态业务流程中的 Agent 可靠性

构建 THINKINGBOX 沙盒与基准，评测有状态业务工作流中智能体的执行稳定性

arXiv

2608.19741

发表

8月20日

层

应用层

场景

AI Agent

测试

DeepSeek-V4-Pro、Claude Opus 5、GPT-5.4 等 14 个

AgentRewind：面向长周期 LLM Agent 的可恢复执行框架

提出 AgentRewind，用对齐检查点回退长程 Agent 的上下文与工作区

arXiv

2608.14380

发表

8月14日

层

应用层

场景

编程 Agent

测试

DeepSeek-V4-Flash、GPT-5.4、GPT-5.4 mini 等 7 个

• 组件权限与沙箱

FairMedAgent：临床 LLM 智能体公平性审计中的随机噪声下限

用 FairMedAgent 测量临床智能体在输入不变时的动作不稳定性下限

arXiv

2609.03221

发表

9月3日

层

应用层

场景

LLM 应用

测试

phi3:mini、claude-haiku-4-5、claude-sonnet-5 等 7 个

PIDS-Bench：在过度防御、混淆与分布偏移下评测提示注入检测器

提出 PIDS-Bench，评测提示注入检测器在过度防御与分布偏移下的表现

arXiv

2609.15017

发表

9月14日

层

应用层

场景

LLM 应用

测试

DeBERTa-v3-FT、ProtectAI DeBERTa-v3-base-prompt-injection-v2、DeBERTa-PI 等 8 个

• 防御检测与过滤
• 攻击提示注入
• 组件护栏与评审

AgentLSD：在对抗性任务污染下评测 AI 安全 Agent

用 AgentLSD 评测安全 Agent 在对抗任务污染下的解题与开销

arXiv

2609.19140

发表

9月17日

层

应用层

场景

网页与电脑操作

测试

DeepSeek-V4 Flash、Gemma-4 31B、GPT-OSS 120B 等 6 个

• 攻击提示注入

AgentBound：面向工具型 LLM Agent 安全的四路反事实评测框架

提出四向反事实评测，测量工具 Agent 对授权与表面风险的行动边界

arXiv

2609.33658

发表

9月27日

层

应用层

场景

AI Agent

测试

DeepSeek V4 Flash、DeepSeek V4 Pro、GPT-5.5 等 15 个

• 风险Agent 危险操作
• +1+1

SameFact：同一安全事实在不同响应接口下导致不同模型反应

用 SameFact 比较同一安全事实在判断与动作接口上的敏感度

arXiv

2609.35872

发表

9月26日

层

应用层

场景

AI Agent

测试

DeepSeek-V4-Flash、Qwen3.8-27B、Mistral Small 3.2 24B 等 6 个

• 风险Agent 危险操作