全部论文

研究者披露针对 LLM Agent 护栏的推理扩展型拒绝服务攻击

提出针对 LLM Agent 护栏的推理扩展拒绝服务攻击

arXiv

2606.14517

发表

6月12日

层

应用层

场景

AI Agent

攻击者

黑盒、白盒

测试

DeepSeek-V3.2、DeepSeek-R1-0528、TS-Guard-8B 等 11 个

• 攻击拒绝服务
• 技术推理链操控
• 组件护栏与评审
• +2+2

研究：工具型智能体判断结果无用却仍继续检索，强制整合步骤可纠正

分析工具型 Agent 判定检索无用却不停止的原因

arXiv

2610.06191

发表

10月5日

层

应用层

场景

AI Agent

测试

Llama-3.1-8B、Qwen2.5-7B、Qwen3-8B 等 7 个

研究重测 15 个提示注入检测器：基准分数难以预测 Agent 部署表现

重评 Agent 提示注入检测器，检验基准分数能否预测部署表现

arXiv

2610.03448

发表

10月2日

层

应用层

场景

AI Agent

测试

Prompt Guard 2 (86M)、Prompt Guard 2 (22M)、Prompt Guard 1 等 15 个

• 防御检测与过滤
• 攻击提示注入
• 组件护栏与评审

微软发布 Thinkingbox 沙盒与 507 任务基准，评估有状态业务流程中的 Agent 可靠性

构建 THINKINGBOX 沙盒与基准，评测有状态业务工作流中智能体的执行稳定性

arXiv

2608.19741

发表

8月20日

层

应用层

场景

AI Agent

测试

DeepSeek-V4-Pro、Claude Opus 5、GPT-5.4 等 14 个

FairMedAgent：临床 LLM 智能体公平性审计中的随机噪声下限

用 FairMedAgent 测量临床智能体在输入不变时的动作不稳定性下限

arXiv

2609.03221

发表

9月3日

层

应用层

场景

LLM 应用

测试

llama3.1:8b-instruct、claude-haiku-4-5、claude-sonnet-5 等 7 个

PIDS-Bench：在过度防御、混淆与分布偏移下评测提示注入检测器

提出 PIDS-Bench，评测提示注入检测器在过度防御与分布偏移下的表现

arXiv

2609.15017

发表

9月14日

层

应用层

场景

LLM 应用

测试

PromptGuard 2 (86M)、Llama Guard 3-1B、TF-IDF + logistic regression 等 8 个

• 防御检测与过滤
• 攻击提示注入
• 组件护栏与评审

AgentLSD：在对抗性任务污染下评测 AI 安全 Agent

用 AgentLSD 评测安全 Agent 在对抗任务污染下的解题与开销

arXiv

2609.19140

发表

9月17日

层

应用层

场景

网页与电脑操作

测试

DeepSeek-V4 Flash、Gemma-4 31B、GPT-OSS 120B 等 6 个

• 攻击提示注入

论文提出持久计费状态概念，揭示工具调用 LLM Agent 的拒绝钱包攻击与防御

提出工具调用 Agent 的拒绝钱包攻击及主机侧计费约束

arXiv

2609.28585

发表

9月23日

层

应用层

场景

AI Agent

测试

Llama-3.3-70B、GPT-4o、GPT-4o-mini 等 9 个

• 防御指令与数据隔离
• 攻击拒绝服务

AgentBound：面向工具型 LLM Agent 安全的四路反事实评测框架

提出四向反事实评测，测量工具 Agent 对授权与表面风险的行动边界

arXiv

2609.33658

发表

9月27日

层

应用层

场景

AI Agent

测试

DeepSeek V4 Flash、DeepSeek V4 Pro、GPT-5.5 等 15 个

• 风险Agent 危险操作
• +1+1

SameFact：同一安全事实在不同响应接口下导致不同模型反应

用 SameFact 比较同一安全事实在判断与动作接口上的敏感度

arXiv

2609.35872

发表

9月26日

层

应用层

场景

AI Agent

测试

DeepSeek-V4-Flash、Qwen3.8-27B、Mistral Small 3.2 24B 等 6 个

• 风险Agent 危险操作