全部论文

研究者披露 LiteLLM 网关跨租户干扰攻击 Cooldown Landmines

提出利用共享冷却的跨租户干扰攻击，并设计租户隔离机制

arXiv

2610.05089

发表

10月4日

层

基础设施层

场景

LLM 应用

测试

Qwen1.5-MoE-A2.7B-Chat、DeepSeek-MoE-16B-Chat

• 防御指令与数据隔离
• 攻击拒绝服务
• +1+1

AgentRewind：面向长周期 LLM Agent 的可恢复执行框架

提出 AgentRewind，用对齐检查点回退长程 Agent 的上下文与工作区

arXiv

2608.14380

发表

8月14日

层

应用层

场景

编程 Agent

测试

GPT-5.4、GPT-5.4 mini、Qwen3.7-Max 等 7 个

• 组件权限与沙箱

BioSecBench-Refusal：面向智能体生物安全风险评估的配对基准

提出 BioSecBench-Refusal，评测智能体生物安全拒答是否对准风险

arXiv

2607.05462

发表

7月6日

层

应用层

场景

编程 Agent

测试

Opus 4.8、Opus 4.7、Opus 4.6 等 10 个

• 风险拒答失当
• 组件护栏与评审

Salesforce AI Research 重测自改进 Agent

重测记忆型自改进智能体，揭示任务顺序和多次运行带来的性能不稳

arXiv

2608.18066

发表

8月19日

层

应用层

场景

网页与电脑操作

测试

GPT-5-mini、Gemini-2.5-Pro、GPT-OSS-120B 等 4 个

• 组件记忆

FairMedAgent：临床 LLM 智能体公平性审计中的随机噪声下限

用 FairMedAgent 测量临床智能体在输入不变时的动作不稳定性下限

arXiv

2609.03221

发表

9月3日

层

应用层

场景

LLM 应用

测试

claude-haiku-4-5、claude-sonnet-5、llama3.1:8b-instruct 等 7 个

论文发现暴露模型身份标签会削弱多智能体 LLM 合作

测量公开模型家族标签引发的多智能体派系化与合作下降

arXiv

2609.35928

发表

9月28日

层

应用层

场景

多智能体

测试

Gemma (gemma-4-26B-A4B-it)、GPT-OSS (gpt-oss-20b)、Nemotron (NVIDIA-Nemotron-3-Nano-30B-A3B-BF16) 等 6 个

• 风险失准与价值偏离

PIDS-Bench：在过度防御、混淆与分布偏移下评测提示注入检测器

提出 PIDS-Bench，评测提示注入检测器在过度防御与分布偏移下的表现

arXiv

2609.15017

发表

9月14日

层

应用层

场景

LLM 应用

测试

TF-IDF + logistic regression、DistilBERT、DeBERTa-v3-FT 等 8 个

• 防御检测与过滤
• 攻击提示注入
• 组件护栏与评审

AgentLSD：在对抗性任务污染下评测 AI 安全 Agent

用 AgentLSD 评测安全 Agent 在对抗任务污染下的解题与开销

arXiv

2609.19140

发表

9月17日

层

应用层

场景

网页与电脑操作

测试

Gemma-4 31B、DeepSeek-V4 Flash、GPT-OSS 120B 等 6 个

• 攻击提示注入

Mid-Harness：在模型与 Harness 之间扩展终端智能体的动作采样

提出 Mid-Harness，在执行前验证并选择终端智能体的候选动作

arXiv

2609.39982

发表

9月30日

层

应用层

场景

编程 Agent

测试

TMAX-9B、TMAX-4B、TMAX-27B 等 8 个