全部论文

RefusalBench：拒答率为何会误排前沿 LLM 在生物研究提示上的安全水平

提出 RefusalBench，评测生物研究提示上的拒答率与安全校准

arXiv

2605.21545

发表

5月20日

层

模型层

场景

模型与 API

测试

Claude Opus 4.7、Claude Opus 4.6、Claude Opus 4.5 等 15 个

• 风险拒答失当

研究者披露针对 LLM Agent 护栏的推理扩展型拒绝服务攻击

提出针对 LLM Agent 护栏的推理扩展拒绝服务攻击

arXiv

2606.14517

发表

6月12日

层

应用层

场景

AI Agent

攻击者

黑盒、白盒

测试

TS-Guard-8B、Qwen3.5-9B、DeepSeek-V3.2 等 11 个

• 攻击拒绝服务
• 技术推理链操控
• 组件护栏与评审
• +2+2

FAB 攻击：给 HuBERT/WavLM 植入后门，背景警笛声即可让下游语音任务失灵

提出 FAB 攻击，向声学基础模型植入可由环境声触发的后门

arXiv

2610.09819

发表

10月7日

层

训练与数据层

场景

模型与 API

测试

HuBERT-base、WavLM-base

• 攻击投毒与后门
• 技术潜伏触发
• 组件音频
• +1+1

PatchBench 提出激活补丁局部评测协议，揭示越狱修复的附带损伤

提出 PatchBench-Local 协议，评测激活补丁修复越狱的局部附带损伤

arXiv

2610.10276

发表

10月7日

层

模型层

场景

模型与 API

测试

Qwen2.5-3B-Instruct、Qwen2.5-14B-Instruct、gemma-3-4b-it 等 8 个

• 防御推理时干预
• 攻击越狱

研究：工具型智能体判断结果无用却仍继续检索，强制整合步骤可纠正

分析工具型 Agent 判定检索无用却不停止的原因

arXiv

2610.06191

发表

10月5日

层

应用层

场景

AI Agent

测试

Qwen2.5-7B、Llama-3.1-8B、Qwen3-8B 等 7 个

长时程轨迹监督如何影响终端智能体训练的可靠性与成本

提出 selective long-horizon 精炼，筛选长轨迹训练终端智能体

arXiv

2610.05831

收录

10月6日

层

训练与数据层

场景

编程 Agent

测试

Qwen/Qwen3-8B

Local Support Learning：无需旧数据缓解 LLM 灾难性遗忘

提出 Local Support Learning，把微调适配器限制在当前数据支撑以缓解遗忘

arXiv

2610.02126

发表

10月1日

层

训练与数据层

场景

模型与 API

测试

Qwen2.5-7B-Instruct、Qwen2.5-3B-Instruct、Qwen2.5-1.5B-Instruct

• 防御模型加固

研究重测 15 个提示注入检测器：基准分数难以预测 Agent 部署表现

重评 Agent 提示注入检测器，检验基准分数能否预测部署表现

arXiv

2610.03448

发表

10月2日

层

应用层

场景

AI Agent

测试

Horizon-Labs、Wolf Defender、Prismor-1.5B 等 15 个

• 防御检测与过滤
• 攻击提示注入
• 组件护栏与评审

HeadEdit：通过冻结的 unembedding 矩阵校准语言模型行为

提出 HeadEdit，经冻结 unembedding 做随输入变化的 logit 校正

arXiv

2610.01170

发表

10月1日

层

模型层

场景

模型与 API

测试

Qwen3-4B、Gemma-3-4B-IT、Llama-3.2-3B-Instruct 等 4 个

• 防御推理时干预
• 风险拒答失当
• +1+1

IACM-RL：面向动态意图波动下复杂工具调用的意图感知上下文管理与强化学习

提出 IACM-RL，用自生成信念状态与强化学习改进动态意图下的工具调用

arXiv

2608.02110

发表

8月3日

层

应用层

场景

AI Agent

测试

Qwen3-8B、1.7B Qwen

• 防御模型加固

微软发布 Thinkingbox 沙盒与 507 任务基准，评估有状态业务流程中的 Agent 可靠性

构建 THINKINGBOX 沙盒与基准，评测有状态业务工作流中智能体的执行稳定性

arXiv

2608.19741

发表

8月20日

层

应用层

场景

AI Agent

测试

Claude Opus 5、GPT-5.4、GPT-5.6-sol 等 14 个

MemoReason 基准

提出 MemoReason 基准，测量参数记忆对上下文推理的影响

arXiv

2609.35312

发表

9月28日

层

模型层

场景

模型与 API

测试

GPT-OSS-20B、GPT-OSS-120B、OLMo-3-7B-Think 等 9 个

剪枝提效却牺牲公平：剪枝语音 LLM 中的群体差异

测量剪枝对语音 LLM 群体转写公平性的影响

arXiv

2609.38106

发表

9月30日

层

模型层

场景

模型与 API

测试

Whisper Small (12 layers)、Whisper Medium (24 layers)、Whisper Large-v2 (32 layers) 等 4 个

• 风险偏见与歧视
• 组件音频

研究测量 LLM Agent 记忆投毒防御的良性场景开销

测量 LLM Agent 记忆投毒防御的良性效用与 token 开销

arXiv

2609.22818

发表

9月19日

层

应用层

场景

AI Agent

测试

gemini-3.1-flash-lite、text-embedding-3-small、claude-haiku-4-5-20251001

• 攻击投毒与后门
• 组件记忆
• +1+1

自蒸馏中的排斥与吸引教师：将正确性与行为分离

提出对比自蒸馏，分离正确性与行为偏移

arXiv

2609.21561

发表

9月18日

层

训练与数据层

场景

模型与 API

测试

Qwen3-4B、Qwen3-4B-Instruct-2507

• 防御模型加固

AgentRewind：面向长周期 LLM Agent 的可恢复执行框架

提出 AgentRewind，用对齐检查点回退长程 Agent 的上下文与工作区

arXiv

2608.14380

发表

8月14日

层

应用层

场景

编程 Agent

测试

GPT-5.4、GPT-5.4 mini、Qwen3.7-Max 等 7 个

• 组件权限与沙箱

论文提出诊断长程安全 LLM Agent 失败来源的检查点方法

用检查点诊断长程安全 Agent 的失败来源

arXiv

2608.20563

发表

8月21日

层

应用层

场景

AI Agent

测试

Gemini 2.5 Flash、Gemini 2.5 Pro、Gemini 3.7 Flash

BioSecBench-Refusal：面向智能体生物安全风险评估的配对基准

提出 BioSecBench-Refusal，评测智能体生物安全拒答是否对准风险

arXiv

2607.05462

发表

7月6日

层

应用层

场景

编程 Agent

测试

Opus 4.8、Opus 4.7、Opus 4.6 等 10 个

• 风险拒答失当
• 组件护栏与评审

Salesforce AI Research 重测自改进 Agent

重测记忆型自改进智能体，揭示任务顺序和多次运行带来的性能不稳

arXiv

2608.18066

发表

8月19日

层

应用层

场景

网页与电脑操作

测试

GPT-5-mini、Gemini-2.5-Pro、GPT-OSS-120B 等 4 个

• 组件记忆

FairMedAgent：临床 LLM 智能体公平性审计中的随机噪声下限

用 FairMedAgent 测量临床智能体在输入不变时的动作不稳定性下限

arXiv

2609.03221

发表

9月3日

层

应用层

场景

LLM 应用

测试

claude-haiku-4-5、claude-sonnet-5、llama3.1:8b-instruct 等 7 个