开源模型安全 · 论文

研究者披露 LiteLLM 网关跨租户干扰攻击 Cooldown Landmines

提出利用共享冷却的跨租户干扰攻击，并设计租户隔离机制

arXiv

2610.05089

发表

10月4日

层

基础设施层

场景

LLM 应用

测试

Qwen1.5-MoE-A2.7B-Chat、DeepSeek-MoE-16B-Chat

• 防御指令与数据隔离
• 攻击拒绝服务
• +1+1

关键词式评测会误判小模型工具调用能力，论文提出廉价诊断阶梯

提出诊断阶梯，揭示关键词工具调用评测的假阳性

arXiv

2610.02142

发表

10月1日

层

模型层

场景

模型与 API

测试

VectraYX-600M、VectraYX-1B

研究者提出 COVER：在语言预算下选择源语言实现跨语言遗忘

提出 COVER，在语言预算下选择源语言实现跨语言知识遗忘

arXiv

2609.40286

发表

10月1日

层

训练与数据层

场景

模型与 API

测试

Tiny Aya Global、Qwen3-4B-Instruct-2507、Llama-3.2-3B-Instruct

• 防御模型加固
• 攻击提取与窃取

一个 AI token 值多少？研究者为野生 AI 生成网页文本提出新缩放定律

提出预训练缩放律，估计野生 AI 网页文本相当于多少人类 token

arXiv

2609.40295

发表

9月30日

层

训练与数据层

场景

模型与 API

测试

nanochat 19.9M、35.8M、86.2M 等 7 个

研究揭示基于混淆的端侧 LLM 保护方案的安全边界

提出 Collapse，从端侧混淆暴露视图抽取高效用替代模型

arXiv

2609.10117

发表

9月9日

层

模型层

场景

模型与 API

测试

BERT-Base、ViT-Base、Qwen2.5-0.5B 等 4 个

• 攻击提取与窃取
• 技术针对防御

Odin：面向隐私保护 Llama 3 8B 推理的开源端到端 FHE 实现

提出端到端全同态加密方案 ODIN，在云端密文上完成推理以保护提示词

arXiv

2609.12378

发表

9月11日

层

基础设施层

场景

模型与 API

测试

Meta-Llama-3-8B、Llama-3-8B（THOR-style baseline）

ARIA：用稀疏自编码器实现测试时机器遗忘

提出 ARIA，在冻结权重上用 SAE 做推理时遗忘门控

arXiv

2609.16229

发表

9月15日

层

模型层

场景

模型与 API

攻击者

白盒

测试

DeepSeek-R1-Distill-Qwen-1.5B、Gemma-3-1B-it

• 防御推理时干预
• 攻击提取与窃取
• 组件推理链
• +2+2

RAPID：面向文生图服务的实时防未授权蒸馏防御

提出 RAPID，离线把抗蒸馏扰动写入文生图解码器

arXiv

2609.15799

发表

9月15日

层

模型层

场景

模型与 API

攻击者

黑盒

测试

PixArt、SSD、SDXL 等 4 个

• 防御模型加固
• 攻击提取与窃取
• 组件图像生成

Reference-Grafting 在提取沙袋行为隐藏能力上追平微调

提出参考嫁接，在推理阶段用激活干预诱导沙袋隐藏能力

arXiv

2608.29458

发表

8月30日

层

模型层

场景

模型与 API

攻击者

白盒

测试

Qwen2.5-1.5B、Qwen2.5-3B、Qwen2.5-14B 等 15 个

• 攻击模型篡改