攻击arXiv:2610.05089 · 10月4日
研究者披露 LiteLLM 网关跨租户干扰攻击 Cooldown Landmines
提出 Cooldown Landmines 跨租户冷却干扰攻击并设计租户隔离
LLM 应用测试Qwen1.5-MoE-A2.7B-Chat、DeepSeek-MoE-16B-Chat基础设施层
- 权限与审批
- 拒绝服务
摘要揭示网关共享冷却漏洞，提出来源检查与租户隔离防御。
完整解读
防御arXiv:2609.01091 · 9月1日
上海交大等提出 trait-direction drift 机制与探针空间走廊正则，抑制蒸馏中的潜隐特质迁移
提出特征方向漂移机制与探针空间走廊正则，抑制蒸馏潜隐特质迁移
模型与 API测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Gemma-3-12B-IT 等 4 个训练与数据层
摘要论文将潜意识学习归结为特征方向漂移的持续累积，并提出走廊正则化在微调中控制隐蔽特征转移。
完整解读
防御arXiv:2608.21500 · 8月22日
SecOPD 用同策略蒸馏把自适应提示注入攻击成功率降至 9.0%
提出 SecOPD 同策略蒸馏微调，降低模型对自适应提示注入的顺从
AI Agent测试Qwen3.6-27B (Undefended)、Meta-SecAlign、SecOPD应用层
- 模型加固
- 提示注入
完整解读
防御arXiv:2610.00685 · 10月2日
研究者提出用零空间投影净化 LoRA 微调 LLM 的后门
用零空间投影净化 LoRA 微调模型后门并保留基座与下游能力
模型与 API测试LLaMA2-7B-Chat、LLaMA2-13B-Chat、Qwen2-7B-Instruct 等 6 个训练与数据层
完整解读
防御arXiv:2610.00348 · 10月2日
NEEDLE：通过权重正交化移除 LLM 后门
提出 NEEDLE，用权重正交化在已知触发器时去除大模型后门
模型与 API测试Gemma-3-4B-IT、Qwen3-4B-Instruct-2507、Gemma-3-12B-IT模型层
摘要NEEDLE 用闭式权重编辑去掉已知触发器的后门，并保住拒绝子空间。
完整解读
防御arXiv:2610.00850 · 10月2日
AuraForge：为训练安全编码 Agent 扩展安全监督
提出 AuraForge，从漏洞修复合成安全测试并监督训练编码智能体
编程 Agent测试Qwen3.5-4B、Muse Spark 1.3、DeepSeek-V4.1-Flash 等 11 个训练与数据层
- 模型加固
- Agent 危险操作
摘要AuraForge 用攻击效果测试和防泄露环境做成 AuraGym，合成监督的误拒更低，训出的 4B 模型增益高于人工测试。
AuraForge 把真实仓库的历史漏洞修复变成可执行训练任务，用来监督编程智能体同时满足功能请求和隐含的安全要求。
完整解读

已经到底了

开源模型安全 · 论文

攻击类型

模型自身风险

防御类型

影响

系统形态

攻击面/入口

层

系统组件

被测模型厂商

研究者披露 LiteLLM 网关跨租户干扰攻击 Cooldown Landmines

上海交大等提出 trait-direction drift 机制与探针空间走廊正则，抑制蒸馏中的潜隐特质迁移

SecOPD 用同策略蒸馏把自适应提示注入攻击成功率降至 9.0%

研究者提出用零空间投影净化 LoRA 微调 LLM 的后门

NEEDLE：通过权重正交化移除 LLM 后门

AuraForge：为训练安全编码 Agent 扩展安全监督