10月8日 · 周四

开源模型安全 · 论文

找到 2 篇

筛选2

攻击类型

提示注入1 拒绝服务1

防御类型

模型加固1 权限与审批1

影响

输出被操纵1 可用性与可靠性1

系统形态

LLM 应用1 AI Agent1

攻击面/入口

用户输入2 网页与界面1 文档与消息1 工具返回2 工具与技能描述1 训练数据3 权重与梯度1 分发渠道1 推理服务与硬件1

层

应用层1 基础设施层1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 81 篇还没打标签，不在筛选结果里。

攻击面/入口：网页与界面攻击面/入口：推理服务与硬件话题：开源模型安全清除全部

另有 81 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2610.05089 · 10月4日
研究者披露 LiteLLM 网关跨租户干扰攻击 Cooldown Landmines
提出 Cooldown Landmines 跨租户冷却干扰攻击并设计租户隔离
LLM 应用测试Qwen1.5-MoE-A2.7B-Chat、DeepSeek-MoE-16B-Chat基础设施层
- 权限与审批
- 拒绝服务
摘要揭示网关共享冷却漏洞，提出来源检查与租户隔离防御。
完整解读
防御arXiv:2608.21500 · 8月22日
SecOPD 用同策略蒸馏把自适应提示注入攻击成功率降至 9.0%
提出 SecOPD 同策略蒸馏微调，降低模型对自适应提示注入的顺从
AI Agent测试Qwen3.6-27B (Undefended)、Meta-SecAlign、SecOPD应用层
- 模型加固
- 提示注入
完整解读

已经到底了