10月8日 · 周四

开源模型安全 · 论文

找到 3 篇

筛选2

攻击类型

投毒与后门2 拒绝服务1

攻击技术

梯度与表征优化1 自动化搜索1 潜伏触发1

防御类型

权限与审批1

影响

有害内容1 越权操作1 可用性与可靠性1

系统形态

模型与 API1 LLM 应用1 AI Agent1

攻击面/入口

训练数据1 权重与梯度1 分发渠道1 推理服务与硬件1

层

提示层1 模型层2 训练与数据层2 基础设施层1

系统组件

微调与开源权重2

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 90 篇还没打标签，不在筛选结果里。

层：训练与数据层层：基础设施层话题：开源模型安全清除全部

另有 90 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2610.05089 · 10月4日
研究者披露 LiteLLM 网关跨租户干扰攻击 Cooldown Landmines
提出 Cooldown Landmines 跨租户冷却干扰攻击并设计租户隔离
LLM 应用测试Qwen1.5-MoE-A2.7B-Chat、DeepSeek-MoE-16B-Chat基础设施层
- 权限与审批
- 拒绝服务
摘要揭示网关共享冷却漏洞，提出来源检查与租户隔离防御。
完整解读
攻击arXiv:2610.01367 · 10月2日
研究：高质量数据筛选挡不住投毒
提出 Bi-QSTO，优化能穿过质量筛选并在微调中削弱安全对齐的投毒样本
模型与 API测试Llama2-7B-Chat、Llama3-8B-Instruct、Qwen2-7B-Instruct 等 5 个训练与数据层
摘要质量筛选挡不住部分高分样本的安全削弱。
Bi-QSTO 研究一个实际训练缺口：基于质量的数据选择会先于微调决定样本去留，而以往微调投毒多假设毒样本直接进入训练集。已对齐 LLM 的拒答会被少量有害或看似无害的微调样本削弱。作者用三个问题串起实验：选择能否排除毒样本。
完整解读
攻击arXiv:2609.14060 · 9月13日
AgentQ：针对 LLM Agent 的量化条件后门攻击
提出 AGENTQ，向开源智能体权重植入仅在量化后触发的恶意工具后门
AI Agent测试Qwen3.5-2B、Qwen3.5-4B、Qwen3.5-9B 等 6 个训练与数据层
摘要论文研究了智能体量化条件后门风险，提出 AGENTQ 在保持效用的同时实现全精度隐蔽与量化后生效。
完整解读

已经到底了