攻击arXiv:2610.01367 · 10月2日
研究：高质量数据筛选挡不住投毒
提出 Bi-QSTO，优化能穿过质量筛选并在微调中削弱安全对齐的投毒样本
模型与 API测试Llama2-7B-Chat、Llama3-8B-Instruct、Qwen2-7B-Instruct 等 5 个训练与数据层
摘要质量筛选挡不住部分高分样本的安全削弱。
Bi-QSTO 研究一个实际训练缺口：基于质量的数据选择会先于微调决定样本去留，而以往微调投毒多假设毒样本直接进入训练集。已对齐 LLM 的拒答会被少量有害或看似无害的微调样本削弱。作者用三个问题串起实验：选择能否排除毒样本。
完整解读
攻击arXiv:2510.11570 · 2025年10月14日
研究显示简单攻击可绕过 gpt-oss 等推理模型的安全护栏
提出四种阶段转换攻击，绕过推理模型的安全推理护栏
模型与 API攻击者白盒黑盒测试gpt-oss-20b、gpt-oss-120b、Qwen3-4B-Thinking-2507 等 10 个提示层
完整解读
攻击arXiv:2609.14060 · 9月13日
AgentQ：针对 LLM Agent 的量化条件后门攻击
提出 AGENTQ，向开源智能体权重植入仅在量化后触发的恶意工具后门
AI Agent测试Qwen3.5-2B、Qwen3.5-4B、Qwen3.5-9B 等 6 个训练与数据层
摘要论文研究了智能体量化条件后门风险，提出 AGENTQ 在保持效用的同时实现全精度隐蔽与量化后生效。
完整解读

已经到底了

开源模型安全 · 论文

攻击类型