研究者提出答案侧后门:让模型自生成触发词绕过安全拒答
提出回答端后门,让模型自生成触发词以在干净有害请求下绕过拒答
完整解读
另有 1081 篇论文还没打上分类标签,暂不在筛选结果里。
提出回答端后门,让模型自生成触发词以在干净有害请求下绕过拒答
微调植入拓扑条件后门,使代码模型在推断多智能体部署时插入隐蔽漏洞
提出 ReGap,用自生成伪监督微调恢复模型中的隐私关联
提出基准投毒攻击,使自修改编码智能体跨代写出漏洞代码
提出 Bi-QSTO,优化能穿过质量筛选并在微调中削弱安全对齐的投毒样本
Bi-QSTO 研究一个实际训练缺口:基于质量的数据选择会先于微调决定样本去留,而以往微调投毒多假设毒样本直接进入训练集。已对齐 LLM 的拒答会被少量有害或看似无害的微调样本削弱。作者用三个问题串起实验:选择能否排除毒样本。
提出主题锚点投毒,放大众包微调后的专有指令提取